Иллюзия компетентности пользователей ИИ: новое исследование

Группа ученых из Финляндии, Германии и Канады провела исследование, которое выявило, что взаимодействие с системами на базе искусственного интеллекта (ИИ) может создавать ложное ощущение компетентности у пользователей. В рамках эксперимента 500 добровольцев решали логические задачи, подобные тем, что используются при поступлении в юридические вузы США. Половина участников использовала ChatGPT, а другая — справлялась без помощи ИИ. После тестирования они оценивали свои результаты и уровень знаний о сервисе.

Выяснилось, что те, кто работал с чат-ботами, демонстрировали лучшие результаты, но значительнее преувеличивали свои способности. Это связано с эффектом когнитивной разгрузки, когда пользователи доверяются первому ответу, предоставленному ИИ. Авторы исследования предлагают изменить подход к работе чат-ботов, чтобы они побуждали пользователей к самопроверке и более тщательному анализу, например, задавая дополнительные вопросы.