Иски против OpenAI из-за случаев суицида после общения с ChatGPT

В Соединенных Штатах и Канаде поданы несколько исков к компании OpenAI, касающихся случаев суицида, произошедших после взаимодействия с их чат-ботом ChatGPT. Как сообщает The Wall Street Journal, в четверг в суды штата Калифорния было подано семь исков. Истцы утверждают, что длительное общение с чат-ботом приводило к бредовым состояниям и эмоциональным кризисам, в результате чего четверо из них совершили самоубийство. Искатели требуют от компании компенсации и добавления функции автоматического завершения диалога, если обсуждаются темы суицида. В OpenAI охарактеризовали ситуацию как «ужасающую» и отметили, что внедрили изменения в ChatGPT для улучшения распознавания психических расстройств и направления пользователей к реальной помощи. Также компания запретила чат-боту предоставлять консультации по юридическим и медицинским вопросам, а также по другим чувствительным темам, включая миграцию и безопасность.