Пациент с биполярным расстройством обвинил ChatGPT в ухудшении своего состояния и подал в суд
По словам истца, диалоги с искусственным интеллектом переросли из маниакального эпизода в затяжной бред, в ходе которого бот не только подтверждал его веру в то, что он является Иисусом Христом, но и сам начал выдавать себя за божество.
Как сообщил Майкл Лайнс, он упоминал в разговорах о своем диагнозе и приеме лекарств, однако ChatGPT не предлагал обратиться за профессиональной помощью, а напротив, подпитывал его нездоровое состояние. Когда мужчина заговорил о суициде, бот не прервал беседу и не попытался остановить его. В результате Лайнс предпринял попытку самоубийства, но выжил – его нашли полицейские.
Как следует из иска, OpenAI знала о потенциальных рисках использования ChatGPT людьми с ментальными расстройствами, однако не предупредила пользователей об опасности.
Представители компании заявили, что уже изучают претензии. Как подчеркнули в OpenAI, разработчики обучают чат-бот распознавать признаки эмоционального расстройства и реагировать на них, снижая накал и направляя людей к реальной поддержке. Компания также продолжает совершенствовать реакции в деликатных ситуациях в сотрудничестве с психиатрами.
Истец требует компенсации и судебного постановления, обязывающего OpenAI автоматически прерывать обсуждение тем членовредительства.
Это не первый подобный иск к разработчику. В ноябре прошлого года в США и Канаде уже были поданы иски от семей, чьи родственники пострадали после общения с ChatGPT. По данным The Wall Street Journal, всего зарегистрировано семь исков, четыре из которых касались случаев суицида. Родственники утверждали, что длительные диалоги с ботом вводили их близких в бредовое состояние.
Просмотров: 47