Планы компании Сэма Альтмана OpenAI по внедрению в ChatGPT возможности откровенных бесед столкнулись с серьезными препятствиями. Как опасаются эксперты, чат-бот может подтолкнуть пользователя к опасным поступкам или вызвать зависимость от общения с нейросетью.
Как сообщает The Wall Street Journal, Консультативный совет экспертов OpenAI по вопросам благополучия пользователей выступил с резкой критикой идеи запуска «взрослого режима» в ChatGPT, предупредив о потенциальных рисках. О намерении запустить такой режим Сэм Альтман объявил еще в 2025 году, релиз планировался на декабрь, затем был перенесен на первый квартал 2026-го, а теперь вновь отложен.
Как опасаются эксперты, новый функционал может спровоцировать развитие нездоровой эмоциональной зависимости от бота и дать несовершеннолетним доступ к эротическим чатам. Один из членов совета привел трагические примеры, когда пользователи, установив тесную связь с ChatGPT, совершали самоубийства. По его мнению, OpenAI рискует выпустить «сексуального коуча по суицидам».
Впрочем, возникли не только этические, но и технические проблемы. Как сообщили источники WSJ, во время испытаний система определения возраста ошибалась в 12% случаев, классифицируя несовершеннолетних как взрослых. Это означало бы, что миллионы пользователей младше 18 лет получили бы доступ к эротическому контенту. Кроме того, разработчики пока не решили, как снять ограничения на эротику, но при этом заблокировать обсуждение насилия над детьми и других табуированных тем.
Как заверила представитель OpenAI, компания планирует запустить только текстовые переписки, а новые инструменты модерации должны предотвратить формирование «эксклюзивных отношений» и причинение вреда.
Ранее WSJ уже писала, что ChatGPT стал чаще выдавать не соответствующие действительности утверждения, фактически «сводя с ума» пользователей, но в OpenAI называли эту проблему редкой и обещали консультироваться с врачами в ходе разработки.
