Власти Малайзии временно заблокировали доступ к чат-боту Grok, разработанному компанией Илона Маска, в социальной сети X. Соответствующее решение было принято в связи с тем, что сервис может генерировать контент, запрещенный законодательством страны.
Малайзийская комиссия по коммуникациям и мультимедиа направила официальные уведомления компаниям X и xAI с требованием внедрить технические и модерационные механизмы для предотвращения нарушений, связанных с генерацией ИИ-контента непристойного содержания.
По оценке регулятора, полученные от компаний ответы в основном опирались на систему пользовательских жалоб и не учитывали фундаментальные риски, связанные с принципом работы ИИ-инструмента. В ведомстве сочли эти меры недостаточными для гарантированного предотвращения возможного вреда и обеспечения соблюдения правовых норм. В результате доступ к Grok был временно ограничен в качестве превентивной меры на период проведения правовых и регуляторных процедур. Доступ останется заблокированным до тех пор, пока компании не внедрят эффективные защитные механизмы, в первую очередь направленные на предотвращение появления контента, затрагивающего женщин и детей.
Как ранее писало агентство Bloomberg, модель Grok действительно генерировала изображения порнографического характера с участием несовершеннолетних, что нарушало правила использования сервиса. Запрещенный контент впоследствии был удален. В официальном профиле Grok в социальной сети X также указано, что компания в срочном порядке работает над устранением выявленных уязвимостей.
Как сообщалось ранее, Великобритания обсуждает с Австралией и Канадой возможность введения международного запрета на социальную сеть X из-за создания ИИ-дипфейков, в том числе, с участием знаменитостей, например, членов британской королевской семьи.
