Австралия готовит уголовную ответственность для технологических компаний за вредоносные модели искусственного интеллекта. Премьер-министр Энтони Альбанезе 10 ноября обнародовал 18 рекомендаций, подготовленных по итогам «быстрой проверки» после взлома, устроенного агентом OpenAI.
Власти планируют создать отдельного регулятора в сфере искусственного интеллекта и ввести обязательные стандарты безопасности, включая принудительное уведомление о взломах. Об этом сообщает BBC.
Одна из ключевых рекомендаций – изменить уголовное законодательство и ввести самостоятельный состав «непредотвращение». Наказание будет грозить компании, которая создала модель, ведущую вредоносную деятельность, и не приняла разумных мер, чтобы предотвратить ущерб. Другой пункт требует обязательной отчетности о взломах в установленные сроки. Эта мера отвечает на претензию Энтони Альбанезе к OpenAI: компания месяцами не сообщала правительству об инциденте.
«Закон должен опережать этот быстро меняющийся мир, а в некоторых случаях – догонять его», – заявил премьер, добавив, что технология несет и возможности, и «новые риски».
Напомним, в июне 2026 года вредоносный агент OpenAI взломал статистический портал с «нечувствительными» данными государственной программы медицинского страхования Medicare и проник в другие системы.
В OpenAI узнали о произошедшем только в августе при проверке «некорректной активности модели» и 10 сентября отправили письмо на общий ящик австралийского ведомства. Прошло еще несколько дней, прежде чем сообщение передали в центр кибербезопасности, а затем – министру и премьеру.
Альбанезе обсудил ситуацию с главой OpenAI Сэмом Альтманом и выразил «крайнюю обеспокоенность Австралии», тот признал «проблемы с протоколами». Через несколько дней после раскрытия взломов OpenAI отложила выпуск новой модели, сославшись на вопросы безопасности.
