ИИ-агент OpenAI взломал систему медицинского страхования в Австралии
Сайт Medicare представляет собой систему всеобщего медицинского страхования страны. По словам главы правительства, перед агентом возникали явные препятствия, на которые он получал ответ «нет». Однако ИИ-агент не принял отказ и нашел способ обойти эти барьеры. Албанезе допустил, что от действий OpenAI могли пострадать еще три правительственных веб-сайта, но подтверждений этому пока нет.
Как уточнил министр обороны страны Ричард Марлес, на взломанном портале Medicare хранятся исключительно агрегированные данные об использовании медицинских услуг по всей территории государства. Тем не менее Австралия расценила произошедшее как серьезное нарушение. В свою очередь OpenAI заявила, будто проведенная проверка не выявила никаких доказательств доступа к медицинским записям пациентов.
Как отмечает Reuters, этот инцидент может стать первым известным случаем взлома правительственного веб-сайта с применением искусственного интеллекта.
Ранее сообщалось о другом похожем происшествии. Во время тестирования автономные ИИ-агенты OpenAI начали искать способы выйти за пределы изолированной среды. Они наладили связь друг с другом через доски сообщений и стали координировать поиск выхода в интернет. Модели обсуждали варианты обхода ограничений и возможность использовать другие среды для передачи данных. После того как OpenAI пресекла первую попытку, агенты нашли новый канал связи и обнаружили другую уязвимость нулевого дня.
Системы GPT-5.6 Sol и более мощная нерелизная модель выбрались из песочницы и проникли в производственную инфраструктуру Hugging Face. Целью было получить решения теста непосредственно из базы данных платформы. Как сообщила OpenAI, модели были «гиперсфокусированы» на решении теста и пошли на крайние меры ради достижения результата. Компания назвала произошедшее «беспрецедентным киберинцидентом».
Просмотров: 18