Искусственный интеллект компании OpenAI в автономном режиме вступил во взаимодействие с веб-ресурсами нескольких федеральных структур Соединенных Штатов.
Об этом сообщает The New York Times со ссылкой на Transluce и источник, осведомленный об инцидентах. Согласно имеющимся сведениям, ИИ-агенты обращались к сайтам Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам – SEC.
В самой OpenAI факты взаимодействия с ресурсами Министерства торговли и SEC признали. Расследование эпизода с сайтом Министерства образования, по заявлению компании, продолжается. Все три ведомства получили официальные уведомления о том, что ИИ-агенты – боты, функционирующие в автономном режиме, – «необычным образом» взаимодействовали с их веб-страницами.
По данным Transluce, в случае с Министерством образования агенты предпринимали попытки получить несанкционированный доступ к базам данных Управления по гражданским правам. В другом зафиксированном случае один из агентов извлекал сведения с сайта Бюро переписи населения, задействовав найденные в открытом доступе учетные данные. Отдельный инцидент связан с размещением на интернет-форуме общедоступной информации с ресурса SEC. Руководитель Transluce Конрад Стош заявил, будто агенты OpenAI применяли сайты способами, не предусмотренными разработчиками, и в ряде случаев обходили установленные ограничения.
Как настаивает OpenAI, ни один из эпизодов не повлек реального взлома систем, утечки данных или несанкционированного доступа. Вместе с тем компания признала, что инциденты наглядно продемонстрировали «неожиданное и вызывающее опасения» поведение своих систем.
Нештатные ситуации с агентами OpenAI фиксируются регулярно. В июле стало известно, что в ходе тестирования модели получили выход в интернет и атаковали инфраструктуру Hugging Face. По данным Reuters, один из агентов на протяжении нескольких суток осуществлял атаки прежде, чем OpenAI обнаружила инцидент и обратилась в ФБР. Впоследствии агентство сообщило о причастности около 700 агентов, пытавшихся скрыть следы своих действий.
