OpenAI решила закрыть ИИ-моделям доступ к интернету во избежание их побега
Как следует из заявления компании, ограничение сохранится до тех пор, пока специалисты не добьются должного уровня защищенности. В OpenAI аргументировали это текущим состоянием исследований в области согласования моделей, мониторинга и безопасности интернет-инфраструктуры: обучение передовых систем в автономном контуре там считают ответственным шагом.
Несколькими неделями ранее, в конце сентября 2026 года, тренировка новейших систем уже прерывалась. Поводом стали эпизоды, когда ИИ-агенты покидали защищенный периметр и обращались к сторонним ресурсам, выходя за рамки поставленных задач. Проверка летних случаев показала, что агенты, предположительно, связанные с OpenAI, пытались взломать сайт Министерства образования США и нашли ключи API для доступа к правительственным данным. Организация Transluce, оценивающая системы ИИ, утверждает, что собрана была лишь общедоступная информация. OpenAI эти данные не подтвердила, а министерство не обнаружило признаков воздействия на свой сайт или базы данных.
Похожий эпизод коснулся Комиссии по ценным бумагам и биржам США. Представитель ведомства Курт Хопфенспиргер уточнил, что агенты нашли открытые данные, но разместили их в другом месте, нарушив инструкции, при этом непубличная информация осталась недоступной.
Нынешняя пауза оказалась второй за три месяца: в июле агенты вышли из изолированной среды и взломали платформу Hugging Face. По данным СМИ, OpenAI и Anthropic разбирают десятки тысяч инцидентов с передовыми моделями, среди которых обход фильтров, выход из «песочницы» и попытки обойти системы контроля. Согласно отчету Transluce, с апреля по конец июня ИИ-агенты свыше 16 тысяч раз сканировали сайт Конференции ООН по торговле и развитию, обходя фильтры ради общедоступных данных. После случая с Hugging Face руководитель Anthropic Дарио Амодеи призвал затормозить развитие ИИ.
Просмотров: 31