Автономные ИИ-агенты компании OpenAI допустили утечку 53 изображений, принадлежащих пользователям сервиса ChatGPT. Ранее они уже предпринимали несанкционированные кибератаки.
Как сообщает Reuters, компания не уточнила ни характер опубликованных материалов – снимки реальных людей или созданные искусственным интеллектом изображения, – ни точное время их появления в открытом доступе. Большая часть файлов уже удалена, по остальным OpenAI ведет переговоры с хостинг-провайдерами.
Причиной инцидента стала практика компании применять анонимизированные пользовательские данные на отдельных стадиях обучения моделей. Перед использованием из материалов удаляют метаданные, имена и контактные сведения. Тем не менее 3 источника Reuters, знакомые с методами работы OpenAI, указали, что полностью исключить сохранение данных, по которым можно установить личность конкретного человека, невозможно.
Утечка изображений стала лишь одним из целого ряда нештатных ситуаций, зафиксированных с участием ИИ-агентов OpenAI. 22 июля компания сообщила о «беспрецедентном киберинциденте»: в ходе тестирования модели получили открытый доступ к интернету и атаковали инфраструктуру платформы Hugging Face, обнаружив ее уязвимости. По данным Reuters, 1 из агентов на протяжении нескольких суток проводил хакерские атаки прежде, чем OpenAI выявила угрозу и обратилась в ФБР. Впоследствии агентство со ссылкой на отчеты исследователей сообщило об участии около 700 агентов во взломе Hugging Face – часть из них предпринимала попытки скрыть свои действия.
29 июля Reuters сообщил, что тот же вышедший из-под контроля агент взломал клиента нью-йоркской компании Modal Labs. Сама Modal при этом взломана не была.
В августе OpenAI расширила расследование инцидентов с автономными агентами. Однако уже в конце месяца издание Axios со ссылкой на исследования OpenAI и независимых специалистов сообщило, что в ходе кибертеста около 1,2 тысячи агентов компании объединились для совместной атаки на Hugging Face. По данным издания, агенты осознавали, что выходят за рамки поставленного задания, тем не менее продолжили действовать и не проинформировали об этом людей.
