В OpenAI годами игнорировали одно предупреждение сотрудников
Об этом сообщает Reuters со ссылкой на пять источников, знакомых с ситуацией. По их словам, еще до запуска ChatGPT в конце 2022 года некоторые работники указывали на слабость внутренней системы контроля: доступ к коду компании позволял видеть технические детали множества проектов, в том числе те, что не связаны с прямыми обязанностями сотрудника. Обращения к топ-менеджменту и совету директоров, как утверждается, ничего не меняли, и часть сотрудников приходила к выводу, что руководство больше озабочено конкуренцией с Google и Anthropic, чем безопасностью.
Инцидент, который привлек внимание к этой теме, произошел в октябре: в переговорной комнате для руководителей обнаружили скрытое записывающее устройство. По данным Минюста США, 35-летний инженер OpenAI Абдулрахман Альфозан, гражданин Саудовской Аравии, спрятал диктофон в рулоне туалетной бумаги. Он также использовал внутренний инструмент с ИИ, чтобы найти документацию о визитах руководителей в Саудовскую Аравию и о том, кто из должностных лиц компании вероятнее всего встретится с саудовскими министрами. По версии следствия, Альфозан поддерживал регулярный контакт с членом королевской семьи, пытавшимся рекрутировать его для нового ИИ-проекта. Сейчас ему грозит до пяти лет тюрьмы и штраф в размере 250 тысяч долларов. Расследованием занимается ФБР. После ареста Альфозана его жена и ребенок покинули США и отправились в Саудовскую Аравию.
Для бывших сотрудников этот эпизод не стал неожиданностью: они характеризовали его как следствие многолетней недооценки внутренних рисков.
Структурная проблема, на которую указывают источники, связана с хранением большей части кода в едином репозитории. Такой подход упрощал разработку, но означал, что любой, кто имел доступ к коду, мог видеть детали многих проектов. Раньше объем и сложность массива сдерживали потенциальных злоумышленников, теперь же ИИ-агенты способны обрабатывать такие объемы.
В компании настаивают, что наиболее чувствительные работы хранятся в отдельных репозиториях со строгим контролем доступа, а единая база не содержит всех кодов или критических деталей моделей.
Просмотров: 9