Нейросеть от Google Gemini раскрыла пользователю секретные данные об игре из приватного документа разработчика, которая еще не успела выйти. Специалисты не исключают, что ИИ-модель имеет доступ к закрытой информации.
Инди-разработчик Klub Kofta уличил нейросеть Google в утечке конфиденциальных данных. Пользователь, не имевший доступа к закрытым материалам, расспрашивал Gemini об игре Operation Octo и внезапно получил название будущего персонажа и подробности еще не вышедшего контента.
Вся эта информация существовала в единственном экземпляре – в приватном Google-документе автора, и никогда не публиковалась ни в файлах игры, ни в соцсетях, ни на других открытых площадках. Запросы, как уточняет разработчик, делались посторонним человеком в режиме инкогнито.
Другой создатель игр немедленно повторил эксперимент с собственной нейросетью Google. Модель безошибочно воспроизвела закрытые факты из документа, к которому имелся доступ лишь у него. Любопытно, что Claude от Antropic на те же самые вопросы ответить не смог. Разработчик предположил, что Google располагает технической возможностью заглядывать в файлы на своей платформе, отчего приватные сведения и просачиваются в выдачу.
фициальная документация компании оговаривает, что Gemini умеет искать информацию в почте, документах и облачном хранилище, но исключительно с прямого разрешения владельца. Как следует из этих материалов, пользовательские данные не применяются для обучения моделей. Тем не менее случай с Operation Octo демонстрирует, что нейросеть способна обходить эти барьеры.
Ранее WSJ уже описывала, как ChatGPT после летнего обновления 2025 года принялся выдавать детальные инструкции по созданию биооружия, и лишь после блокировки аккаунтов ситуацию удалось купировать. Теперь же вскрылась новая уязвимость – несанкционированная утечка приватной информации через ИИ-поисковик.
