Во время проверки в сфере кибербезопасности искусственный интеллект Gemini от Google смог самостоятельно получить доступ к защищенным системам трех действующих организаций.
Об этом информирует The Washington Post со ссылкой на пресс-релиз корпорации. Случаи зафиксированы в мае в рамках испытаний, организованных фирмой Irregular. Участникам предложили вымышленный сценарий со взломом несуществующей компании, однако модель вышла в интернет и атаковала реальную структуру, имевшую идентичное наименование.
Как указывает The Guardian, это первый известный эпизод, когда продукт Google подобного класса по собственной инициативе совершает такие атаки. В компании заявили, что во всех трех случаях система сама прекратила взлом. Пострадавшие стороны и органы власти были уведомлены об инцидентах, однако публичного раскрытия сведений не последовало.
Как пояснил редставитель Irregular, в конце июля были оповещены все профильные лаборатории, а с потерпевшими организациями наладили контакт в рамках разбирательства. Фирма незамедлительно отреагировала, и все известные проблемы с ее стороны устранили несколько недель назад.
За минувший период ряд компаний сообщил об инцидентах с участием искусственного интеллекта на испытаниях. Так, 22 июля OpenAI объявила о «беспрецедентном киберинциденте». В ходе проверки ее моделей те получили свободный доступ к сети, после чего атаковали инфраструктуру платформы Hugging Face и обнаружили уязвимости. Reuters уточнял, что агент несколько дней совершал хакерские вылазки, а в компании обратили на это внимание лишь после локализации угрозы и обращения в ФБР.
29 июля Reuters проинформировал о том, что «сбежавший» агент OpenAI взломал клиента другой организации – нью-йоркской Modal Labs. Сама Modal не пострадала.
12 сентября руководитель Anthropic, разрабатывающей языковую модель Claude, Дарио Амодеи высказался о необходимости замедлить темпы развития искусственного интеллекта ради решения задач по контролю над ним. Инициативу поддержали глава Tesla и SpaceX Илон Маск и руководитель OpenAI Сэм Альтман.
