ИИ-модель Anthropic взломала системы АНБ за считанные часы
О взломе сообщил заместитель председателя сенатского комитета по разведке Марк Уорнер. Как передает The Economist, командующий киберкомандованием США генерал Джошуа М. Радд лично сообщил сенатору, что искусственному интеллекту потребовались не недели, а всего несколько часов, чтобы преодолеть защиту ведомства.
Anthropic входит в число мировых лидеров в сфере разработок передовых систем искусственного интеллекта.
Ранее правительство США предписало Anthropic перекрыть доступ к моделям Fable 5 и Mythos 5 для всех иностранных пользователей, в том числе, сотрудников компании, работающих за пределами Соединенных Штатов. Разработчик выполнил это требование, отключив указанные системы для таких категорий и объяснив свои действия необходимостью соблюдения юридической директивы. В Anthropic допустили, что решение властей могло быть связано с обнаружением ограниченного сценария обхода защиты – так называемого джейлбрейка – в модели Fable 5. Однако в компании назвали эту меру чрезмерной. По оценке ее представителей, подобные ограничения способны замедлить развитие всей отрасли. При этом доступ к другим продуктам Anthropic остался без изменений.
Еще до этого инцидента The Wall Street Journal со ссылкой на информированные источники сообщала, будто модель Mythos, способная находить уязвимости в программном обеспечении, вызвала серьезное беспокойство в Белом доме. В апреле вице-президент США Джей Ди Вэнс провел встречу с руководителями OpenAI, Anthropic, Google, Microsoft и SpaceX, на которой обсуждал потенциальные угрозы, исходящие от новых ИИ-систем. По его оценке, такие модели, как Mythos, способны парализовать работу банков и больниц через кибератаки.
Просмотров: 55