Американский разработчик искусственного интеллекта компания Anthropic по требованию правительства Соединенных Штатов экстренно отключила доступ к своим двум флагманским моделям для всех зарубежных пользователей.
Речь идет о Fable 5 и Mythos 5, которые компания представила 9 июня. Представители Anthropic выразили несогласие с решением властей, предположив, что оно продиктовано опасениями по поводу возможного взлома этих систем.
«Мы вынуждены внезапно отключить доступ к Fable 5 и Mythos 5 для всех наших клиентов, чтобы обеспечить соблюдение требований», – заявили в компании, подчеркнув, что перед публичным запуском были проведены многочасовые тесты совместно с американскими чиновниками и внедрены надежные меры защиты.
Тем не менее, как признали в Anthropic, идеальной защиты от взлома сегодня не существует ни для одного разработчика моделей. По словам представителей компании, создатели Fable 5 и Mythos 5 стремились сделать потенциальные джейлбрейки либо узкоспециализированными, либо чрезвычайно дорогостоящими в производстве.
Модели Fable и Mythos относятся к новому поколению ИИ, способного решать задачи значительно более сложные, чем их предшественники.
В мае The Wall Street Journal писало, будто Mythos вызвал настоящий хаос в Белом доме из-за способности самостоятельно выявлять уязвимости в программном обеспечении и потенциально парализовать работу больниц или небольших банков посредством кибератак. В апреле глава Минфина США собирал руководителей крупнейших банков на экстренное совещание для обсуждения рисков, связанных с выходом этой модели. В итоге Mythos так и не был выпущен публично, оставшись доступным лишь ограниченному кругу партнеров. Вместо него широкой аудитории представили Fable – фактически ту же модель, но с усиленными ограничениями. Теперь же и она оказалась под запретом для всего мира за пределами американской юрисдикции.
