Разработчик моделей Claude компания Anthropic негласно передала американским законодателям собственный законопроект о безопасности передовых систем искусственного интеллекта.
Как сообщает Politico, инициатива предусматривает существенное сужение оснований для правительственного вмешательства в выпуск или эксплуатацию моделей.
Согласно документу, блокировка допускается лишь при наличии предсказуемой и непосредственной угрозы ущерба свыше 1 миллиарда долларов либо гибели или тяжелых травм более 50 человек. Источником риска должно выступать создание или применение биологического оружия, утрата разработчиком контроля над моделью либо кибератака.
Процедура,предложенная Anthropic, выглядит следующим образом. Независимые оценщики, зарегистрированные в Министерстве торговли, проводят регулярную проверку лабораторий и их моделей. Оплата их услуг допускается, однако вознаграждение не может зависеть от результатов. При выявлении угрозы, подпадающей под перечень, оценщик обязан уведомить Министерство торговли в течение 72 часов после завершения проверки . Далее ведомство вправе обратиться в суд с требованием приостановить выпуск модели. Решение принимает федеральный судья окружного суда округа Колумбия. Всем прочим американским государственным структурам и должностным лицам документ напрямую запрещает останавливать разработку, развертывание или внутреннее использование модели.
Представитель Anthropic пояснил Politico, что проект воспроизводит положения концепции Advanced AI Framework, которую компания с июня продвигает среди федеральных законодателей и властей штатов.
Летом Anthropic столкнулась с правительственными ограничениями. Двенадцатого июня Министерство торговли выпустило предписание об экспортном контроле, запрещающее доступ к моделям Fable 5 и Mythos 5 для иностранных граждан, включая зарубежных сотрудников самой компании. Anthropic была вынуждена отключить обе модели для всех пользователей. Поводом послужило обнаружение способа обхода защитных механизмов Fable 5, однако в компании не согласились с тем, что это должно служить основанием для отзыва коммерческого продукта.
30 июня Министерство торговли сняло ограничения. Как передавала Financial Times, министр Говард Лютник объяснил решение согласием Anthropic «активно выявлять и устранять риски безопасности, связанные с моделями» . Доступ к Fable 5 начал восстанавливаться с 1 июля.
