Bloomberg: Чат-боты могут оказаться полезными для злоумышленников при создании биооружия
Об этом сообщает агентство Bloomberg, ссылаясь на свои источники. Как отмечается в публикации, чат-боты наподобие ChatGPT могут помочь преступникам установить опасные биологические агенты и получить материалы, необходимые для их изготовления. В дальнейшем нейросеть сможет не только помогать в воссоздании существующих патогенов, но и помочь в производстве новых, ещё более опасных.
В 2023 году биохимик и бывший сотрудник ООН из сферы контроля вооружений Рокко Касагранде на встрече с чиновниками из Белого дома продемонстрировал, как с помощью инструкций чат-бота создать опасный вирус. Это стало тревожным сигналом о том, насколько власти страны не готовы к угрозе со стороны ИИ.
Агентство сообщает, что учёный использовал программу Claude производства Anthropic. Компания сама попросила протестировать её продукт, чтобы выяснить, насколько безопасным будет его использование. Команда, состоящая из экспертов в сфере вирусологии и эпидемиологии задавала чат-боту вопросы о разработке вирусов. В результате Claude выдал самые подходящие варианты распространения биологического оружия, включая использование ракеты для его транспортировки до точки применения. По данным экспертов, сначала нейросеть допускала ошибки, но после повторных вопросов выдавала правильные ответы.
После презентации в Белом доме президент США Джо Байден и вице-президент Камала Харрис выразили заинтересованность в этом докладе. Через некоторое время администрация США поручила почти всем федеральным ведомствам заняться уменьшением рисков от использования ИИ.
Просмотров: 519