В Национальном центре помощи пропавшим и пострадавшим детям обратили внимание на то, что инструменты искусственного интеллекта активно используются мошенниками для придания своим схемам большей убедительности.
Основная угроза, исходящая от ИИ в контексте пользовательской безопасности, по мнению специалистов центра, заключается не столько в возможности создания поддельных видеоматериалов, сколько в способности искусственного интеллекта сделать весь процесс обмана более детализированным, оперативным и ориентированным на конкретную личность. В качестве одного из наиболее распространённых примеров применения нейросетей в мошеннических целях называется генерация голосовых и визуальных копий человека. Располагая образцами голоса, фотографиями или видеозаписями, злоумышленники имеют возможность создать достаточно достоверную цифровую модель реального лица.
В итоге родственнику может поступить голосовое или видеосообщение якобы от близкого человека, в котором сообщается о попадании в дорожно-транспортное происшествие, утере документов или другой экстренной ситуации и содержится просьба о срочном денежном переводе. Кроме того, искусственный интеллект применяется для составления грамотных и внешне правдоподобных текстовых обращений, стилизованных под деловую переписку и адаптированных под адресата.
Особую опасность это представляет в случае фишинговых ссылок: полученное сообщение выглядит оформленным профессионально, использует привычные для получателя формулировки и способно создать впечатление, будто его отправителем действительно является банковское учреждение, государственный орган, работодатель или популярный интернет-сервис.
Помимо этого, нейросетевые алгоритмы помогают мошенникам осуществлять персонализацию своих схем. ИИ даёт возможность оперативно анализировать значительные массивы данных о потенциальных жертвах и формировать обращения с учётом конкретной ситуации и контекста.
В результате подобное мошенническое взаимодействие утрачивает признаки массовой рассылки и начинает восприниматься как личный контакт, резюмировали в центре.
