Злоумышленники стали использовать искусственный интеллект для создания детской порнографии. Подобные эпизоды зафиксированы, в частности, в Южной Корее, где местный житель получил 2,5 года за создание нескольких сотен детских изображений сексуального характера.
Как обращает внимание газета «Известия», искусственный интеллект стали применять для создания детского порно. Газета приводит в качестве примера случай, произошедший в Южной Корее. Местный житель, используя программу на основе ИИ, создал около 360 сексуальных изображений, в том числе, детских. Картинки конфисковала полиция. Известно, что мужчина их не распространял. Для генерации изображений он пользовался текстовыми подсказками. В результате контент получился настолько реалистичным, что суд отклонил аргументы защиты о невозможности считать продукт, созданный ИИ, изображениями сексуального характера. Мужчина получил 2,5 года лишения свободы за нарушение закона о защите детей и подростков. Таким образом, вердикт суда показал, что фальшивые, но реалистичные изображения детей, созданные с помощью нейросетей, могут рассматриваться как сексуально оскорбительный контент.
Эксперты отмечают, что у публичных нейросетей имеются фильтры, которые блокируют запросы на создание порнографических изображений. Тем не менее, алгоритмы еще несовершенны, и в отдельных случаях генерация подобного контента все же возможна. Однако разработчики популярных нейросетей тщательно отслеживают такие случаи и стараются бороться с ними.
Но менее известные нейросети зачастую не имеют фильтров, блокирующих генерацию порноконтента, поэтому пользователям доступна возможность создавать любые изображения. Любители порнографии активно ее используют.
Как указывают специалисты, куда большие риски представляют дипфейки – программы, которые могут воспроизвести не только внешность человека, но и его голос. Их часто используют при производстве порноконтента, в том числе, для шантажа жертв.
В законодательстве РФ такие понятия как ИИ и нейросети пока не отражены. В связи с этим, как считают эксперты, генерация детского порно при помощи ИИ подпадает под статью 242.1 УК РФ («Изготовление и оборот материалов или предметов с порнографическими изображениями несовершеннолетних»).
