В управлении по организации борьбы с противоправным использованием информационно-коммуникационных технологий МВД РФ сообщили, что ChatGPT способен хранить личные сведения пользователей в персонализированной памяти ИИ.
Как отмечают представители ведомства, таким образом ChatGPT получает возможность сформировать цифровой портрет человека, что идёт вразрез с собственной политикой компании OpenAI.
По данным МВД, практически все такие записи делались без получения на это согласия самого пользователя. В частности, ИИ сохранял адреса, сведения о материальном благополучии, имена и прочие данные. Кроме того, почти у всех аккаунтов нейросеть запоминала цели, предпочтения, убеждения, а также особенности поведения пользователей.
В МВД подчеркнули, что с точки зрения безопасности накопление этих данных чревато тем, что пользователя можно определить даже в случае, если он взаимодействует с нейросетью не под своим настоящим именем. Кроме того, ИИ способен скрыто влиять на решения чиновников и учёных, учитывая их личные предпочтения и черты характера. Авторы публикации обращают внимание, что в обрабатываемые ИИ документы могут внедряться ложные инструкции.
Для защиты чувствительных данных перед началом взаимодействия с ИИ пользователям советуют проверять настройки памяти и персонализации ИИ-сервисов. Не рекомендуется загружать на такие сервисы рабочую информацию и свои персональные данные. Не лишним будет использование временных чатов и обезличенных запросов.
Ранее в ноябре сообщалось, что мошенники распространяют вредоносные программы, выдавая их за ИИ-сервисы. Часто они выглядят как сервисы, где пользователи могут бесплатно подобрать причёску или макияж, загрузив своё фото. Чтобы воспользоваться этой функцией, пользователям предлагают скачать приложение, которое оказывается вредоносным.
