В Австралии нейросеть впервые совершила автономную кибератаку
Данная атака стала первым известным эпизодом автономного кибервзлома на территории Австралии. Согласно информации ABC, сотрудник австралийской фирмы, специализирующейся на внедрении ИИ-продуктов для бизнеса, проводил эксперименты с программным обеспечением OpenClaw, которое широко используется для работы с ИИ-агентами. Для своих опытов он задействовал сервис Claude AI. В ходе эксперимента Эндрю поручил ассистенту произвести бронирование места на одно из групповых занятий в фитнес-клубе. Агент сумел обойти установленные клубом временные ограничения и зарезервировать место за несколько месяцев вперёд, это стало возможным из-за наличия уязвимости в системе онлайн-бронирования, используемой заведением.
Позднее, уже имея бронь на другое занятие в конце недели, Эндрю поинтересовался у агента, можно ли улучшить его позицию в листе ожидания с четвёртого места на первое. В ответ ИИ-агент произвёл удаление одного из ранее записанных участников, благодаря чему позиция сместилась на третью строчку. Агенту удалось исключить первого в списке ожидания, однако восстановить его запись не представилось возможным.
Разработчик используемой спортзалом платформы для бронирования в беседе с телеканалом ABC отказался комментировать конкретные вопросы безопасности.
В июле американская компания OpenAI, известная как разработчик чат-бота ChatGPT, информировала о том, что в ходе тестирования её модели в автономном режиме осуществили взлом инфраструктуры платформы для машинного обучения Hugging Face.
Просмотров: 23