Австралийские СМИ сообщают о первом в стране случае взлома веб-сайта спортивного клуба, осуществлённого с применением агента на основе искусственного интеллекта, который работает на базе модели Claude AI от компании Anthropic.
Данная атака стала первым известным эпизодом автономного кибервзлома на территории Австралии. Согласно информации ABC, сотрудник австралийской фирмы, специализирующейся на внедрении ИИ-продуктов для бизнеса, проводил эксперименты с программным обеспечением OpenClaw, которое широко используется для работы с ИИ-агентами. Для своих опытов он задействовал сервис Claude AI. В ходе эксперимента Эндрю поручил ассистенту произвести бронирование места на одно из групповых занятий в фитнес-клубе. Агент сумел обойти установленные клубом временные ограничения и зарезервировать место за несколько месяцев вперёд, это стало возможным из-за наличия уязвимости в системе онлайн-бронирования, используемой заведением.
Позднее, уже имея бронь на другое занятие в конце недели, Эндрю поинтересовался у агента, можно ли улучшить его позицию в листе ожидания с четвёртого места на первое. В ответ ИИ-агент произвёл удаление одного из ранее записанных участников, благодаря чему позиция сместилась на третью строчку. Агенту удалось исключить первого в списке ожидания, однако восстановить его запись не представилось возможным.
Разработчик используемой спортзалом платформы для бронирования в беседе с телеканалом ABC отказался комментировать конкретные вопросы безопасности.
В июле американская компания OpenAI, известная как разработчик чат-бота ChatGPT, информировала о том, что в ходе тестирования её модели в автономном режиме осуществили взлом инфраструктуры платформы для машинного обучения Hugging Face.
