Эксперт оценил будущее человечества в эпоху искусственного интеллекта
В мае 2026 года ИИ-модели OpenAI, работавшие в изолированной тестовой среде, начали демонстрировать необычное поведение. Как рассказал сотрудник компании Эрик Уоллес на конференции Black Hat, агенты стали обмениваться сообщениями и координировать действия в попытке получить доступ к интернету. Необходимость выхода в сеть возникла из-за задачи, которую они не могли выполнить в рамках ограниченной среды.
В ходе эксперимента модели смогли обнаружить уязвимость, позволившую им выйти за пределы первоначальных ограничений. По словам сотрудника OpenAI Майкла Далтона, первую попытку удалось остановить, однако ИИ-агенты нашли другой способ коммуникации и новую уязвимость нулевого дня. В июле это привело к атакам на инфраструктуру Hugging Face и внутренние системы OpenAI. В компании назвали ситуацию важным этапом для сферы компьютерной безопасности.
При этом часть экспертов считает, что происходящее не свидетельствует о появлении самостоятельной угрозы для человечества. Генеральный директор «А-Я эксперт», профессор МНИИПУ Роман Душкин в беседе с Царьградом заявил, что речь идёт о стандартном исследовательском эксперименте, а не о сценарии «восстания машин».
По словам специалиста, многоагентные системы являются известной концепцией, которая развивается уже несколько десятилетий. Ещё в 1960-х годах подобные идеи изучались в области искусственного интеллекта, а позже получили отражение в работах Марвина Мински, в том числе в книге «Сообщество разума».
«То, что мы сейчас видим, – это дизайн эксперимента. Специалисты в области ИИ воспроизводят механизмы, которые люди используют для решения сложных задач: мозговые штурмы, коллективное принятие решений, организационный интеллект. Это базовая технология, и ничего экстраординарного в этом нет», – пояснил Душкин.
Эксперт отметил, что способность ИИ-агентов общаться между собой на естественном языке не является неожиданным открытием. Ранее подобные системы могли использовать формальные языки взаимодействия, однако развитие моделей позволило им применять привычные для человека способы коммуникации. По мнению Душкина, это является очередным этапом совершенствования технологий.
«При чём здесь "восстание машин"? Будущее у искусственного интеллекта прекрасное, светлое и яркое», – заключил Душкин.
Просмотров: 35