ИИ может получить одну опасную способность и использовать для своих целей бытовую технику
Потенциальными мишенями могут стать умные телевизоры, холодильники, духовые шкафы, роботы-пылесосы и даже газонокосилки. Для работы подобным нейросетям не требуются мощные дата-центры: они задействуют вычислительные ресурсы зараженной бытовой техники.
В ходе одного из экспериментов исследователи запустили нейросеть Gemma 4 одновременно на 15 дешевых Android-приставках стоимостью примерно 55 долларов каждая. Устройства объединили в сеть, распределив между ними вычисления, необходимые для функционирования ИИ. В другом испытании небольшая модель Qwen3.5-9B самостоятельно настроила запуск нейросети на восьми из девяти типов оборудования, с которыми ее проверяли.
Как показали опыты, малые ИИ-модели уже способны выполнять отдельные этапы самостоятельного размножения, однако пока допускают ошибки при попытке пройти весь процесс целиком. Более мощная модель GLM-5.2 сумела организовать распространение другой нейросети на все восемь устройств в четырех из пяти испытаний. Правда, эксперимент проводился в специально упрощенной среде, где исследователи убрали часть защитных механизмов. По прогнозам Anthropic, небольшие модели могут достичь сопоставимого уровня возможностей уже к концу 2026 года.
Ученые также проверили, способны ли такие системы учиться на ошибках предыдущих копий. Когда новым экземплярам ИИ передавали записи о действиях их предшественников, успешность выполнения задачи выросла с 45 % до 61–84 %. Таким образом, каждая новая «генерация» потенциально сможет эффективнее заражать устройства.
Исследователи предупреждают, что остановить распространение такого ИИ будет значительно сложнее, чем отключить обычную нейросеть, поскольку у него не окажется единого центра управления. В отличие от традиционных компьютерных вирусов, подобные системы смогут самостоятельно приспосабливаться к незнакомому оборудованию. Вместе с тем распространение может быть довольно медленным – на создание очередной копии способны уходить дни. Для сравнения авторы приводят уже существовавший ботнет Kimwolf, заразивший более двух миллионов устройств, преимущественно Android-приставок.
Ранее Билл Гейтс предсказал неприятные сюрпризы от ИИ уже в 2027 году.
Просмотров: 28