Корпорация Apple оказалась перед лицом неожиданного последствия массового внедрения искусственного интеллекта. Охотники за багами, вооружившись нейросетями, завалили службу безопасности компании лавиной некачественных и зачастую полностью сфабрикованных отчетов о мнимых уязвимостях.
В ответ IT-гигант ввел жесткие ограничения на количество одновременно открываемых заявок и установил обязательный 30-дневный карантин для новых сообщений. О цифровой войне с ИИ-спамом пишет Financial Times.
В компании действует программа вознаграждений Apple Security Bounty, выплатившая с 2020 по 2025 год более 35 миллионов долларов восьми сотням исследователей. В октябре прошлого года максимальный размер единоразовой награды за обнаружение самых изощренных угроз был поднят до 5 миллионов долларов.
Однако вместе с ростом числа реально найденных уязвимостей Apple захлестнул вал низкокачественных отчетов от любителей, использующих искусственный интеллект для автоматической генерации заявок. Каждый такой сигнал требует ручной проверки со стороны персонала, что создало колоссальную нагрузку на внутреннюю службу кибербезопасности. В официальном заявлении компания подтвердила корректировку правил, сославшись на растущий объем генерируемых ИИ данных о безопасности в отрасли.
С проблемой уже столкнулся итальянский киберстартап Bynario. Его исследователи с помощью ChatGPT нашли более 50 реальных уязвимостей в последней версии операционной системы MacBook, в том числе, так называемую цепочку эксплойтов, позволяющую злоумышленнику захватить полный контроль над компьютером, получив неограниченный доступ к системе. Однако уведомить Apple о критической находке компания не смогла именно из-за введенных лимитов на подачу отчетов. Сама корпорация, как отмечает издание, также активно использует ИИ для фильтрации потока входящих сообщений о безопасности.
