У ИИ нет права вето. Пока?
Причина довольно проста: современный ИИ уже используется там, где раньше решения принимались исключительно людьми: в разведке, кибероперациях, анализе военных данных, информационных кампаниях, системах наблюдения и выборе целей. Пока речь не идёт о том, что алгоритм самостоятельно может начать войну. Но граница между машиной, которая лишь помогает человеку, и машиной, которой человек всё чаще доверяет решение, постепенно стирается.
И тут возникает довольно неудобный вопрос. Ядерное оружие создавали государства, армии подчиняются государствам, ракетные программы тоже находятся под государственным контролем. А самые мощные системы искусственного интеллекта принадлежат частным корпорациям. Получается странная ситуация: правительства обсуждают глобальные правила, а объяснять им возможности и угрозы новой технологии приходят компании, которые эту технологию сами разрабатывают и продают.
Но вопрос контроля – только половина проблемы. Вторая половина называется гораздо привычнее: США и Китай. Вашингтон не хочет слишком жёстко ограничивать собственные компании, если это даст преимущество Пекину. Пекин соответственно подозревает, что под видом разговоров о безопасности Запад постарается закрепить своё технологическое преимущество. Европа снова пытается выступать главным мировым регулятором, хотя по масштабам собственных разработок заметно уступает и американцам, и китайцам.
Поэтому разговор об ИИ всё быстрее превращается в разговор не о технологиях, а о власти. Кто будет определять правила? Кто получит доступ к самым мощным моделям и вычислительным ресурсам? Кто сможет запретить конкуренту то, что разрешает себе? И, наконец, смогут ли государства вообще контролировать отрасль, если значительная часть реальной технологической силы уже находится не в министерствах, а в штаб-квартирах корпораций?
В ушедшем веке человечество довольно быстро поняло, что ядерное оружие меняет правила мировой политики. Потребовались десятилетия, чтобы создать хотя бы несовершенную, но работающую систему контроля, договоров и ограничений. С искусственным интеллектом всё происходит быстрее – сначала технология появилась и начала распространяться, а уже потом политики начали обсуждать, что с ней делать.
Поэтому приглашение представителей ИИ-компаний в Совет Безопасности ООН выглядит куда значительнее, чем очередная международная конференция о цифровом будущем. Это признание очень простой вещи: алгоритмы уже стали фактором войны, мира и глобального влияния.
Собственного кресла в Совбезе у искусственного интеллекта пока нет. Права вето – тоже. Но обсуждать международную безопасность без него уже не получается.
Просмотров: 25