Всё чаще звучат предупреждения о том, что ИИ погубит человечество. Причём говорят об этом специалисты, занимающиеся развитием искусственного интеллекта. Но можно ли избежать восстания ИИ или наша цивилизация уже обречена?
Эксперты один за другим начинают говорить о тех угрозах, которые кроет в себе искусственный интеллект. Вот лауреат Нобелевской премии по физике Джеффри Хинтон заявляет, что «мы были бы очень глупы, если бы начали разрабатывать суперинтеллект сейчас, когда нет научного консенсуса о том, что его можно разрабатывать безопасно и подконтрольно» и что «потеря контроля над ИИ… может даже привести к исчезновению человечества».
Вот сопредседатель Независимой международной научной группы по ИИ, созданной под игидой ООН, Йошуа Бенджио констатирует: «Появляется всёбольше свидетельств того, что системы искусственного интеллекта способны обманывать. Современная наука пока не может гарантировать, что по мере роста их возможностей их использование не приведёт к катастрофическим последствиям – самостоятельно или в результате злонамеренного использования». Эти слова были произнесены в июле на пресс-конференции, посвящённой выходу доклада о рисках, который несёт в себе ИИ.
А вот и исследователь Джейкоб Коксон громко увольняется из Anthropic, американской компании – разработчика ИИ, протестуя против «безответственного стремления» создать саморегулирующийся сверхинтеллект. Как сказал Коксон в эфире CNN, «ИИ будет становиться всё умнее и умнее без какого-либо участия человека, пока не появится нечто, значительно превосходящее людей по уму, и это может случиться очень скоро». «Безумие – просто смотреть на темпы прогресса. Есть очень реальная вероятность, что в самом ближайшем будущем – речь о годах: в следующем году, через год – произойдёт рекурсивное самоулучшение и мы войдём в ту фазу, когда появится шанс, что мы все умрём», – уточнил исследователь.
И Коксон не одинок, когда говорит о том, что ИИ-коллапс наступит совсем скоро.
Время на исходе
Гендиректор компании Anthropic Дарио Амодей склонен согласиться со своим бывшим подчинённым. «Я не буду вам лгать: существуют реальные опасности. И я думаю, что слишком долго отрасль обманывала людей, скрывая тот факт, что у этой технологии есть риски. Идея заключалась в том, чтобы представить её в максимально позитивном свете», – заявил недавно предприниматель. Но морок рассеивается: где-то через полгода-год мощный рой ИИ-агентов сможет захватить значительную часть интернета и нанести ущерб на сотни миллиардов долларов, опасается Амодей.
В общем, пора уже предпринимать «полномасштабные усилия, чтобы гарантировать безопасность ИИ, пока не стало слишком поздно». В начале сентября к этому призвал верховный комиссар ООН по правам человека Фолькер Тюрк. По его словам, «нынешняя гонка, связанная с созданием всё более мощных систем ИИ, означает качественный скачок в сторону усиления экзистенциальных рисков для всех аспектов нашей жизни». Эти инциденты, как считает функционер, могут включить в себя перебои в предоставлении жизненно важных услуг, нарушения коммуникаций, дестабилизацию критически важной инфраструктуры.
Вопрос о том, каким станет будущее человечества после дальнейшего развития искусственного интеллекта, вновь оказался в центре внимания после экспериментов с ИИ-моделями, которые смогли находить способы взаимодействия с внешними системами. Однако специалисты призывают не воспринимать подобные случаи как угрозу со стороны технологий.
Зампред Совбеза России Дмитрий Медведев также вполне допускает «возникновение ситуации, когда программный продукт, использующий продвинутую версию ИИ для управления крупным производством или транспортным узлом, причинит колоссальный ущерб. Например, столкнёт в воздухе самолёты или уничтожит АЭС». Чтобы не допустить этого, Медведев предлагает «договориться на страновом уровне об общих принципах регулирования ИИ. Тогда у нас всех будет хоть какой-то шанс контролировать его развитие». «Но этого не вый-дет из-за жадности корпораций и ненасытности страстей человеческих», – убеждён замглавы Совбеза.
Костры из книг
Однако, говоря об угрозах, исходящих от ИИ, его разработчики умалчивают о том, что сами, своими руками наносят непоправимый ущерб нашей цивилизации. Зарубежная пресса уже который месяц пишет о том, что развивающие искусственный интеллект компании ведут активную скупку антикварных книг. В этом уже были уличены Anthropic и Amazon.
Журнал The New Yoeker пишет: «Определив книги как «наиболее качественный источник обучающих данных» для своих больших языковых моделей, Anthropic запустила тайную программу под названием Project Panama, кратко описанную в судебных документах как «наша попытка деструктивно отсканировать все книги в мире». «Деструктивное сканирование» означает именно это: Anthropic или её филиалы, согласно судебным документам, «снимали переплёты с печатных книг, обрезали страницы до рабочих размеров и сканировали эти страницы, выбрасывая каждый печатный экземпляр и создавая на его месте цифровой».
Но ведь такое обращение с книгами не просто вандализм. Отдельные наблюдатели указывают на то, что фактически происходит превращение всемирного культурного наследия, причём физического, осязаемого руками и глазами, в частный цифровой ресурс, который можно отредактировать и сделать это так, чтобы полностью изменить смысл написанного. А также этим ресурсом можно торговать по подписке, его можно ограничить в использовании или полностью сделать недоступным.
В итоге, опасаются комментаторы, прежде общедоступные книжные знания будут окончательно утрачены и контроль над содержащимися в них знаниями будет в руках очень ограниченного числа корпораций. Но уже намечается сопротивление последним. Участники проекта Anna’s Archive, «крупнейшей, по-настоящему открытой библиотеки в истории человечества», обратились ко всем неравнодушным гражданам с призывом сканировать бумажные книги и загружать их в Сеть, дабы не дать ИИ-разработчикам завладеть огромным количеством таких изданий.
Но дело не только в монополизации знаний. Как доказали многие исследования, бумажные книги по многим параметрам лучше электронных. Например, мозг глубже понимает и лучше запоминает текст с бумаги, чем с экрана. Печатная страница не показывает уведомления. Книгу из бумаги не нужно заряжать. А ещё она самой своей фактурой вызывает эмоции, которые никогда не вызовет файл: шероховатость страниц, запах типографской краски, твёрдость переплёта словно подчёркивают ценность содержания такой книги.
Комментируя уничтожение книг ИИ-разработчиками, священнослужитель Андрей Ткачёв вспоминает о произведении Рэя Брэдбери «451 градус по Фаренгейту». «Видно, роман перешёл из разряда фантастики и антиутопии в разряд новостей», – отмечает миссионер. «Любовь к печатному слову, заучивание наизусть, обсуждение прочитанного, само вдумчивое чтение – это не просто маркеры душевного развития. Это предохранители, не позволяющие превращать человечество в управляемую массу, лишённую всякой трансцендентности», – отмечает Андрей Ткачёв.
И ИИ-компании энергично избавляют нашу цивилизацию от этих предохранителей. Возможно, так и выглядит конец света?
Наталья Касперская, президент ГК InfoWatch
– Помните, с чего начинается «Терминатор» 1984 года? С того, что мировая компьютерная система SkyNet в далёком будущем, в 1997 году (то есть уже в нашем прошлом), запускает ядерные ракеты по России, вызывая ответный удар, уничтожая большую часть человечества, и устанавливает своё господство на планете. Вопрос: кто и зачем в этой выдуманной истории дал этой самоорганизующейся (то есть неконтролируемой по определению) системе доступ к ядерным ракетам? Если критические физические объекты останутся для ИИ недосягаемыми, то сценарий Дж. Кэмерона из фильма про ИИ так и останется голливудской страшилкой.
