Существует мнение, что уже в следующем году может наступить момент, когда технологическое развитие станет неуправляемым, и над миром станет господствовать так называемый Общий искусственный интеллект (ОИИ). Насколько реальна такая угроза, рассказал исполнительный секретарь Координационного совета генеральных прокуроров государств-участников СНГ, доктор юридических наук, заслуженный юрист России, профессор, генерал-лейтенант, завкафедрой международного права РГСУ Юрий Жданов.
По мнению эксперта, наличие такой угрозы не стоит относить к разряду выдумок. Юрий Жденов указал, что подобные прогнозы озвучиваются уже практически полвека и большинство из них сходятся в сроке появления ОИИ, что случиться это должно до конца XXI века. Впрочем, есть и более конкретные временные предположения, где фигурирует 2060 год.
Неизбежность, от которой никуда не деться?
Жданов констатировал – большинство ученых едины во мнении, что появление ОИИ неизбежно. Более того, у машинного интеллекта пока не обнаружено каких-либо ограничений. Однако, пока не все согласны, что существование ОИИ –это абсолютная реальность. Некоторые эксперты, обратил внимание Жданов, придерживают позиции, по которой интеллект человека является значительно более многогранным. Выходит, что без человека ИИ не способен к творчеству и сам по себе непродуктивен. Эксперт напомнил, год назад Reuters сообщало, что компании, которые занимаются ИИ, больше не отмечают роста возможностей, который фиксировался ранее:
«Есть такой Закон масштабирования ИИ – идея о том, что большие наборы данных и больше ресурсов будут делать модели все лучше и лучше. Вдруг оказалось, что этот «закон» больше не работает».
Данный факт, отметил профессор, заставил экспертов задуматься о необходимости новых инноваций с целью дальнейшего продвижения моделей. Применительно к этому Жданов рассказал про американо-китайского миллиардера Александра Вана, которого зачастую называют вторым Илоном Маском. Он, в частности, утверждает – одно из заблуждений заключается в том, что наша точка зрения просто предлагает больше сложности. По его мнению, системы ИИ способны эволюционировать до стабильного состояния. То есть для ИИ это может означать, что система может перейти от расплывчатых или неопределенных выходных данных к достаточно уверенным и согласованным.
Таким образом, отмечает Юрий Жданов, ИИ и даже ОИИ вполне управляемы. В подтверждение он озвучил мнение Вана, согласно которому введение большего числа функций, подобных мозгу, в архитектуру ИИ способно не только сделать его более прозрачным, но и поможет понять головоломку, связанную с принципами работы разума самого человека:
«По сути, это приложение может предоставить ученым модель для изучения человеческого познания, а также для изучения неврологических расстройств, таких как болезнь Альцгеймера и эпилепсия».
Ван, в свою очередь, видит дальнейшее развитие ИИ как будущее, где нейроморфные архитектуры, такие как человеческий мозг, успешно сосуществуют с другими системами.
В чем тогда угроза?
По словам Юрия Жданова, самая большая угроза для людей от ИИ, причем совершенно неважно, какого, исходит от самих людей:
«Не вторгаясь в сферы высокой философии, скажу, что, в том числе, в этом и угроза: бездушной железяке мы сопереживаем, а таким же людям, животным, экологии – нет. Войны, истребление всего живого – это как-то проходит, даже – пролетает со свистом мимо нас. А вот, что «чувствует» машина – почему-то кажется нам особенно серьезным».
Мероприятие прошло в Астане. На нем Юрий Жданов и Берик Асылов уделили внимание основным направлениям взаимодействия и обсудили совместные меры по обеспечению законности и регбезопасности.
Здесь Жданов вспомнил слова гендиректор Microsoft AI Мустафы Сулеймана, который отмечал, что в случае начала разработки людьми систем ИИ, и, если эти системы смогут убедить людей в том, что они способны страдать или что у них есть право не быть отключенными, их защитники – люди станут продвигать их защиту.
В связи с этим Сулейман отмечал необходимость сосредоточиться на защите благополучия и прав людей, животных и окружающей среды. По его мнению, чем больше ИИ будет походить на людей, тем дальше он будет отходить от своего истинного потенциала как источника расширения прав и возможностей человека. Юрий Жданов подчеркнул – люди сами наделяют ИИ абсолютно не нужными амбициями:
«Есть попадающая в тему английская поговорка: «Зачем самому лаять, если собака имеется?». Вот она, настоящая роль искусственного интеллекта – знай свое место, железяка».
Эксперт не стал исключать, что на самом деле сейчас имеет место гонка за мифом о предполагаемой угрозе от ОИИ. Жданов признался в наличии определенных сомнений на этот счет. Он не отрицает, что лучшим способом стало бы масштабирование практических приложений ИИ, которые обеспечивают реальную эффективность сегодня и смогут это делать в будущем.
Говоря о том, существует ли для человечества какая-то реальная угроза от ИИ, профессор, выразил уверенность в ее отсутствии. Реальная опасность, по его словам, исходит от самих людей, которые занимаются созданием, программированием и обучением обучают ИИ:
«Все идеи, желания, эмоции, комплексы, если хотите – страсти, – только от них».
Жданов отметил, что эту особенность отлично разъяснил профессор Чикагского университета Эрик Оливер, ведь на данный момент крайне сложно разделить правдивые утверждения и разного рода технофэнтези. Однако к звучащим громким заявлениям следует относиться с изрядной долей скептицизма.
Необходимо понимать, что создание ИИ продуктов, которые пронизаны ненавистью или насилием, случается не по причине наличия у него какого-то злого умысла, а потому, что он в основу своей программу заложил человеческую ненависть. В том случае, если ИИ создает ПО, которое является разрушительным и вредоносным, значит, от кого-то поступил соответствующий намеренный запрос. Если же оно по факту не соответствует нашим целям, то вывод очевиден – направленные нами команды оказались нечеткими и непонятными.
