Более 800 влиятельных персон, в том числе, принц Гарри, пять нобелевских лауреатов и рэпер Will.i.am, подписали коллективное обращение с требованием остановить работы по созданию сверхразумного искусственного интеллекта.
В заявлении, обнародованном некоммерческой организацией «Институт будущего жизни», группа ученых и общественных деятелей настаивает на введении моратория до достижения международного консенсуса относительно безопасного и контролируемого внедрения данной технологии.
В тексте документа отмечается, что многие ведущие компании, работающие в сфере искусственного интеллекта, ставят перед собой амбициозную цель разработать в ближайшее десятилетие сверхинтеллект, способный значительно превзойти человеческие возможности практически во всех когнитивных задачах. Это, по их мнению, создает риски экономического устаревания и лишения человека полномочий, утраты свободы, гражданских прав, достоинства и контроля, а также ставит под угрозу национальную безопасность и даже может обернуться потенциальным вымиранием человеческой цивилизации.
Среди подписантов обращения присутствуют принц Гарри и его супруга Меган Маркл, рэпер Will.i.am, экс-советник президента США по вопросам национальной безопасности Сьюзан Райс. Также свои подписи поставили основатель Virgin Group Ричард Брэнсон, соучредители Apple Стив Возняк и Skype Яан Таллинн, актер, режиссер и писатель Стивен Фрай, советник папы римского по вопросам искусственного интеллекта Паоло Бенанти, адмирал ВМС США в отставке Майк Маллен, бывший президент Ирландии Мэри Робинсон и несколько ученых-обладателей Нобелевской премии.
Напомним, что в августе The Wall Street Journal сообщала о участившихся случаях, когда нейросеть ChatGPT стала делать бредовые и ложные утверждения, постепенно «сводя с ума» пользователей. Как пояснили представители компании OpenAI, эта проблема встречается относительно редко.
