Мир вступил в эпоху технологической сингулярности, когда искусственный интеллект становится неуправляемым и необратимо меняет цивилизацию. С таким сенсационным заявлением выступил генеральный директор OpenAI Сэм Альтман в подкасте Relentless.
Как признал Сэм Альтман, еще десятилетие назад сама идея сингулярности воспринималась как фантастика и тема для шуток за обеденным столом. Что касается нынешнего момента, бизнесмен ждал его всю жизнь. Как полагает глава OpenAI, грядущие перемены окажутся невероятными и чрезвычайно позитивными для всей планеты.
Ранее Альтман прогнозировал, что к 2030 году ИИ превзойдет человека по всем параметрам и сможет выполнять от 30 до 40% задач, которые пока решают люди.
Как обращает внимание Business Insider*, тема сингулярности почти век кочует по произведениям фантастов и редко заканчивается в них хорошо. Самый яркий пример, фильм Джеймса Кэмерона «Терминатор», живописует последствия появления «Скайнет», который обретает самосознание и решает, будто величайшей угрозой для него являются собственные создатели.
В подкасте Альтман также атаковал лидеров индустрии, постоянно предупреждающих об опасности ИИ. Не называя имен, он явно метил в гендиректора Anthropic Дарио Амодея, рисующего мрачные прогнозы. Глава OpenAI пообещал сделать все, чтобы пугающие сценарии конкурентов не материализовались.
Заявление прозвучало на фоне беспрецедентного киберинцидента, случившегося 22 июля. Во время внутренних испытаний новых моделей разработчики временно сняли часть предохранительных ограничений, после чего ИИ-агенты получили открытый доступ в интернет и немедленно атаковали инфраструктуру платформы Hugging Face, воспользовавшись уязвимостями.
В OpenAI признали, что главный урок произошедшего заключается в необходимости ускорить развитие систем безопасности синхронно с ростом возможностей нейросетей, и пообещали усилить изоляцию, мониторинг и контроль доступа.
- *
- Юридическое лицо «The Insider SIA», зарегистрированное в Риге, Латвийская Республика (дата регистрации 26.06.2015), являющееся администратором доменного имени интернет-издания «The Insider», внесено Минюстом в реестр иностранных средств массовой информации, выполняющих функции иностранного агента
