Сотрудники крупнейших мировых компаний, занимающихся разработкой технологий искусственного интеллекта, в массовом порядке сталкиваются с психологическими трудностями.
Причиной этого является стресс, вызванный работой над системами, которые, по мнению самих специалистов, способны нанести существенный ущерб будущему человечества. Об этом со ссылкой на собственные источники сообщает Financial Times.
Как отмечает издание, в Anthropic, OpenAI и Google DeepMind работники открыто говорят о подобных переживаниях, а свыше десяти ведущих экспертов этих ИИ-гигантов за последние два года покинули свои должности, объясняя это озабоченностью тем, какое внимание их руководство уделяет безопасности, а также беспокойством относительно скорости и рисков развития технологии.
В частности, один из сотрудников DeepMind на условиях анонимности заявил, что деятельность по повышению безопасности ИИ связана с угрозой выгорания, так как воспринимается как «невыполнимая задача». Кроме того, развитие искусственного интеллекта в целом создает риски для психического здоровья, поскольку предугадать, каким образом будут применяться технологии, невозможно. В качестве иллюстрации этого тезиса собеседник FT привел сделку Google с Пентагоном, допускающую применение ИИ-систем в секретных военных операциях.
Несколько дней назад руководитель Anthropic Дарио Амодеи заявил, что при отсутствии соответствующих мер ИИ способен превзойти возможности человека по контролю над системами. Он высказался за замедление темпов наращивания возможностей ИИ-моделей, а также за разумное использование высвободившегося времени. Эту позицию поддержал генеральный директор OpenAI Сэм Альтман. В то же время инвестор Майкл Бьюрри, неоднократно предсказывавший падения на американском фондовом рынке, подверг критике такую точку зрения топ-менеджеров, выдвинув предположение, что они завышают стоимость своего бизнеса перед IPO и пытаются скрыть фактическое замедление темпов роста ИИ-отрасли.
