Джейкоб Коксон, работавший в компании Anthropic, принял решение покинуть сферу разработок искусственного интеллекта и обратиться к поэзии. Причиной такого шага стали его опасения относительно того, что интенсивная борьба между компаниями, развивающими нейросетевые технологии, приближает человечество к некому критическому рубежу, за которым уже к концу следующего года могут последовать события, сопоставимые по своим масштабам с апокалиптическими сценариями.
Речь идёт о 27-летнем математике, который полагает, что уже в 2027 году самообучающиеся модели ИИ способны утратить управляемость и стать угрозой для существования человечества. В начале текущего года этот специалист, занимавшийся обучением ИИ-моделей, перешёл из OpenAI в Anthropic, руководствуясь репутацией последней как компании, уделяющей приоритетное внимание вопросам безопасности в сфере искусственного интеллекта. Однако теперь, хотя он по-прежнему с уважением относится к подходу Anthropic к данной проблеме, он пришёл к выводу, что ни один частный игрок индустрии не способен предложить эффективное решение без вмешательства внешних регулирующих органов или добровольного скоординированного замедления темпов разработок.
Таким образом, Джейкоб Коксон пополнил число видных представителей отрасли, которые покинули её, сопроводив свой уход предупреждением о том, что мир находится в опасности. Ранее схожие заявления делал, в частности, Мринанк Шарма, ушедший с поста руководителя исследовательского подразделения по безопасности ИИ.
В то же время недавно генеральный директор OpenAI, компании, создавшей ChatGPT, Сэм Альтман высказал мнение, что в гонке технологий искусственного интеллекта мир достиг точки сингулярности, и что впереди всех ожидает нечто невероятное, крайне позитивное и поразительное. Под технологической сингулярностью понимается гипотетический момент, после которого технологическое развитие становится неуправляемым и необратимым, что ведёт к коренным трансформациям цивилизации; скептики нередко проводят параллели с сюжетом фильмов о «Терминаторе», где суперкомпьютер «Скайнет» обрёл самосознание и решил, что главной преградой для него является человечество. Альтман, в свою очередь, заявил о намерении предпринять все усилия, чтобы противостоять подобным прогнозам и не допустить их реализации.
