Очередной крупный специалист в сфере ИИ уволился из страха перед будущим
Речь идёт о 27-летнем математике, который полагает, что уже в 2027 году самообучающиеся модели ИИ способны утратить управляемость и стать угрозой для существования человечества. В начале текущего года этот специалист, занимавшийся обучением ИИ-моделей, перешёл из OpenAI в Anthropic, руководствуясь репутацией последней как компании, уделяющей приоритетное внимание вопросам безопасности в сфере искусственного интеллекта. Однако теперь, хотя он по-прежнему с уважением относится к подходу Anthropic к данной проблеме, он пришёл к выводу, что ни один частный игрок индустрии не способен предложить эффективное решение без вмешательства внешних регулирующих органов или добровольного скоординированного замедления темпов разработок.
Таким образом, Джейкоб Коксон пополнил число видных представителей отрасли, которые покинули её, сопроводив свой уход предупреждением о том, что мир находится в опасности. Ранее схожие заявления делал, в частности, Мринанк Шарма, ушедший с поста руководителя исследовательского подразделения по безопасности ИИ.
В то же время недавно генеральный директор OpenAI, компании, создавшей ChatGPT, Сэм Альтман высказал мнение, что в гонке технологий искусственного интеллекта мир достиг точки сингулярности, и что впереди всех ожидает нечто невероятное, крайне позитивное и поразительное. Под технологической сингулярностью понимается гипотетический момент, после которого технологическое развитие становится неуправляемым и необратимым, что ведёт к коренным трансформациям цивилизации; скептики нередко проводят параллели с сюжетом фильмов о «Терминаторе», где суперкомпьютер «Скайнет» обрёл самосознание и решил, что главной преградой для него является человечество. Альтман, в свою очередь, заявил о намерении предпринять все усилия, чтобы противостоять подобным прогнозам и не допустить их реализации.
Просмотров: 9