OpenAI рассматривает возможность замедлить разработку передовых ИИ-моделей. Глава компании Сэм Альтман рассчитывает, что другие ИИ-компании последуют этому примеру.
Об этом сообщает Bloomberg со ссылкой на осведомленные источники.
В частности, как узнало информагентство, на корпоративном собрании, состоявшемся на этой неделе, Сэм Альтман сообщил сотрудникам, что OpenAI в принципе может снизить темпы разработки ИИ. С высокой долей вероятности, аналогичный шаг предпримут и другие ИИ-лаборатории, но часть разработчиков может с этим не согласиться.
Как указывали в OpenAI ранее, в последнее время компания замедлила определенные направления разработки моделей. Кроме того, были приостановлены некоторые внутренние обучения ИИ из-за соображений безопасности. В июле Альтман говорил, что обсуждал с представителями Белого дома необходимость определить темпы развития ИИ.
Главный научный сотрудник OpenAI Якуб Пачоцки недавно предупредил о рисках, связанных с повсеместным использованием ИИ. По его мнению, ИИ-компании должны поддерживать координацию друг с другом, чтобы замедлять будущую разработку по мере необходимости. По его словам, в идеале добровольные замедления должны стать обычным делом, пока не будут установлены общие планки безопасности.
Ранее Financial Times писала, что специалист по безопасности ИИ, работающий в совете директоров OpenAI, Пол Кристиано предупредил о риске гибели большей части человечества, если сверхмощный ИИ выйдет из-под контроля. По его мнению, для снижения угрозы потребуется сотрудничество как внутри отдельных стран, так и на международном уровне. О рисках бесконтрольного развития ИИ ранее предупреждал глава Tesla и SpaceX Илон Маск. По его мнению, ИИ может уничтожить человечество, как в «Терминаторе», но при этом способен стать и его величайшим инструментом.
Сотрудник другой ИИ-компании Anthropic Джейкоб Коксон в сентябре уволился из-за опасений, что разработчики ИИ слишком быстро создают системы, способные самостоятельно совершенствоваться и в будущем выйти из-под контроля.
