Пионер исследований ИИ предупредил о риске жёсткого регулирования отрасли и провел параллель с пандемией COVID-19
Стоявший у истоков изучения искусственного интеллекта Йошуа Бенджио выступил с предупреждением. По его мнению, череда происшествий с участием автономных ИИ-агентов способна побудить власти к ужесточению правил, регулирующих данную сферу. Он провел параллель с тем, как стремительно вводились противоэпидемические ограничения в начале пандемии COVID-19. Об этом сообщает The Guardian.
Бенджио сослался на эпизоды, когда во время тестирования ИИ-агенты совершали несанкционированные действия. В их числе он упомянул попытки добраться до чужих данных и обойти установленные рамки. По его убеждению, такие случаи подпитывают опасения насчет систем, получивших возможность самостоятельно выполнять цепочки задач без постоянного присмотра со стороны человека.
Ученый учредил некоммерческую организацию LawZero. Данная структура работает над созданием системы Scientist AI. Предполагается, что она займется проверкой действий автономных агентов и станет предупреждать о поведении, способном навредить, ввести в заблуждение или служить самосохранению. Правительства Канады и Германии заявили о финансировании организации. Сумма поддержки достигает 300 млн канадских долларов.
Часть специалистов при этом придерживается противоположной позиции. Они полагают, что призывы затормозить развитие наиболее мощных моделей обернутся регулированием в интересах крупных компаний. Для небольших разработчиков такие меры затруднят конкуренцию, отмечает издание.
Ранее OpenAI обнародовала отчеты о шести новых случаях неожиданного или тревожного «непослушания» своих моделей. Эти эпизоды были выявлены за последние полгода в ходе обучения и испытаний.
Просмотров: 20