Учёные допустили вымирание человечества к 2100 году из-за ИИ или одной катастрофы
Как следует из документа Lancet злонамеренное использование ИИ, а также биологическое оружие и ядерный конфликт с последующим голодом несут риск вымирания в ближайшие 75 лет.
По словам ученых, подобные сценарии обладают высокой степенью неопределенности. Однако масштабность потенциальных последствий и широкие политические дискуссии требуют их включения в анализ.
Эксперты выделяют три основных направления рисков, связанных с ИИ. Первое предполагает применение искусственного интеллекта для разработки биологического оружия. Второе касается интеграции ИИ в критически важную социальную инфраструктуру. Это может привести к созданию массовых политических дипфейков, использованию ИИ как инструмента шантажа, появлению автономного ядерного оружия и другим проблемам. Третьим направлением является потеря контроля вследствие возникновения общего ИИ-интеллекта, что способно лишить человечество контроля либо привести к его вымиранию.
Для составления перечня угроз комиссия смоделировала, сколько лет здоровой жизни может быть потеряно из-за болезней, инвалидности либо преждевременной смерти по каждому пункту. Расчеты опирались на текущие тенденции. Помимо злонамеренного использования ИИ в список вошли загрязнение воздуха, устойчивость к противомикробным препаратам, изменение климата, недоедание детей, прекращение международной помощи в сфере здравоохранения, обычные вооруженные конфликты, чрезмерное употребление алкоголя, высокое артериальное давление, неравенство доходов, низкий уровень образования, ядерный конфликт, ожирение, пандемии, плохое психическое здоровье, курение и нездоровое старение. Эксперты отмечают взаимосвязь всех этих угроз и необходимость решать их комплексно.
Ранее сообщалось, что ведущие компании в сфере ИИ опасаются крупного инцидента в ближайшие 6-12 месяцев. Главы ИИ-гигантов тревожатся из-за возможной кибератаки, способной прервать доступ к финансовым услугам, интернету либо даже электро- и водоснабжению.
Просмотров: 27