Современная цивилизация загнала себя в ловушку, поскольку все более сложные технологии внедряются с ускоряющимися темпами. Каждую секунду во всем мире взаимодействуют миллиарды устройств, протоколов, идей, традиций и людей. В результате увеличение сложности создает огромную и, возможно, неуправляемую проблему.
Эксперты понимают части системы, но все это далеко за пределами понимания обычного гражданина или политического лидера. Чтобы решить глобальные проблемы следующего десятилетия, человечеству необходим сдвиг парадигмы в системах социального регулирования, чтобы избежать ловушки сложности.
Хотя человечество пришло к текущему моменту постепенно, на ранних этапах технологического развития звучали предупреждения. За последние несколько сотен лет наука и техника, руководствуясь разумом и знаниями, явно улучшили повседневную жизнь большей части человечества. Но прогресс не линейный. Каждый рывок влечет за собой какие-то сбои и побочные эффекты, которые общество пытается устранить.
Например, процесс Габера-Боша для искусственной фиксации азота увеличил урожайность сельскохозяйственных культур, но привел к загрязнению водных путей во всем мире из-за чрезмерного использования некоторых удобрений. Хлорфторуглероды, используемые в качестве хладагентов, стали причиной образования озоновой дыры, но попытки заменить их привели к образованию гидрофторуглеродов, которые являются опасными парниковыми газами. И хотя антибиотики спасли сотни миллионов жизней, в настоящее время они используются настолько широко, что лекарственно-устойчивые штаммы стали новым риском для человечества. Есть еще много таких примеров во всех областях науки и техники.
Такие проблемы возникают из-за эффектов на уровне системы, которые не очевидны при первом внедрении и развертывании новых технологий. Непредвиденные последствия могут возникнуть практически на любом уровне - химическом, биологическом, вычислительном, экономическом/финансовом или социальном/политическом. Но возникающая сложность (выходящая за пределы перспектив прямого человеческого понимания) становится все более серьезной проблемой с совершенствованием компьютеров, поскольку отдельные компоненты становятся умнее, быстрее взаимодействуют и соединяются в глобальном масштабе.
Все эти проблемы переплетаются с более широкими вопросами, касающимися науки и общества. Даже при беглом анализе текущей ситуации становится ясно - пределы человеческого познания заставляют нас разобраться в сложности проблем, стоящих сейчас перед планетой.
Итак, что же делать? Нет смысла просить ученых или других экспертов предвидеть полный эффект от их работы. Вместо этого новый подход к решению возникающей проблемы должен начинаться с признания того, что она является следствием «внешних факторов», которые поддерживаются обществом в целом. Некоторые связаны с прямым ущербом, например, когда Facebook* использовался для разжигания ненависти и срыва президентских выборов 2016 года в США. Другие менее прямолинейны, например, время и внимание, необходимые для разбора новых проблем и разработки эффективных планов их решения.
Как и в случае с другими внешними эффектами, например, связанными с влиянием ископаемого топлива на экологию, общество сталкивается с фундаментальной проблемой в распределении затрат и выгод надежным и хорошо структурированным способом, который гарантирует, что разработчики и продавцы новых технологий возместят обществу внешние издержки. Для начала необходимо разработать лучшие методы оценки потенциальных проблем. Например, компании, разрабатывающие новые технологии, должны оценивать и снижать риски в ключевые моменты процессов исследований, разработок и внедрения. Эти оценки должны быть направлены на прогнозирование потенциальных результатов и взвешивании их потенциальной пользы и вреда для общества.
ВМФ СССР и КНР обладали самым большим количеством военных кораблей на подводных крыльях
Эти первоначальные рабочие предположения не решают проблему сложности, но они достаточно хорошо ее формулируют, чтобы служить призывом к советам и комментариям. Открытые дискуссии могут финансироваться правительствами или технологическими компаниями, или благотворителями, которые хотят сохранить демократию и гарантировать приемлемое будущее человечества.
Демократия и капитализм в сочетании с современной наукой привели к удивительному расцвету мысли, творчества, самовыражения и изобретательности, которая укоренила давнее предположение о том, что знания - и перспективы человеческого контроля над своей судьбой - будут постоянно расти. Но сейчас человечество вступило в фазу, в которой возрастающая сложность создает мир, в котором никто не разбирается в деталях.
Чтобы избежать этой ловушки, потребуется нечто большее, чем технические корректировки, включающее новую продуманную программу, устройство или мозговой имплантат. Обсуждение должно начаться с механизмов контроля и новых типов регуляторных схем, которые могут служить предупредительными инструментами при внедрении новых технологий.
В конечном счете необходимо обновить методы мышления. Это призыв к глобальным действиям, достойный лучших умов человечества.
- *
- 21.03.2022 г. американская транснациональная холдинговая компания Meta признана экстремистской и запрещена в РФ. Meta Platforms Inc. является материнской компанией социальных сетей Facebook и Instagram. Facebook и Instagram также признаны экстремистскими организациями, их деятельность на территории РФ запрещена.
