Технологии не развиваются по одному-единственному, заранее определенному пути. Технологическое древо ветвится, и бурный рост одной ветви ведет к засыханию других, берущих начало из одного истока. Тем не менее, при выполнении определенных условий можно представить себе альтернативные сценарии, когда расцвели другие ветви, а то, что привычно нам, получило минимальный рост в далеком прошлом или вообще не возникло.

Согласно исследованию, опубликованному в Nature, из 4192 автомобилей, произведенных в США в 1900 году, 38% были оснащены электрическим двигателем, 40% — паровым и только 22% — бензиновым. Авторы указывают, что сами по себе электромобили вплоть до 1910-х годов были не дороже машин с двигателем внутреннего сгорания (ДВС), не уступали им по техническим характеристикам, а в чем-то и превосходили — они были тише и чище, а кроме того, их было куда проще завести до изобретения в 1911 году электростартера. Главной проблемой электромобилей была распространенность самого электричества, все еще крайне низкая в США. Опираясь на базу данных произведенных в США машин, авторы с помощью математического моделирования показывают: если бы массовая электрификация произошла на 15-20 лет раньше (что само по себе представимо при массированных государственных инвестициях), электромобили могли бы вытеснить машины с ДВС и превратиться в основную форму транспорта.

Конечно, этот сценарий остается спекулятивным. Мы не можем ни изменить прошлое, ни утверждать с полной уверенностью, что непройденные дороги были открыты для нас. Но мы можем изменить будущее, и поиск альтернатив в прошлом помогает пробудить необходимое для этого социальное воображение.

Группа технологий, известных под общим названием «искусственный интеллект», сегодня привлекает гигантские и постоянно растущие ресурсы. По оценке Goldman Sachs, глобальные ИИ-инвестиции в 2026 году составят 1 трлн долларов (0,9% мирового ВВП) и в последующие годы только увеличатся — до 1,3% мирового ВВП в 2027 году и 1,4% мирового ВВП в 2028 году. Развитие ИИ становится магистральным направлением технологического прогресса. Но что, если есть альтернативные пути, которые закрываются перед человечеством прямо сейчас?

Во-первых, развитие ИИ не беспроблемно. У него огромное количество непреднамеренных негативных последствий. Использование ИИ ухудшает образовательные результаты у школьников и студентов и в целом ставит под вопрос традиционные модели образования, основанные, к примеру, на чтении длинных и сложных текстов. ИИ открывает гигантские новые возможности для преступников и других злонамеренных акторов (киберпреступность в самых разных проявлениях, слежка и контроль, пропаганда и информационно-психологические операции, подбор целей для высокоточного оружия). ИИ требует огромных ресурсов, прежде всего, электроэнергии, что при текущем мировом уровне декарбонизации ведет к росту выбросов парниковых газов.

Риски растут кратно развитию технологии. Бурный рост ИИ может обернуться массовой безработицей и/или экзистенциальными угрозами (создание новых патогенов, невиданные по масштабу кибератаки, ядерная война из-за нарушения логики гарантированного взаимного уничтожения благодаря ИИ-преимуществам одной из сторон, сверхэффективный ИИ-авторитаризм, предотвращающий любую, даже теоретическую, возможность демократизации). Рост экзистенциальных рисков не требует выхода ИИ из-под контроля — ИИ просто окажется невиданно эффективным инструментом в руках злонамеренных акторов. Однако и сценарий выхода ИИ из-под контроля возможен. Он, в свою очередь, не требует появления у ИИ «сознания» или «собственных мотиваций» — решение задачи, поставленной человеком, на определенном уровне развития ИИ может привести к непреднамеренным последствиям вплоть до экзистенциальных. Проблема не в том, что ИИ будет ставить собственные задачи, — проблема в том, как именно он будет решать задачи, поставленные человеком.

И это только «во-первых». Есть еще «во-вторых». Даже если бы развитие ИИ было абсолютно беспроблемным, стоило бы тратить на него ограниченные ресурсы человечества, тем самым позволяя другим технологическим ветвям засохнуть или вовсе не вырасти? Инвестиции в одну технологию имеют альтернативные издержки (opportunity costs) в виде меньших инвестиций в другую технологию. Учитывая это, стоит ли вкладывать 1 трлн долл. в год именно в ИИ?

Конечно, определения «пользы» могут быть разными и субъективными, однако, почему бы не попробовать провести этот разговор? Какие технологии были бы наиболее востребованными не с точки зрения того, во что уже сейчас вкладываются деньги, а с точки зрения проблем и задач, стоящих перед человечеством?

По данным Всемирного банка, 53% населения планеты, т. е. более 4 млрд человек, живут менее чем на 10 долл. в день. Здесь важна не столько сама цифра, сколько материальные условия (жилье, еда, одежда и др.), на которые она указывает. Да, бедность и материальная депривация во многом субъективны и относительны, но жизнь менее чем на 10 долл. в день — это бесспорно тяжелая жизнь в стесненных обстоятельствах. В некоторых регионах мира доля людей, живущих менее чем на 10 долл. в день, гораздо выше, чем по миру в целом. Так, в Африке южнее Сахары она составляет 92% (!) и практически не меняется с 1990 года. В других регионах, таких как Восточная Азия, напротив, наблюдается огромный экономический прогресс. Тем не менее, даже те регионы, которые стремительно сокращают бедность и улучшают жизненные стандарты населения, добиваются этого путем роста выбросов парниковых газов. Рост концентрации парниковых газов в атмосфере, в свою очередь, ведет к изменению климата с потенциально катастрофическими последствиями. Чтобы не повторяться, процитирую свой большой текст, посвященный этой проблеме:

«Промышленный капитализм, создавший тот мир, который мы знаем, основан на использовании ископаемого топлива (угля, нефти, природного газа). При его сжигании выделяется CO₂, усиливающий парниковый эффект атмосферы, что, в свою очередь, ведет к повышению температуры на поверхности Земли. Сверхбыстрое (по геологическим меркам) глобальное потепление учащает экстремальные погодные явления (ливни, наводнения, засухи, периоды аномальной жары), повышает уровень моря и разрушает целые экосистемы. Все это напрямую угрожает человеческим сообществам, которые сталкиваются с падением урожайности, дефицитом воды, превращением обширных регионов в территории, непригодные для жизни, распространением болезней, потенциально — с невиданной по масштабам климатической миграцией и войнами. Спровоцированное человеческой деятельностью изменение климата Земли уже происходит и будет продолжаться столетиями, но быстрое сокращение выбросов CO₂ и других парниковых газов позволит избежать худших сценариев с обширными и труднопредсказуемыми негативными последствиями».

Итак, мы имеем два факта: 1) большинство человечества по-прежнему живет в материально тяжелых и стесненных условиях, 2) экономическое развитие, которое могло бы улучшить эти условия, сопряжено с катастрофическими рисками для планеты. На пересечении этих двух фактов и находится вопрос о технологиях, необходимых для человечества. Это технологии в области возобновляемой энергетики и электрификации, устойчивого сельского хозяйства, дешевого и ресурсо-эффективного жилья, низкоуглеродного транспорта и городской инфраструктуры, адаптации к климатическим изменениям, восстановления экосистем и т. д.

Разумеется, в решении многих из этих проблем может пригодиться — и уже пригождается — ИИ: он помогает гибко управлять электросетями, обнаруживать выбросы метана, разрабатывать новые материалы, сортировать мусор, следить за состоянием экосистем и т. д. Однако ключевая и наиболее капиталоемкая форма развития ИИ — создание моделей общего назначения (general-purpose/foundational models) с декларируемой конечной целью построения «искусственного сверхинтеллекта» (artificial superintelligence) — только косвенно соотносится со всеми этими задачами.

Важно, что развитие уже существующих технологий, при условии дополнительного финансирования, предсказуемо приводит к низкоуглеродному, материально обеспеченному будущему для человечества. Так, по расчетам Программы ООН по окружающей среде (UNEP), выход на траекторию повышения глобальной температуры не более чем на 1,5 градуса (что позволит избежать самых негативных климатических сценариев) потребует 0,9-2,1 трлн долл. дополнительных инвестиций в «зеленый переход» в год вплоть до 2050 года — т. е. сумму, сравнимую с тем, что уже сейчас вкладывается в ИИ.

Подведем промежуточный итог. С одной стороны, огромные ресурсы тратятся на развитие технологии, которая, как утверждают ее создатели, потенциально способна решить все проблемы, стоящие перед человечеством…, но также способна уничтожить человечество. При этом реальная применимость моделей общего назначения для решения проблем устойчивого развития все еще под вопросом, а их непреднамеренные негативные последствия наблюдаются уже сейчас и будут только нарастать. В свою очередь, недофинансирование «зеленого перехода» в глобальном масштабе само по себе приведет к катастрофическим сценариям изменения климата. Таким образом, текущий путь заключает в себе сразу два экзистенциальных риска — ИИ и изменения климата.

С другой стороны, аналогичные по масштабу дополнительные вложения в устойчивое развитие и «зеленый переход» позволили бы с высокой долей вероятности выйти на низкоуглеродную траекторию, в рамках которой достойные условия жизни для всего человечества сочетаются с соблюдением планетарных границ, включая предельную концентрацию парниковых газов в атмосфере. Этот сценарий сокращает экзистенциальные риски и сулит широкие выгоды.

Почему же гигантские ресурсы мобилизуются именно на ИИ, а не на ускоренный «зеленый переход»? Причина в текущих глобальных правилах игры, поощряющих активность, которая может принести прибыль. ИИ-компании сумели рассказать историю о грядущих сверхприбылях, в которую поверили инвесторы. Эта история может оказаться ложной (отсюда потенциал ИИ-пузыря), но сама ее суть — коммерческая. «Зеленый переход» не обещает сверхприбылей. Более того, он заключает в себе возможность построения общества без прибыли как таковой — общества дероста, в котором накопление капитала перестает быть самоцелью. Да, в этом обществе удовлетворены базовые человеческие потребности и соблюдаются пределы воздействия на природные системы, но в нем не удовлетворены потребности узкой группы владельцев капитала. Поэтому текущая институциональная структура поощряет развитие ИИ, а не ускоренный прогресс «зеленого перехода».

Человечество не впервые стоит перед технологическим выбором. Но, пожалуй, впервые этот выбор имеет столь явное экзистенциальное и даже эсхатологическое измерение. Развитие ИИ в его текущем виде заключает в себе двойную угрозу — угрозу самого ИИ и угрозу изменения климата. В свою очередь, приоритет «зеленого перехода» сокращает обе эти угрозы и обещает конкретные, осязаемые выгоды для большинства. Да, эти выгоды далеки от фантазий тек-лидеров, таких как Сэм Альтман и Илон Маск, об излечении от всех болезней, достижении бессмертия, «колонизации» Марса (характерный выбор слова) и т. д. Речь идет о комфортном жилье, которое меньше греется летом и лучше сохраняет тепло зимой, продуктах в супермаркете, на изготовление которых ушло меньше воды, стабильных электросетях, не зависящих от мировых цен на энергоносители, и т. д. Все эти «скучные» задачи складываются в новую парадигму жизни, в конечном счете куда более радикальную, чем самые безумные идеи Маска, потому что она ставит под вопрос текущее распределение власти и собственности, — вещь, на которую Маск никогда не решался, поскольку он и является одним из главных бенефициаров текущего положения дел.

Описанная мной логика уже существует в виде политического проекта. Так, американский политик Берни Сандерс одновременно предлагает ввести мораторий на строительство новых дата-центров, запретить разработку «искусственного сверхинтеллекта» и развернуть гигантскую программу экологических вложений, известную как Зеленый новый курс. Технологический выбор, вне всяких сомнений, обусловлен политическими факторами, но сами эти факторы подвержены изменениям. Будущее человечества не предопределено — ни в технологическом, ни в политическом смысле.