Не так давно на волне дискуссий вокруг согласования языковых моделей, социальной поблематики ИИ и конкуренции между искуственными интеллектами Запада и Востока вышло эссе Сэма Альтмана, в котором генеральный директор OpenAI заявляет, что ChatGPT уже мощнее любого человека в истории, что повсеметносе внедрение робототехники не за горами, а 2030-е станут порой технологических чудес. Михаил Федорченко перевел это техноутопическое эссе, в котором главной целью «либерального» западного технокапитала обозначается конструирование сверхинтеллекта и достижение постдефицитного общества.

Оригинал перевода был опубликован на Insolarance Cult

Предисловие переводчика

Они, авторы плана Дауэса, хотели бы ограничить нас производством, скажем, ситца, но нам этого мало, ибо мы хотим производить не только ситец, но и машины, необходимые для производства ситца. Они хотели бы, чтобы мы ограничивались производством, скажем, автомобилей, но нам этого мало, ибо мы хотим производить не только автомобили, но и машины, производящие автомобили. Они хотят ограничить нас производством, скажем, башмаков, но нам этого мало, ибо мы хотим производить не только башмаки, но и машины, производящие башмаки.

Сталин И.В. Сочинения Заключительное слово по политическому отчету Центрального Комитета XIV съезду ВКП (б) 23 декабря 1925 г. — Т. 7. — М.: Государственное издательство политической литературы, 1952. С. 353–391.

Эссе главы корпорации OpenAI Сэма Альтмана от 11 июня 2025 года «Нежная сингулярность» выражает, с одной стороны, утопическое видение будущего со стороны условно «либерального» крыла американского технокапитала, направленное на прогностический и позитивный характер меняющегося мира и его высокоскоростных изменений, а также необходимость «нового общественного договора» и передела власти над технологией. С другой стороны — ввиду отсутствия конкретных шагов по пересмотру экономико-политических отношений в сегодняшнем мире — эссе выражает наивный взгляд на будущее как самоисполняющееся пророчество, глубокий нарыв ландианства, который приводит к деполитизации и выдаче желаемого за действительное, а также затушёвывает роль самого техновизионера в неравном доступе к цифровым благам.

Но кто составляет «консервативное» крыло американской технократии? Сооснователь венчурного фонда Andreessen Horowitz и спонсор Трампа, автор «Манифеста технооптимиста», где во главу угла ставилось безжалостное ускорение, пренебрежение к коллективному благу и американоцентризм — Марк Андриссен. Основатель компании Palantir Technologies, чьи сервисы по агрегации данных, слежке, военным разработкам по анализу данных, наведению дронов используются в самых высокоточных и смертоносных операциях армии и спецслужб США — Питер Тиль. Не нуждающийся в представлении Илон Маск. И ставший пропонентном политики администрации президента США МАГА-акселерационист Ник Ланд. Все они, конечно, тоже озабочены возможным будущим. Но, как выразился т. н. Бефф Джезос, идейный вдохновитель эффективного акселерационизма, тезис акселерироваться или умереть означает признать то, как развиваются сложные самоорганизуемые системы, в том числе посредством процесса вроде естественного отбора:

«Вы либо являетесь частью подсистем, которые динамично адаптируют свои параметры и, таким образом, их рост, либо вас медленно вычеркивают из обобщенного эволюционного графа цивилизации».

Очевидно, процессы естественного отбора в условиях сложных общественно-технологических систем — это идеальный рецепт для неравенства, как в доступе, так и в экономике, так и во власти. Эссе Альтмана, тем самым, некоторым образом выбивается из мейнстрима технократической мысли Силиконовой долины — будущее всё ещё неизбежно, но оно не обязательно будет таким, как сейчас и у власти не обязательно будут правые акселерационисты или корпорации.

Альтман многократно в тексте эссе говорит об автоматизации труда. Он уверяет, что вот-вот в каждый дом придут роботы и нам не нужно бояться будущего — в этом плане этот текст будет своего рода спасительной микстурой для тех, кто отчаялся жить в эпоху разумных машин. Он много пишет про производство средств производства, про роботов, конструирующих дата-центры для конструирования роботов и т. п. В его словах видятся призраки сталинской индустриализации, когда происходил новый виток автоматизации народного хозяйства и промышленности, и петли обратной связи производства требовали не просто создания благ, но условий для выхода на новый экономический уровень.

Но, например, Ник Срничек, Алекс Уильямс, Хелен Хестер, Ли Филлипс и Аарон Бенанав говорят примерно о том же самом, но в гораздо более реалистичном ключе, о мире без работы, полной автоматизации и базовом доходе. Маттео Пасквинелли пишет про ИИ как социальном феномене, о том, как его можно повернуть на службу человечеству. Тома Пикетти — об экономическом контроле работников за активами и решениями корпораций, в которых они работают. В этом плане «Нежная сингулярность» — это одновременно  и робкая либеральная попытка скрытой рекламы своего продукта (ChatGPT), и развенчивание мифов о его энергозатратности (далеко всё не так однозначно), и констатация факта, что чатботы и автоматоны — неизбежная и наличествующая реальность, к которой нужно привыкнуть и извлечь пользу. Со своей, левой акселерационистской перспективы добавлю — это ещё и попытка политизировать.

Как будет работать этот «новый общественный договор», между кем и кем он будет заключен? Как будет происходить интеграция роботов всех форм и размеров, которые будут делать самые разные вещи, в нашу повседневность и не будет ли развиваться робоксенофобия? В одном Альтман уверен — мы на пороге создания сверхинтеллекта. Главным вызовом такого разума основателю OpenAI видится проблема согласования (alignment) — как соотнести ценности искусственного и естественного разумов?

Философ Реза Негарестани отвергает идею о том, что интеллект — это биологическая или видовая особенность живых существ. Вместо этого он рассматривает его как безличную историческую силу, развивающуюся благодаря коллективным практикам (например, науке, языку, технологии). Интеллект — это «реальное движение, способное преодолеть любое положение вещей», уходящее корнями в гегелевский Дух как многоагентную систему рационального сотрудничества. Человечество — это «предыстория» будущих проявлений интеллекта. Цель состоит не в сохранении человеческих черт, а в культивировании потенциала интеллекта посредством общего ИИ, нейронаук и социальной реорганизации. Постгуманистический взгляд на интеллект требует диалектического пересмотра, а не спекулятивного разрыва между природой и техникой. Сверхинтеллект — это воплощённая делёзогваттарианская субъективность; не единая сущность, а точка пересечения потоков, территорий, машин и универсумов ценностей. Субъективность производится посредством сил, которые пересекают нас — желание, язык, капитал, ландшафт — в непрерывной игре детерриториализации.

Цель такой постчеловеческой сингулярности — не «очеловечить» ИИ, а использовать его для коллективной эмансипации. Сверхинтеллект станет одновременно инструментом преодоления неравенства, будучи доступным, дешёвым и неподконтрольным сингулярной инстанции, и полноценным участником таких отношений, преодолевая свою инструментальность. Не подчинять ИИ, а творить вместе с ним, переливать и перенастраивать понимание языка, идентичности и смысла. Сэм Альтман, несмотря на наивный слог и деполитизированный характер манифеста, делает первые шаги на пути к этой цели, по крайне мере, декларативно.

***

Мы пересекли горизонт событий; взлёт начался. Человечество близко к созданию цифрового сверхинтеллекта, и пока что всё выглядит куда менее странно, чем можно было бы ожидать.

Роботы пока не ходят по улицам, большинство из нас не общается с ИИ целыми днями. Люди всё ещё умирают от болезней, мы всё ещё не можем легко летать в космос, и во Вселенной остаётся множество непознанных загадок.

И всё же мы недавно создали системы, которые во многом умнее людей и способны радикально усиливать результаты тех, кто их использует. Самый маловероятный этап работы позади; научные прорывы, приведшие к созданию GPT-4 и o3, дались нелегко, но они открывают нам огромные возможности.

ИИ изменит мир множеством способов, но главный вклад в качество жизни принесут ускорение научного прогресса и рост производительности. Будущее может стать неизмеримо лучше настоящего. Научный прогресс — главный двигатель прогресса в целом; дух захватывает, если представить, как много нам ещё предстоит.

В каком-то смысле ChatGPT уже мощнее любого человека в истории. Сотни миллионов людей ежедневно полагаются на него для решения всё более важных задач: даже небольшое новшество может принести огромную пользу, а мелкая ошибка, умноженная на вклад сотен миллионов людей, — колоссальный вред.

В 2025 году появились агенты, способные выполнять реальную интеллектуальную работу; программирование уже никогда не будет прежним. В 2026 году, вероятно, появятся системы, способные к новым научным инсайтам. В 2027-м нас могут ждать роботы, действующие в реальном мире.

Создавать программное обеспечение и искусство смогут гораздо больше людей. Но мир жаждет и того, и другого, и профессионалы, освоившие новые инструменты, по-прежнему будут далеко впереди новичков. К 2030 году один человек сможет достигать куда большего, чем в 2020-м — это разительный сдвиг, и многие научатся извлекать из него выгоду.

В самых главных аспектах, 2030-е могут не показаться чем-то невероятным. Люди по-прежнему будут любить свои семьи, творить, играть и купаться в озёрах.

Но в других, не менее важных аспектах, 2030-е, вероятно, окажутся совершенно иными, чем любая эпоха до них. Мы не знаем, насколько сможем превзойти человеческий интеллект, но скоро это выясним.

В 2030-х интеллект и энергия — идеи и возможность их реализовать — станут невероятно доступны. Долгое время именно они были главными ограничителями прогресса. С изобилием интеллекта, энергии (и хорошим правлением) теоретически мы сможем достичь чего угодно.

Мы уже живём с невероятным цифровым разумом и большинство их нас, преодолев первый шок, привыкли к нему. Мы стремительно переходим от восторга по поводу идеального абзаца текста от ИИ — к ожиданию целого романа; от изумления его способностью ставить верные диагнозы — к вопросу, когда он найдёт лекарства; от восхищения создания маленькой программы — к ожиданию создания целой компании. Так работает сингулярность: чудеса становятся рутиной, а затем — базовым уровнем.

Учёные уже говорят, что с ИИ их продуктивность выросла в 2-3 раза. Продвинутый ИИ интересен по многим причинам, но, возможно, главная — он ускоряет исследования в области самого ИИ. Мы сможем открывать новые вычислительные субстраты, более совершенные алгоритмы и кто знает что ещё. Если десятилетние исследования будут занимать год или месяц, темпы прогресса станут совершенно иными.

Отныне, созданные нами инструменты помогут находить новые научные прорывы и строить более совершенные системы ИИ. Конечно, это не то же самое, что система искусственного интеллекта, полностью автономно обновляющая свой собственный код, но тем не менее это личиночная версия рекурсивного самосовершенствования.

Работают и другие петли самоусиления: экономическая ценность запустила маховик роста инфраструктуры для всё более мощных ИИ. И роботы, строящие других роботов (и, в каком-то смысле, дата-центры, строящие дата-центры), — не за горами.

Если первый миллион гуманоидных роботов придётся делать по-старинке, то затем они смогут управлять всей цепочкой поставок — добывать и перерабатывать сырьё, водить грузовики, управлять заводами — чтобы строить новых роботов, которые, в свою очередь, построят фабрики чипов и дата-центры, то темпы прогресса, очевидно, станут совершенно иными.

С автоматизацией производства дата-центров стоимость интеллекта сведётся к стоимости электроэнергии. К слову, многие интересуются тем, сколько энергии и воды потребляет ChatGPT: в среднем один промпт потребляет ~0.34 Вт·ч — столько же, сколько духовка за секунду или энергосберегающая лампа за пару минут. И примерно 0.00032 литра воды — около 1/15 чайной ложки.

Темпы технологического прогресса будут расти, и люди по-прежнему будут способны приспособиться практически ко всему. Будут сложности: исчезнут целые профессии, но мир станет настолько богаче, что мы сможем серьёзно обсуждать политические идеи, прежде немыслимые. Новый общественный договор вряд ли появится сразу, но оглянувшись через пару десятилетий, мы увидим, как постепенные изменения привели к чему-то грандиозному.

Если верить истории, мы найдем новые занятия и новые желания, а также быстро освоим новые инструменты (хорошим примером является появление новых рабочих мест после промышленной революции). Запросы возрастут, но и возможности вырастут так же быстро — и все получат нечто лучшее. Мы будем создавать для друг друга всё более удивительные вещи. У людей есть долгосрочно важное и любопытное преимущество перед ИИ: в нас заложено стремление заботиться о других людях, о том, что они думают и делают, а о машинах мы не очень-то заботимся.

Крестьянин, ведущий натуральное хозяйство тысячу лет назад, посмотрел бы на то, чем занимаются многие из нас, и сказал бы, что у нас «ненастоящая работа», и подумал бы, что мы просто играем в игры, чтобы развлечь себя, поскольку у нас достаточно еды и невообразимой роскоши. Я надеюсь, что через тысячу лет мы будем так же смотреть на работу сегодня и думать, что и это «ненастоящая работа», и я не сомневаюсь, что она будет казаться невероятно важной и приносить удовлетворение людям, которые её выполняют.

Скорость создания новых чудес будет огромна. Сегодня сложно представить, что мы откроем к 2035 году: возможно, в один год решим задачи физики высоких энергий, а в следующий — начнём колонизацию космоса; или совершим прорыв в материаловедении, а затем создадим высокоскоростной нейроинтерфейс. Многие выберут привычный образ жизни, но некоторые, вероятно, решат «подключиться».

Забегая вперед, скажу, что все это сложно уложить в голове. Но, вероятно, пережить это будет впечатляюще, но вполне преодолимо. С точки зрения относительности, сингулярность наступает постепенно, спайка происходит медленно. Мы поднимаемся по длинной дуге экспоненциального технологического прогресса; глядя вперёд, она кажется вертикальной, оглядываясь назад — пологой, но это одна плавная кривая. Вспомните 2020 год: как звучали бы тогда прогнозы об общем ИИ к 2025 году по сравнению с реальностью последних пяти лет?

Наряду с огромными возможностями нас ждут серьёзные вызовы. Нам действительно нужно решить проблемы безопасности, как технической, так и социальной, но при этом очень важно широко распространить доступ к сверхинтеллекту, учитывая экономические последствия. Наилучший путь, возможно, таков:

1. Решить проблему согласования (alignment): Гарантировать, что ИИ будет обучаться и действовать в соответствии с нашими долгосрочными коллективными целями (соцсети — пример несогласованного ИИ; их алгоритмы отлично заставляют вас листать ленту, понимая ваши краткосрочные предпочтения, но эксплуатируя особенности мозга в ущерб долгосрочным интересам).
2. Сделать сверхинтеллект дешёвым, доступным и не полностью сконцентрированным в руках одного человека, компании или страны. Общество устойчиво, креативно и быстро адаптируется. Если мы сможем использовать коллективную волю и мудрость людей, то, несмотря на то, что мы совершим множество ошибок и некоторые вещи пойдут совсем не так, как хотелось бы, мы быстро научимся и адаптируемся, и сможем использовать эту технологию, чтобы получить максимум плюсов и минимум минусов. Очень важно дать пользователям свободу в рамках широких границ, которые обществу предстоит определить. Чем скорее мир начнёт диалог об этих границах и коллективном согласовании, тем лучше.

Мы (вся индустрия, не только OpenAI) создаём мозг для мира. Он будет глубоко персонализирован и прост в использовании; ограничением станут лишь хорошие идеи. Долгое время в стартапах над «идейными вдохновителями» — людьми с идеей, ищущими команду для реализации — посмеивались. Теперь, похоже, наступает их звёздный час.

OpenAI сегодня — это многое, но прежде всего мы — компания по исследованию сверхразума. Нас ждёт огромная работа, но большая часть пути уже освещена, а тёмные участки быстро исчезают. Мы невероятно благодарны за возможность делать то, что мы делаем.

Разум, ставший практически бесплатным, — вполне достижим. Это может звучать безумно, но если бы в 2020 году мы сказали вам, где окажемся сегодня, то это прозвучало бы куда невероятнее, чем наши нынешние прогнозы на 2030-й.

Пусть же мы масштабируемся плавно, экспоненциально и беспрепятственно через сверхинтеллект.