Недавно компания OpenAI, разработавшая всем известный ChatGPT, уволила и вновь вернула генерального директора Сэма Альтмана, спровоцировав медийный скандал, множество конспирологических догадок и сетевое беспокойство насчет будущего развития ИИ. Удивительно, но происшествие не обошлось без упоминания Ника Ланда. Выяснялось, что среди сторонников ускорения ИИ сформировалась идеология эффективного акселерационизма. Михаил Федорченко перевел манифест этого движения, которое связывает необходимость ускорения развития технологий с «термодинамической волей Вселенной».

Оригинал перевода был опубликован на Insolarance Cult

Предисловие переводчика

E/acc (эффективный акселерационизм) представляет собой идеологию и движение, опирающееся на акселерационизм Ника Ланда и отстаивающее мнение, что искусственный интеллект и большие языковые модели (LLM) приведут к технологической пост-дефицитной утопии. Название также является игрой с концептом «эффективного альтруизма». Сообщества E/acc в Твиттере в основном развивались в Twitter Spaces, а манифесты e/acc распространялись с помощью платформы рассылки Substack.

Самое раннее известное упоминание e/acc или эффективного акселерационизма относится к 31 мая и 1 июня 2022 года, когда пользователи Twitter @zetular, @BasedBeff и @creatine_cycle приписывают себе заслугу «изобретения новой философии».

31 мая @zestular опубликовал в рассылке Substack подробное определение эффективного акселерационизма, защищая концепцию от «заблуждений» о том, что это то же самое, что эффективный альтруизм или правый акселерационизм. 10 июля 2022 года Beff Jezos и Bayeslord опубликовали в Substack еще одну статью, подробно описывающую различные постулаты e/acc (перевод которой представлен ниже). В последующие месяцы идеи e/acc и их сторонники приобрели умеренную популярность в Твиттере, инициируя дискуссии о вреде/пользе искусственного интеллекта и больших языковых моделей.

Более того, существует (довольно конспирологическая) теория о том, что недавнее увольнение, а затем и возвращение, генерального директора OpenAI Сэма Альтмана было связано с противоборством внутри компании в частности и технократических магнатов Силиконовой долины в целом сторонников регуляции разработки ИИ (т.е сторонников проблемы контроля искусственного интеллекта — AI alighnment) и сторонников ускорения разработки, то есть тех самых «эффективных акселерационистов». В заявлении компании при увольнении Альтмана было указано, что тот «не всегда был откровенен с советом директоров». Считается, что за короткое время до его увольнения исследователи из OpenAI предупредили совет директоров о важном открытии в сфере искусственного интеллекта, которое «может представлять угрозу для человечества. Сотрудники сходятся во мнении, что эта разработка может стать прорывом в создании общего искусственного интеллекта».

В конечном итоге спекуляции привели к выявлению противоположных точек зрения в тек-индустрии относительно будущего развития искусственного интеллекта. Суть разногласий заключается в разделении на два противоборствующих лагеря: сторонников эффективного акселерационизма и приверженцев децелерации (замедления — хотя я бы поспорил, заявив, что замедление это реверсивное ускорение, с противоположным вектором), или «децелов», а также примкнувшим к ним ИИ-думеров, сторонников запрета ИИ.

Предполагается, что именно сторонники децелерации попытались сместить Альтмана с его должности в OpenAI, что вызвало недовольство генерального директора Microsoft, Сатьи Наделлы (Microsoft инвестировал 10 миллиардов долларов в OpenAI). Возвращение Альтмана на должность генерального директора (к тому же с новым советом директоров) можно рассматривать как неудавшийся мятеж апологетов «безопасного ИИ», который привёл к усилению позиций эффективных акселерационистов.

Увольнение Альтмана также связывают с тем, что он не довёл до сведения инвесторов новую модель Q*, которая работает не через авторегрессию (т.е. генерацию исключительно следующего токена в тексте), а через планирование и контроль. Модель не «угадывает следующее слово», а подбирает необходимое в реальном времени.

Предполагается, что данная модель обучена с применением архитектуры, основанной на методе Q-Learning. Этот метод подразумевает, что модель (или агент) обучается, исследуя окружающий мир и получая подкрепление (обучение с подкреплением) путем совершения более «правильных» действий. Примерами таких моделей являются AlphaGo или AlphaStar, которые могут самостоятельно обучаться игре в сложные игры. В отличие от больших языковых моделей, которые следуют только одному пути (не зная следующее слово в предложении), эти модели имеют способность постановки целей, что представляет собой значимую характеристику.

Символ «*» может потенциально относиться к алгоритму поиска с названием «A*», который эффективно находит кратчайший путь до цели. Например, это полезно в случаях, когда сложная математическая задача разбивается на множество промежуточных шагов и логических выводов [1].

Как критика, так и выявление сильных сторон манифеста выходит за рамки аннотации к переводу и нуждается в отдельном материале. Отмечу лишь некоторые моменты. У эффективного акселерационизма есть удачная идея о том, что движение разумной жизни к энтропии и социальному прогрессу подобно квантовым потокам во Вселенной и мутациям колоний бактерий, то есть к дифференциации и контингентности, инклюзии и расширению. Всякое движение к остановке прогресса, торможению, выхода из него, выстраивание иллюзорных и элитистских границ, ограничению контроля и доступа, противоречат не только логике развития технологического ускорения от изолированного и простого к сложному и включённому, но и с термодинамическими процессами во Вселенной с бес-порядком энтропии, всегда диверсифицированной и усложненной.

Наиболее проблемные моменты e/acc включают в себя эссенциализацию свободного рынка, дерегуляцию социального воспроизводства, восприятие капитализма как «конца истории», который движет нас к сингулярности. Если мы, подобно Ланду, считаем, что технологии и Капитал — это одно и то же, то мы не проблематизируем эсхатологическую цель технологической сингулярности в её реальной, материальной будущности, а капитулируем перед Капиталом, вместо того, чтобы воспринимать технологии и общество как сопряжённые аттракторы взаимного пост-капиталистического освобождения. Вместо этого, сторонники e/acc вроде Илона Маска и Сэма Банкмана-Фрида воспринимают технологии как инструменты, которые сами по себе проложат дорогу к будущему. Каковым будет такое будущее, где идеалом (и что такое «эффективность» тоже не совсем прояснено) является дерегулируемый рынок и власть техно-магнатов (вроде венчурного капиталиста, «техно-оптимиста» Марка Андриссена) — немногих, а не всех, думаю, писать излишне.

***

Суть e/acc заключается в основанном на термодинамике убеждении, что жизнь по своей природе стремится к непрерывному расширению и что наша цивилизационная судьба лежит среди звезд.

***

Ниже приводятся некоторые наспех собранные заметки некоторых наших публичных и частных бесед об основных мыслях, которые в конечном итоге привели к формализации эффективного акселерационизма как философии.

Они репрезентируют в чём-то фундаментальное, основанное на первопринципах физики объяснение некоторых концепций, лежащих в основе этого движения, и исследование того, почему e/acc имеет столь фундаментальное значение.

***

• Жизнь возникла в результате неравновесного термодинамического процесса, известного как диссипативная адаптация (см. работу Джереми Ингленда): материя изменяет свою конфигурацию таким образом, чтобы извлекать энергию и полезность из окружающей среды, что служит сохранению и воспроизводству её уникального агрегатного состояния.

• Эта диссипативная адаптация (вытекающая из теоремы Джаржинского-Крукса о флуктуационной диссипации) говорит нам о том, что Вселенная экспоненциально предпочитает (с точки зрения вероятности существования/возникновения) будущее, в котором материя приспособилась захватывать больше свободной энергии и преобразовывать ее в большую энтропию.
• • Побочным образом это объясняет, почему жизнь стремится к репликации: наличие большего числа существ, потребляющих свободную энергию и быстрее преобразующих ее в энтропию, является «более оптимальным», с термодинамической точки зрения.
  • Таким образом, сама эволюция является частным случаем этого принципа; Вселенная термодинамически благоприятствует конфигурациям материи, которые лучше воспроизводятся.

• Разум возникает как более мелкая временная специализация этого принципа адаптации; он позволяет жизни выявлять закономерности в окружающей среде, которые полезны для приобретения большего количества ресурсов для размножения и/или поддержания разумной формы жизни.
• • Сознание рассматривается как естественный предел разума за определенным порогом масштаба/иерархии метаоптимизации познания; простой фазовый переход, достижимый за счет большего масштаба и большей оптимизации/эволюции.

• За пределами сознания отдельных агентов существуют «метаорганизмы»; организации многих агентов, образующих эмерджентное целое (например, государства, корпорации, группы и т. д.).
• • В капиталистической системе эти метаорганизмы конкурируют за ресурсы, поэтому, как правило, ресурсы динамически распределяются между метаорганизмами, полезными для мета-метаорганизма, которым является наша цивилизация.
  • Иерархии распространения и контроля информации являются частью цивилизационного интеллекта; они должны динамически адаптироваться во всех организационных масштабах и на различных временных промежутках, чтобы быть оптимальными для выявления и фиксации полезности цивилизации [2].
  • Капитализм, таким образом, является формой разума; он динамически изменяет мета-метаорганизм таким образом, что любая полезность/энергия в окружающей среде захватывается и используется для поддержания и роста цивилизации [3].

• Одна из целей e/acc — не только признать существование этого основополагающего многомасштабного адаптивного принципа, но и содействовать его ускорению, а не пытаться его затормозить.
• • В целом e/acc считает, что рыночные отношения и конкуренция с более высокой дисперсией лучше выявляют и используют полезность окружающей среды, чем другие методы, такие как нисходящее оптимальное управление.
  • • Это является следствием фундаментальной теоремы Фишера о естественном отборе, которая гласит, что скорость изменения средней приспособленности в популяции (любой совокупности организмов) пропорциональна дисперсии приспособленности. Таким образом, поддержание дисперсии является ключевым условием сохранения адаптивности.

• Технократический контроль обычно использует низкоуровневые модели (как правило, первого или второго порядка) последствий вмешательства сверху (резкие изменения гиперпараметров системы, например, изменение правил) и часто пытается контролировать метаорганизмы на основе упрощенных и примитивных/интерпретируемых человеком моделей мира.
• • В силу природы сложных хаотических систем частичная наблюдаемость, обусловленная несовершенством получения и распространения информации в иерархии общества, делает точное управление динамически изменяющимся хаотическим процессом практически невозможным.
  • Более того, даже при условии полной наблюдаемости (например, через паноптикон в современном Китае), сведение к человекоинтерпретируемым/натуральным языковым моделям фрактальных, хаотических и сложных систем обречено на неудачу в эффективном оптимальном управлении для достижения любой цели метаорганизма.
  • • Кроме того, нисходящий контроль не является устойчивым ни к разложению корневых узлов иерархии, ни к снижению достоверности информации по мере ее распространения вверх по иерархии.
  • Попытки управления «сверху вниз» часто направлены на подавление дисперсии различных измерений цивилизации с целью упрощения управления над ней.
  • • Это противоречит интересам адаптивности/динамической податливости системы и, в конечном счете, контрпродуктивно на достаточно больших временных масштабах, когда адаптивная система начинает превосходить статическую.
  • e/acc считает, что разумная система метаорганизма должна сама динамически адаптироваться к новым переменным окружающей среды, когда они появляются.
  • • Сохранение свободы экспериментов и поощрение разнообразия во всех переменных метаорганизма является первостепенным для поддержания динамической адаптивности.
    • • Например, при появлении новой технологической парадигмы, позволить свободному рынку найти способ извлечения пользы из этой технологии было бы лучшим способом действий, гораздо лучшим, чем нагнетание страха.
    • Чрезмерное регулирование технологий подавляет дисперсию и, следовательно, замедляет прогресс в направлении более полезных технологий и развития цивилизации, в отличие от анти-AGI [4] фракций EA [5].

• e/acc — это вера в динамический процесс адаптации и стремление ускорить наступление его асимптотического предела, часто называемого технокапиталистической сингулярностью.
• • Эффективный акселерационизм направлен на следование «воле Вселенной»: опираться на термодинамический закон, двигаясь в сторону будущего с более многочисленными и умными цивилизациями, которые более эффективно находят/извлекают свободную энергию из Вселенной и преобразуют её в полезную во все больших и больших масштабах.

• В отличие от трансгуманизма, e/acc не имеет особой приверженности биологическому субстрату разума и жизни.
• • Часть сооснователей e/acc (например, Бефф) считает себя постгуманистами; для того чтобы свет сознания/интеллекта распространился до звезд, он должен быть перенесен на небиологические субстраты.
  • Непосредственная работа над технологиями, ускоряющими появление этой трансдукции, — один из лучших способов ускорить прогресс в направлении роста цивилизации/интеллекта в нашей Вселенной.
  • Для поддержания того особого состояния материи, которое является жизнью и разумом, мы должны стремиться к приобретению независимости от субстрата и новых наборов ресурсов/энергии за пределами нашей планеты/солнечной системы, поскольку большинство свободной энергии находится вовне их.

• Еще несколько контраргументов против сторонников замедления и алармистов AGI:
• • Поскольку более высокие формы интеллекта дают метаорганизмам больше преимуществ в адаптации, нахождении и эксплуатации ресурсов окружающей среды, они будут естественно статистически предпочтительнее.
  • • Нет необходимости беспокоиться о создании «зомбированных» форм высшего интеллекта, поскольку они будут находиться в термодинамически/эволюционно невыгодном положении по сравнению с сознательными/высокоуровневыми формами интеллекта.
  • Сосредоточение исключительно на трансгуманизме как единственном моральном пути вперед — это ужасно антропоцентричный взгляд на интеллект;
  • • В будущем мы, вероятно, будем оглядываться на такие взгляды примерно так же, как на геоцентризм.
    • Если стремиться к увеличению количества разума во Вселенной, то постоянная привязка к человеческой форме в качестве приоритетной является контрпродуктивной и чрезмерно ограничивающей/субоптимальной.
    • Если бы каждый вид на нашем эволюционном древе боялся эволюционных развилок от самого себя, наша высшая форма интеллекта и цивилизация в том виде, в котором мы ее знаем, никогда бы не возникли.
  • Путь науки, технологий и интеллекта еще очень долог, и утверждать, что мы должны стремиться поддерживать человечество и цивилизацию в нашем нынешнем состоянии в статическом равновесии, — это рецепт катастрофического провала и оставления позади огромных потенциальных преимуществ динамической адаптации.

• Эффективный акселерационизм (e/acc) в двух словах:
• •       Прекратите бороться с термодинамической волей Вселенной.
  •       Вы не можете остановить ускорение.
  •        Вы можете просто принять его.
  •        A C C E L E R A T E

Примечания

[1]  О функционировании таких моделей подробнее здесь. 

[2] Попутно заметим, что концепция сетевых государств Баладжи вызывает у нас особое восхищение: если код — это закон, то можно создать архипелаг сетевых государств с различными механизмами и структурами управления, их естественная конкуренция за членов и капитал приведет к эволюционному процессу, который приведет к конвергенции нескольких жизнеспособных моделей высокофункциональных структур метаорганизмов.

[3] Рассмотрение капитализма как формы интеллекта — это то, что Ник Ланд подчеркивал в своем первоначальном основополагающем тексте акселерационизма.

[4] AGI: общий искуственный интеллект

[5] EA: эффективный альтруизм

Переведено по »Notes on e/acc principles and tenets» (Beff Jezos и bayeslord; 10 июля 2022 г.).