Create post
Philosophy and Humanities

Живёт ли Илон Маск в симуляции? Часть 1

Неискусственный Интеллект 

Многие современные ученые и философы считают правдоподобной гипотезой утверждение о том, что мир — это компьютерная симуляция. Но почему? И что из этого следует? Это решили обсудить доктор философских наук, профессор философского факультета МГУ, содиректор МЦИС Дмитрий Волков (Д.В.) и младший научный сотрудник философского факультета МГУ, эксперт лаборатории геймификации Сбера Александр Ветушинский (А.В.) вместе с научным сотрудником Московского центра исследования сознания при философском факультете МГУ Антоном Кузнецовым (А.К.).

А.К.: Здравствуйте, друзья! Уже несколько лет поступают тревожные сведения с другого конца планеты об Илоне Маске. Говорят, что он активно размышляет о том, что находится в симуляции, в какой-то компьютерной игре. Не только Илон Маск, но и многие современные философы и учёные считают, что мы живём в симуляции. Это называется гипотезой симуляции.

Илон Маск о том, что мы живем в симуляции

Маск считает, что на данный момент самый сильный аргумент за то, что мы живём в симуляции, это указание на тот факт, что примерно 40 лет назад из компьютерных игр у нас была только игра понг с двумя прямоугольниками и точкой. Сегодня у нас есть футуристические 3d-симуляции с миллионами людей, играющими одновременно. И они становятся лучше с каждым годом. Скоро у нас будут виртуальная реальность и дополненная реальность. Если вы допускаете хоть какой-то уровень развития вообще, то признаете, что скоро игры станут неотличимы от реальности. Тогда, вероятно, скоро будут миллиарды таких компьютеров и приставок. А это повышает вероятность того, что мы уже живем в одной из таких симуляций.

Наша беседа будет разбита на два блока. В первом блоке мы будем говорить о том, какие есть доводы в пользу того, что мы живём в симуляции. А второй блок будет посвящён тому, какие у этого есть последствия: как меняется наше представление о повседневной жизни; о том, как нам себя вести; как должно быть организовано общество, религиозность и тому подобное. Дим, я знаю, ты хотел сказать вот какую-то преамбулу небольшую про симуляцию.

Д.В.: Да, я хотел рассказать о научно-фантастической истории, которую написал Айзек Азимов. В рассказе «Последний вопрос» представители человеческой цивилизации создают компьютер для того, чтобы решать самые трудные вопросы. Они задают вопрос компьютеру, как противостоять энтропии Вселенной. (Мы знаем из законов термодинамики, из фундаментальной физики о том, что в принципе всё движется в сторону хаоса и разрушения). И в ответ на этот вопрос Мультивак, вот этот самый суперкомпьютер, задумывается и говорит: «На данный момент недостаточно данных».

И вот проходит ещё столетие, затем тысячелетие. Представители человечества, живущего уже не на Земле, а в каких-то других галактиках, опять задают этот вопрос. Компьютер задумывается и выдаёт на экране сообщение: «На данный момент данных недостаточно». Много раз повторяется это событие. Проходит ещё какое-то количество тысячелетий, миллионов лет, миллиардов лет, и вселенная исчезает. Энтропия побеждает. И во вселенной остается единственная сущность, Мультивак. Это тот самый компьютер, который уже не существует в пространстве. Он находится в каком-то другом состоянии.

И он находит ответ. Единственное, что нет слушателей, кому нужно отвечать. И тогда где-то он высвечивает ответ: «Да будет свет!» И Азимов пишет: «И свет появляется». Таким образом, Азимов рисует очень красивую, с моей точки зрения, космологическую притчу о том, как была создана Вселенная. Предполагается, наверное, в его рассказе, что эта история циклична, что всё развивается вот такими какими-то эонами, и человечество является плодом какого-то искусственного разума, который, в свою очередь, создается человечеством.

А.К.: Этот Мультивак подозрительно похож на некоторых моих студентов во время сдачи экзамена. Они тоже говорят: «Недостаточно данных для ответа». Следует признать, что энтропии вокруг студентов больше, чем вокруг преподавателей, поэтому надо с пониманием к ним относиться.

Почему следует серьезно относится в разговору о том, что мир — симуляция?

Кажется, что гипотеза о том, что мир есть компьютерная симуляция, — это фантастика. Но почему разговор о симуляции сейчас такой серьёзный? Ведь не последние люди говорят о симуляции: Ник Бостром, Нил Деграсс Тайсон, Дэвид Чалмерс. Саш, объясни, пожалуйста: что, какие-то новые доводы, что ли, появились?

А.В.: Я думаю, дело не в новых доводах, а в том, что изменился немножко сам мир, в котором мы живём. Здесь можно вспомнить аргумент симуляции Ника Бострома, который был первичным толчком к тому, чтобы эту тему начали обсуждать всерьёз. Ник Бостром не только философ. В первую очередь он футуролог. И в общем-то, сама тема возникает внутри не чисто философского контекста, а внутри контекста, где уже дозволено размышлять о будущем, где уже дозволено думать о сценариях, которые, возможно, для нас сегодня кажутся фантастическими. Позволить себе думать о том, что кажется сегодня невозможным это, в общем-то, и есть одна из вещей, которую футурологи постоянно берут на вооружение. Тема технологической сингулярности отчасти является триггером для обсуждения компьютерной симуляции и моделей, связанных с ней.

А.К.: Если очень грубо, представление о технологической сингулярности заключается в том, что в будущем технологии начнут развиваться бесконтрольно. Будет технологический взрыв, они выйдут из–под контроля и, возможно, захватят нас, поработят. Эта возможность является одним из оснований гипотезы симуляции.

А.В.: Мне нравится концепция технологической сингулярности, потому что самые популярные прогнозы говорят, что это будет совсем не через тысячу лет, а в 40-е годы XXI века. То есть осталось буквально 20 лет подождать, и у нас будет возможность проверить. Футурологи часто определяют технологическую сингулярность как момент в истории будущего человечества, после которого будущее уже невозможно предсказать. Почему? Потому что появляются новые параметры, и мы сегодня не очень понимаем, как они будут действовать. Один из ключевых параметров — это как раз сильный искусственный интеллект. Он обычно воспринимается как та новая переменная, которая непонятно как себя поведёт.

Но второй контекст — это, конечно же, переопределение современной экономики. Это IT-революция, это программисты, это новый тип мышления, который выходит на первый план. И мне кажется, что компьютерная симуляция — это большой нарратив, который как раз показывает, почему программист сегодня занимает ключевое место, почему он властитель умов. Программист — это тот, кто делает мир сегодня, и кто делает будущее.

Аргумент симуляции и его посылки

А.К.: В чём заключается аргумент симуляции?

А.В.: Я всегда, когда рассказываю этот аргумент, начинаю с того, что ввожу три базовые посылки. Первая — это возможность технологической сингулярности. Вторая — убеждение в том, что если у нас будет возможность запускать симуляции, мы их запустим. Третья — сознание не зависит от материального субстрата. Не нужно быть обязательно человеком или биохимическим существом для того, чтобы было возможно сознание. То есть, грубо говоря, возможен сильный искусственный интеллект. Вот эти три посылки здесь принципиальны.

И теперь перейду как раз к аргументу. Он звучит следующим образом: «По крайней мере одно из трёх утверждений является истинным». Первое утверждение: «Технологическая сингулярность никогда не случится». Второе утверждение: «Компьютерная симуляция никогда не будет запущена». Третье утверждение: «Мы живём в компьютерной симуляции».

Грубо говоря, весь аргумент построен на том, что, если одно из этих трёх утверждений является истинным, то автоматически два других являются ложными. Бостром начинает просто считать вероятности и действительно приходит к тому, что из этих трёх возможностей, самой вероятной является как раз та, что мы живём в компьютерной симуляции.

Давайте сейчас пофантазируем, какова вероятность того, что технологическая сингулярность не случится? Он заявляет о том, что эта вероятность очень низкая, потому что для того, чтобы технологическая сингулярность не случилась, всё человечество должно погибнуть до того, как это случится. Но если случится какая-то катастрофа, которая уничтожит не всё человечество, то технологическая сингулярность не перестанет быть возможной. Она просто не в XXI веке случится, а в XХVIII веке, к примеру.

Второй момент. Если технологическая сингулярность всё-таки случится, значит, у нас будет возможность запустить компьютерные симуляции, существа в которых будут обладать таким же сознанием, как, например, те, кто их запускает. Бостром тоже начинает это обсуждать. Какова вероятность того, что их не будут запускать, если будет такая возможность? Даже если на уровне законодательства это запретят, то всё равно где-нибудь в нейтральных водах, где-нибудь на орбите планеты Земля или где-нибудь ещё в тоталитарных государствах их, конечно же, будут запускать.

Если же технологическая сингулярность случится, то можно предположить, что она уже случилась. Если компьютерную симуляцию запустят после технологической сингулярности, которая, возможно, уже случилась, то тогда, возможно, компьютерная симуляция уже запущена. А если компьютерная симуляция уже запущена, то высока вероятность того, что мы живём в одной из них.

А.К.: Потому что этих компьютерных симуляций может быть неограниченное количество. Могут быть симуляции в симуляции, миллиарды симуляций. И соотношение количеств симуляций к настоящему миру близко к бесконечности. Стремится к нулю вероятность того, что мы живём в настоящем мире. Но работает этот аргумент или нет?

А.В.: Как строгий философский аргумент, нет. Но он убедительный и мотивирует начать его обсуждать или по крайней мере искать более интересные аргументы.

А.К.: Дим, что бы ты добавил? Насколько тебя убеждает гипотеза симуляции?

Д.В.: Я хочу немножко по-другому объяснить аргумент. Я не совсем согласен с тем, как Александр его сформулировал. Предлагаю представить такую ситуацию: вы родились и никогда не видели ни отца, ни матери. Вы помещены в какую-то комнату, куда вам поступает еда, вы слышите какие-то звуки. Например, вы общаетесь с внешним миром через компьютерный монитор, который вам что-то подсказывает, рисует, вас обучает, разговаривает с вами и так далее. И вот вы живёте так в этой закрытой комнате, например, 20 лет. Через 20 лет вы узнаёте, что вы живёте на планете Земля. И 90% населения Земли это китайцы. И компьютер вас спрашивает (это такой своеобразный экзамен на рациональность): «Как вы думаете, какой вы национальности?» Логический ответ такой: «Скорее всего, китаец». И вот аргумент симуляции работает примерно таким же образом.

Что не так с аргументом симуляции?

А.К.: Саш, люди, которые рассуждают об аргументе симуляции, все говорят примерно одно и то же. А что не так с этим аргументом?

А.В.: После того, как Ник Бостром этот аргумент произвёл, к нему стали постоянно приходить журналисты и спрашивать, какова именно вероятность того, что мы живём в компьютерной симуляции. Он однажды попробовал это посчитать. Я не помню точную цифру, но она очень небольшая. То есть если серьезно, вероятность того, что мы живём в компьютерной симуляции, небольшая.

А.К.: Но сейчас он отказался от этого, сейчас он считает, что здесь нельзя точную цифру дать.

А.В.: Да. Мне кажется, это всё равно симптоматичный момент, потому практически наверняка речь идёт о том, что да, есть такая вероятность, она не очень большая, но, возможно, она больше, чем вероятность некоторых метафизических теорий, которые были высказаны в философии до этого.

А.К.: Мы не можем посчитать, но и вероятность-то высока, отрицать это нельзя. Множество симулированных миров и всего-навсего лишь один настоящий.

Д.В.: Кстати, неизвестно, один ли настоящий. Если предположить, что время бесконечно, то, возможно, настоящего нет. И тогда вообще вся история симулирована. Нужно понять, почему мы считаем, что мы, вероятно, находимся в симуляции. А идея такая: мы можем наблюдать, что технологии развиваются в экспоненциальном темпе: производительность становится всё больше высокой, причём компьютеры становятся всё более маленькими. Таким образом, всё большее и большее количество материи превращается в машины, в компьютеры. Это первая вещь, которую мы наблюдаем.

Вторая вещь, которую мы знаем, это то, что внутри этих компьютеров мы можем создавать миры. Например, метеорологи создают миры погоды. И таким образом, они предсказывают, что будет происходить с ней. Физики создают симуляции сложнейших экспериментов и просчитывают, что будет происходить с материей в том или ином случае. Люди создают игры для того, чтобы в них играть, и в этих играх они просто получают удовольствие. Таким образом, причин создавать симуляции становится очень много.

Теперь представим, что вычислительные мощности растут в геометрической прогрессии. Количество симуляций, которые мы создаём, становится всё больше и больше. И сложность становится больше и больше. И в симуляции становится всё больше разных псевдоагентов. Мы сегодня можем общаться с Siri, с Алисой и так далее. Это, в принципе, агенты. То есть у них есть какие-то примитивные функции, которые они могут выполнять.

Но мы можем предположить, что через некоторое время эти агенты будут полноценными. Если допустить, что появится хотя бы один такой агент, вероятность, что их появится бесконечное или огромное количество, очень высокая. То есть нас на Земле несколько миллиардов, а сколько таких агентов можно было бы симулировать в симуляционных мирах? Бесконечное количество. И сколько таких симуляций могло быть? Multiverse, то есть бесконечное количество.

Таким образом, есть 8 миллиардов, к примеру, агентов, которых мы считаем аутентичными, реальными агентами. Есть бесконечное количество агентов, которые существуют в этих симуляционных мирах. И дальше очень важный шаг: мы не можем отличить симулированных агентов от реальных агентов. Или мы, скорее всего, относимся к тому бесконечному множеству симулированных агентов.

Теперь почему я не согласен с Александром. Я, честно говоря, давно перечитывал эту статью Ника Бострома. Мне кажется, что технологическая сингулярность не является необходимым параметром выполнения аргумента. Технологическая сингулярность — это когда мы в принципе не можем предсказать, что будет происходить. Но тогда, если бы речь шла о технологической сингулярности, то мы бы в принципе не могли дальше говорить ни о чём в этом аргументе. Потому что мы бы вообще ничего не могли предсказать. Мы даже не можем предполагать, будут ли люди делать какие-либо симуляции. Мне кажется, не только не нужна технологическая сингулярность, но она и вредна для этого аргумента. Для того чтобы аргумент стал работать, достаточно просто, чтобы была какая-то очень высокая производительность. Очень большая вычислительная мощность, но не бесконечная. И была возможность переносить какое-то количество субъектов внутрь этой системы.

А.В.: Да, я согласен с Дмитрием. Статья заканчивается вопросом, а нужно ли нам тогда всё-таки запускать симуляцию? Потому что если мы живём в симуляции (а как он доказывает в статье, у этого высокая вероятность), то, если мы запустим симуляцию в симуляции, то возможно, те, кто нас запустил, решат нас прикрыть. Это просто дополнительный риск: так может завершить своё существование наша цивилизация. Возможно, мы должны отсрочить запуск такого рода систем или такого рода миров, потому что тот мир, внутри которого мы существуем, не вытянет так много.

Как человек, осознав, что он в программе, может из нее выйти?

А.К.: Я думаю, представление о технологической сингулярности играет скорее идеологическую роль. Если мы принимаем в расчёт, что такое событие в истории может иметь место, то это одно из оснований рассматривать гипотезу симуляции всерьёз. Скажите, а как человек, осознав, что он в программе, может из неё выйти?

А.В.: Я думаю, что это можно сделать, но вот ответа пока на этот вопрос у меня нет. Этот вопрос задавали себе режиссёры разных фильмов. Например, есть такой киберпанковский фильм «Нирвана», где есть идея того, что жизнь персонажа в симуляции это и есть попытка, желание выйти из круга перерождения, рождения и смерти, потому что ты постоянно переигрываешь одну и ту же игру. Скучно, невыносимо, удалите меня. Я думаю, что, в принципе, здесь какие-то возможности есть.

Обычно многие говорят про какие-то несостыковки в системе, про что-то, что меняется в этой системе, что позволяет отследить по каким-то следам работу кого-то, кто вторгался извне. Пока у меня таких аргументов для отключения нет.

Д.В.: Саш, я предлагаю сделать робота и таким образом выйти из симуляции. Вот представьте, что вы находитесь в компьютерной игре. То есть вы внутри какой-то вселенной, которая работает по каким-то законам. В принципе, если у вас есть возможность вносить изменения в собственный код, то вы можете каким-то образом начать выстраивать взаимосвязь с объектами за пределами вашей вселенной. Например, у вас есть компьютер, и вы можете начать засылать вирусы на другие компьютеры. То есть, в принципе, у любой системы есть какая-то казуальная связь с другой вышестоящей системой, поэтому вы можете фактически стать роботом. Под роботом я подразумеваю некую систему, которая не только код, но ещё и имеет присутствие в другой вселенной — физической, например.

Ограничена ли вычислительная мощность симуляции? Если мы в симуляции, то можно ли общаться с ее создателями?

А.К.: Другими словами, можно стать чем-то вроде Нео в матрице. Мне кажется, напрашивается эта аналогия. Другой вопрос: ограничена ли вычислительная мощность у симуляции?

А.В.: Она должна быть ограниченной. По крайней мере, мне так кажется. В самом слове “симуляция” есть момент ограниченности. Само понятие заставляет меня сказать нет.

Д.В.: Конечно, ограничена. И этим она в том числе отличается от фундаментальной реальности.

А.К.: Ага. И вот еще один вопрос. Если мы в симуляции, можно ли общаться с создателями?

А.В.: Это тоже фантастическая ситуация, хотя ты с самого начала сказал, что мы затронем отчасти религиозные вопросы. Мы ставим их, когда говорим здесь про причинную связь или про то, что у нашего мира есть какой-то источник, или кто-то, о ком мы каким-то странным образом помним, потому что в нашем коде где-то эта информация есть, здесь и всплывает тема создателя.

Мне кажется, что есть некоторая возможность контакта, такая гностическая. Можно сломать этот мир, потому что любую игру можно заставить сломаться, если, например, все начнут делать какое-то совершенно бессмысленное действие или просто заставят всё затормозить и сломаться. Тогда, грубо говоря, мы сможем, возможно, что-то доказать. Только вопрос в том, что с нами будет после этого.

Д.В.: Я считаю, что нужно заниматься больше искусством в разных вариантах. Вот давайте представим: для чего прародители могли создать такую симуляцию? Если они совсем другие существа, и мы их не можем никак понять, то тут никакие размышления нам не помогут. Но предположим, что они похожи на нас. И тогда давайте подумаем, что бы было целью для них. Во-первых, они могли бы создать симуляцию для того, чтобы получить какие-то знания о собственной природе. Они могли бы наблюдать за нами и смотреть, что будет происходить. Тогда, мне кажется, наша основная цель — это продолжать выживать. Просто спасать нашу цивилизацию и не уничтожить её самостоятельно. Это первая вещь.

Вторая вещь. Предположим, они создали нас для развлечения. Мне кажется, одна из самых интересных вещей, которые создаёт человечество, это искусство. Если говорить о технологиях и предположить, что нас создали прародители, то технологии им не так уж интересны. А вот искусство, мне кажется, это достаточно необычная и неординарная деятельность. которая может быть как телепередача для этих прародителей.

И наконец, третье, порнография. Когда интернет появлялся, то 80% битов, которые передавались в интернете, это были биты, связанные с эротическими изображениями. Сначала были рассказы, потом появились фотографии, теперь появились видео. И сейчас экономика порнографии во многом движет интернетом. И есть такая вероятность, что наша симуляция — это на самом деле какая-то игрушка, которую создал 14-летний прародитель, парнишка, который живёт в каком-нибудь чердаке. Он сделал это просто для того, чтобы посмотреть, как люди занимаются сексом. И он с удовольствием наблюдает за 8 миллиардами, которые, собственно, пытаются размножаться и всё такое.

Как человек в симуляции поймет, что он в симуляции?

А.К.: Возникает еще довольно важный вопрос: если симуляция есть, то как человек в симуляции поймёт, что он в симуляции?

А.В.: Мне кажется, что компьютерная симуляция — это метафизический тезис. Это не столько про наш опыт переживания себя как, например, компьютерной программы. Потому что в конце концов мы про компьютерные программы знаем только потому, что они окружают нас вокруг. То есть в этом смысле переносить это на себя — это по большому счёту делать определённую процедуру дополнительного истолкования того, чем мир является. Возможно, искать какие-то продуктивные метафоры, которые помогут нам это объяснять. Для аргумента не так важно, насколько мы действительно можем понять свою подлинную природу. Другое дело, что эта модель подлинной природы может оказаться продуктивной и интересной.

А.К.: Твой ответ такой, что не обязательно это знать, но представление о том, что мы симуляционные существа может нас продвинуть в плане антропологии, допустим.

А.В.: В плане собственного осмысления.

А.К.: Дим, а ты как думаешь?

Д.В.: Мы говорим сейчас о симуляции и всё-таки не прояснили, что это такое. Для меня симуляция это три тезиса. Первый тезис: мы существуем в цифровой реальности. Второй тезис: наша реальность не является фундаментальной, есть какие-то более фундаментальные реальности. Третий тезис: в нашей реальности есть создатель.

Я начну с третьего. Мы рассматриваем симуляцию сейчас, в основном предполагая прародителей, то есть некоторые существа, которые нас создали. В самом начале я упомянул случай, когда нас не создал другой человек, а нас создала машина. Только косвенно создал человек. В принципе, симуляция могла возникнуть без создателя. Когда говорят о симуляции, очень часто говорят: «А, вот она новая теология, вот она новая библейская история, новая история мира с добрым или злым богом». Это интересная часть теории симуляции. То есть это как бы теологическая идея.

Правда, она отличается от христианской доктрины в том, что здесь не предполагается, что бог бесконечно сильный и абсолютно благой. То есть, например, эта симуляция могла быть создана для того, чтобы мы все страдали. И интересно, что это, как мне кажетcя, аргумент против христианской доктрины. Потому что мы действительно не можем сказать, для чего создан этот мир: для того чтобы мы все страдали, или для того, чтобы мы были счастливыми. То есть мы не можем сказать, что создатель, который создал этот мир, благой или не благой.

Теперь вторая часть. Наша реальность не является фундаментальной. То есть существует другая реальность, которая является более фундаментальной. Эта идея не новая. Скажем, она была ещё и у Платона: знаменитая аллегория пещеры. Он говорит, что обычные люди существуют в мире теней, а эти тени образуются тем, что какие-то существа за пределами пещеры перед огнём носят фигуры. Или возьмём, например, Декарта, его размышления о сне. Он говорит, что нет никакой возможности определить, находимся ли мы в бодрствовании или во сне. И действительно, возможно, существует какая-то более фундаментальная реальность в виде бодрствования, из которой мы просто не можем выйти.

И наконец, третья часть существования цифровой реальности. Реальность фундаментальная — цифровая. Что это значит? У физиков есть идея цифровой вселенной. Многие современные физики говорят о том, что так и есть. Наверное, речь идёт о том, что физическая реальность, как мы её себе представляем, не дискретна. Она бесконечна. А вот цифровая реальность разделяется на какие-то дискретные состояния. То есть есть единица и ноль, и дальше это делить невозможно.

А.К.: Очень интересно! На этом первая часть нашей дискуссии подошла к концу. Во второй части будем говорить о том, что находится за пределами симуляции и как должно измениться наше общество и этика, если мы действительно находимся в симуляции.

Subscribe to our channel in Telegram to read the best materials of the platform and be aware of everything that happens on syg.ma

Author