Автор: Тобиас Рис

Тобиас Рис — директор программы «Трансформации Человека» в Институте Николаса Берггрюена, научный сотрудник канадского Института Перспективных Исследований. Имеет ученые степени в области философии, антропологии и нейробиологии. Резидент Фонда Рокфеллера по изучению будущего ИИ. Проводит исследования на стыке антропологии, истории искусства, истории науки и современной философии.

Большую половину последних двух лет своей жизни я посвятил попыткам убедить такие компании, как Google, Facebook, Microsoft, DeepMind и OpenAI, что им нужно нанимать на работу философов.

Я и мои коллеги — небольшая группа ученых, которые работают над программой под названием «Трансформация Человека» в Лос-Анджелевском мозговом центре, в Институте Берггрюена — считаем, что исследования, проводящиеся этими компаниями, разрушают саму концепцию человека, которую мы — особенно на Западе — воспринимали как должное на протяжении почти 500 лет.

Однако дело не только в этом. Эти компании помогли создать реальность, в которой мы более не способны ориентироваться, вооружившись старым пониманием того, что значит «быть человеком».

Нам нужны новые реалии: и для нас самих — чтобы мы обрели ориентир и смогли контролировать новые миры, в которых мы живем, и для инженеров, создающих технологические продукты, инструменты и платформы — чтобы они могли соответствовать философским целям своей работы.

Чтобы это стало возможным, нам необходимы философы и художники, работающие вместе с компьютерными и программными инженерами.

ЧТО ПОСТАВЛЕНО НА КАРТУ

До сравнительно недавнего времени мы на современном Западе знали, что значит «быть человеком».

Мы знали, что у нас есть то, чего нет ни у кого и ни у чего другого — интеллект.

Мы знали, что наша способность мыслить, удивляться, познавать делает нас исключительными и отделяет от остального творения. Согласно этой теории, мы, люди, были не просто еще одним видом животных. Кроме того, мы были гораздо больше, чем просто машина.

В то время как мы обладали интеллектом, животные имели только инстинкт, а машины — обычные механизмы.

Мы также знали, что существует непреодолимое различие между естественными и искусственными вещами, созданными человеком, между организмами и машинами, а также между живыми, чувствующими и неживыми или неразумными вещами. Нам было известно, что только естественные, живые существа — то есть организмы — могут чувствовать, воспринимать и мыслить.

Мы знали всё это с непоколебимой уверенностью. До тех пор, пока не узнали больше.

Сегодня ни одно из этих различий (в том числе, концепция человека, которую они помогли укрепить) не является столь очевидным. И эта потеря уверенности во многом связана с развитием Искусственного Интеллекта. (Это также имеет отношение к множеству других вещей, таких, как исследования микробиома и изменение климата, но в данной статье я планирую сосредоточиться на ИИ).

ПОГРУЖАЯСЬ НА ГЛУБИНУ

Возьмем, к примеру, глубокое обучение, при котором машины, наделенные тысячами слоев нейронов, способны учиться и запоминать. Это позволяет машине размышлять и принимать решения.

Учитывая возможности этих нейронных машин, кажется не вполне правдоподобным предположить, что мы, люди, разумны, в то время как машины — нет. Или что только живые существ могут быть разумными и способы думать, исследовать и познавать. Или что есть категорическое различие между естественными и искусственными вещами.

Напротив, представляется, что существует преемственность между естественным и искусственным, между людьми и машинами.

ОТДЕЛЕНИЕ ФИЛОСОФИИ И ИСКУССТВ…ДЛЯ GOOGLE

Как ясно из этих наблюдений, относительно недавнее появление Искусственного Интеллекта является значительным философским событием. А лаборатории Искусственного Интеллекта и технологические компании — наши самые влиятельные философские лаборатории. Это колоссальные экспериментальные пространства, внутри которых люди создают новые концепции человека и окружающего нас мира.

В таких местах, как Google, Facebook, Microsoft и OpenAI инженеры разрабатывают радикально новые концепции того, что такое «быть человеком», жить своей жизнью и жить вместе.

Подавляющее большинство передовых исследований Искусственного Интеллекта проводится в компаниях. Проблема в том, что большинство людей, возглавляющих эти компании, не осознают того, что они кардинально переосмысляют наше определение того, что означает «быть человеком». Они считают себя всего лишь людьми, работающими в технологических компаниях.

Одна из главных целей моей работы — изменить это. Я хочу, чтобы эти лаборатории и компании осознали свою огромную философскую ответственность — осознанное проектирование новых возможностей быть человеком и жить вместе.

Вот почему я вместе с моими коллегами внедрил философов и художников в такие места, как Google.

Позвольте подчеркнуть, что несмотря на работу с этими компаниями, наша цель заключается не в том, чтобы помочь Big Tech в разработке каких-то новых маркетинговых стратегий. Наша задача не сводится к предоставлению философских и художественных средств для корпоративных целей.

Скорее, наша задача состоит в том, чтобы вовлечь крупнейшие компании, занимающиеся разработкой Искусственного Интеллекта, в философский и художественный крупномасштабный проект, в экспериментальный поиск и формулирование того, что означает, с философской точки зрения, «быть человеком» в нашем современном мире.

УРОК ИСТОРИИ

Современная концепция человека — концепция, которую мы до недавнего времени воспринимали как должное, — впервые появилась в Европе в 1630-е годы. Это было время, когда в Европу попадало все больше информации о неевропейских формах жизни, призывая философов задуматься, что общего имеют все эти люди.

Ответ, к которому они постепенно пришли, имел две разные формы:

С одной стороны, утверждали они, люди — это нечто большее, чем просто природа (больше, чем животные и растения). А с другой, настаивали они, люди, по их мнению, являются не просто машинами (или качественно от них отличаются).

Критерием этих различий был интеллект: у людей он есть (по крайней мере, так гласит история), а у природы и машин его нет.

На тот момент две эти разные формы служили двум основным целям: утверждать, что все люди определяются интеллектом — способностью мыслить, исследовать, размышлять и познавать — было самым мощным инструментом против необоснованного авторитета клириков.

И утверждение, что природа, в отличие от человека, лишена интеллекта, позволило ранним современным философам освободить людей от космоса (частью которого они до этого были) и вывести природу из метафизического контекста, организованного божественными законами, в сферу физической материи, управляемой механическими законами.

Трудно преувеличить значение, которое две эти формы ответа (больше, чем природа / иное, чем машина) имели для нашего современного личностного опыта и окружающего нас мира.

Почти вся терминология, которую мы определили как сугубо человеческую — искусство, культура, общество, история, политика — негласно подразумевает большее/другое:

Искусство и культура противоположны природе. Общество и политика — это пространство действия и организации, которое открывается, когда люди выходят из

Status naturalis (лат. естественное состояние) или животного состояния.

История — исключительно человеческая сфера, состоящая из последовательных слоев человеческой деятельности.

ГДЕ (И ПОЧЕМУ) НАШЕ ОПРЕДЕЛЕНИЕ ЧЕЛОВЕКА ПОДВОДИТ НАС

Это было примерно в 2013-м году. Тогда я впервые осознал, что современная концепция человека — та самая концепция, которая формировала наше самоощущение и наш опыт реальности — никуда не годится.

Возьмем микробиом, который в последние несколько лет становится все более популярным в научных, медицинских и здравоохранительных кругах. Нет ни одной системы органов, которая не зависела бы от микробных метаболитов. Большинство нейротрансмиттеров в нашем мозге производится бактериями, живущими в нашем пищеварительном тракте. Никто не может сказать, где заканчивается человек и начинается его микробиом.

Или возьмем Искусственный Интеллект. Как только исследователям ИИ удалось создать машины, наделенные нейронными сетями, которые учатся, переживают, запоминают, мыслят и рассуждают, гипотеза о непреодолимом различии между людьми и машинами — между интеллектом и механизмом, между живым и неживым — обнаружила свою несостоятельность.

Казалось очевидным, что мы не можем продолжать жить концепциями, которые, как нам известно, являются одновременно несостоятельными и разрушительными для планеты. Но больше всего меня интересовал вопрос, что со всем этим делать.

МОЖЕМ ЛИ МЫ ЗАНОВО ИЗОБРЕСТИ КОНЦЕПЦИЮ ЧЕЛОВЕКА?

Этот вопрос беспокоил меня долгое время, пока я не понял, что такие области, как ИИ и исследования микробиома или синтетическая биология, не только подрывают исторический способ мышления о человеке, но и открывают новые возможности для понимания мира.

Внезапно меня осенило, что я могу рассматривать каждую из этих областей (не только ИИ и микробиом, но также и синтетическую биологию, биогеохимию и др.) так, как если бы они были своего рода философской лабораторией для переосмысления нашей реальности.

Разве ИИ, отменяя ранее исключительную связь между людьми и интеллектом, не открывает совершенно новые возможности понимания того, как устроен мир и как люди приспосабливаются к этому миру?

Теперь интеллект является не исключительно человеческой особенностью, но чем-то таким, что есть у животных и машин.

Устанавливая континуум между естественным и искусственным, исследования ИИ предлагают нам думать о машинах как о чем-то естественном, а об инженерии — как о своего рода естественной (то есть биологической) практике.

ОТ СЛУЧАЙНОСТИ К ПРОЕКТИРОВАНИЮ

Мы живем в эпоху главного фундаментального философского события — радикального переосмысления того, что означает «быть человеком», и отношений между человеком, природой и технологией.

Однако в настоящее время никто официально не говорит об этом философском свойстве технологий. Соответственно, никто не обращает на это внимания, и неизбежным средствием становится то, что радикальное переосмысление человека разворачивается вокруг нас хаотичным и совершенно случайным образом.

Разве мы не должны попытаться это изменить?

Когда я поделился своим энтузиазмом с коллегами из академического сообщества, я обнаружил — то, что меня волнрвало, для многих других было невыносимой провокацией.

Моя гипотеза о том, что вопрос о человеке перекочевал в области естественных наук и инжиниринга, то есть в области, не связанные с традиционным изучением человека и человечества в целом, была воспринята как угроза для ученых в области искусства. Если люди больше не являются чем-то большим, чем природа или машины, то для чего вообще нужны искусства?

Моя гипотеза, что лучший способ защитить человека — это заново его изобрести, была отвергнута.

Но я едва ли предлагал отказаться от философии или искусства. Скорее, я хочу привлечь внимание к тому, что такие области как ИИ (или исследования микробиома или синтетическая биология) на самом деле являются философскими областями.

Но проблема была не только в искусстве: большинство инженеров, с которыми я беседовал, были слишком заняты тем, что они были инженерами. Они были полностью поглощены своими исследовательскими вопросами и проявляли мало интереса к тому, что я отчаянно и неуклюже назвал философскими целями их работы.

КОГДА ОБРАЗОВАНИЕ — ЧАСТЬ ПРОБЛЕМЫ

Я вступил в один из самых глубоких кризисов моей сознательной жизни: мне пришлось признать, что университет — место, которым я дорожил, любил, называл домом — был частью проблемы, а не ее решением.

Повторное изобретение человека, с точки зрения философии, искусства и инжиниринга не могло состояться, по крайней мере, сейчас, внутри современной академической среды. В 2016 году я решил уйти со своей кафедры и покинуть Университет. Чуть более года спустя — настоящее везение! — инвестор и основатель Института Берггрюена Николас Берггрюен предоставил мне возможность создать небольшую экспериментальную программу по современным трансформациям человека, которая позволила бы мне проверить мои идеи.

ФИЛОСОФИЯ + ИСКУССТВО + ИНЖИНИРИНГ

Весной 2018 года я начал звонить исследователям в области Искусственного Интеллекта и биотехнологий и предлагать им нанимать философов и художников для совместной работы с их инженерами.

Я объяснил со всем присущим мне энтузиазмом, что лаборатории и компании ИИ — это непризнанные, но чрезвычайно влиятельные и прорывные философские лаборатории, в которых создаются новые концепции человеческого бытия, политики, познания природы, понимания и практики технологий.

Я сказал своим собеседникам, что их работа находится в самом центре грандиозного философского события, имеющего такой же исторический масштаб, как Ренессанс или Научная Революция.

Я звонил, наблюдал, посещал — и надеялся, что мой энтузиазм окажется заразительным и поможет открыть дверь.

Сегодня мы имеем философские и художественные команды в Element AI, Facebook, и Google, а также в Лаборатории Искусственного Интеллекта в MIT, Беркли и Стэнфорде. Наши исследователи регулярно общаются с DeepMind, OpenAI и Microsoft.

Это только начало.

РАЗУЧИВАНИЕ

Моя работа последних двух лет привела меня к выводу, что исследовательские и коллаборационистские платформы, которые мне посчастливилось создать в Институте Берггрюена, могут быть только первым шагом в гораздо более масштабном процессе.

То, что нам сейчас нужно, — это совершенно новая модель образовательного учреждения, способная создать новый тип Практика.

Нам нужны работники, которые по-другому мыслят и способны понять инжиниринг — от ИИ до исследований микробиома, синтетической биологии, геоинженерии и многих других областей — как философские и художественные практики, которые непрерывно изобретают человека.

Почти каждый месяц вы, вероятно, читаете об очередном миллиардном пожертвовании для новой технологической школы. С одной стороны, в этом нет ничего плохого — я согласен, что нам всегда необходимы лучшие и умнейшие технологи.

С другой стороны, эти технологические школы, как правило, воспроизводят устаревшее разделение учебного процесса на факультеты искусств и факультеты науки и технологии. То есть они склонны понимать технологию как просто технологию, а не как философскую и художественную область, которой она является.

Нам нужны не столько технологические школы, сколько институты, объединяющие философию, искусство и технологии в единую интегрированную учебную программу.

Нам нужна школа, сочетающая философию, искусство и инжиниринг, способная создать рабочие кадры будущего — как современное движение Баухауса, сосредоточенное не только на архитектуре, но и на технологии.

Если мы не сможем принять сегодня эти различия, если мы не признаем, что происходят радикально новые вещи, и не примем радикально новые возможности и обязанности, мы рискуем оставить определение мира, в котором мы живем, реакционным силам, которые упорно продолжают свои попытки определить наш изменяющийся мир в терминах мира старого.

И это бесспорный рецепт катастрофы.

Статья опубликована на qz.com в ноябре 2019 г.

Перевод с английского

Натэллы Сперанской