С 5 октября по 11 ноября в Московском музее современного искусства проходит выставка Daemons in the Machine, подготовленная совместно с Laboratoria Art&Science Foundation и посвященная так называемой новой демонологии — художественному осмыслению искусственного интеллекта, мифов и призраков эпохи автономных машин. Среди работ на выставке можно будет увидеть нейро-инсталляцию Томаса Фойерштайна Borgy&Bes, которая состоит из старых хирургических ламп, ведущих диалог на языке XIX века и обсуждающих последние новости из интернета. «Мозгом» героев являются нейросети, обученные iPavlov (МФТИ) на базе произведений Достоевского.

Художественный критик Александра Шестакова побеседовала с Томасом, руководителем лаборатории нейронных систем и глубокого обучения МФТИ Михаилом Бурцевым и основательницей Laboratoria Art&Science Дарьей Пархоменко об этике алгоритма, амбивалентности технологии и самодостаточном и независимом от зрителя искусстве.

Александра Шестакова: Снятся ли андроидам электрические овцы?

Михаил Бурцев: Нет.

АШ: Почему?

МБ: Потому что им это не нужно.

АШ: В чем состоит различие между человеческим интеллектом и искусственным? Они называются одинаково, однако функционируют по-разному. Что делает интеллект человеческим?

МБ: Мы не знаем, что делает интеллект человеческим, но мы знаем, что сегодня у искусственного интеллекта нет таких чувств, которые есть у человеческого, нет мечт и всего такого. Искусственный интеллект — это просто алгоритм, который высчитывает некие возможности, пытается что-то предсказать.

Томас Фойерштайн: Возможно, это языковая проблема. Сейчас у нас есть только одно слово для интеллекта, но у нас есть множество слов для снега или состояния неба. Возможно, в будущем у нас будет множество новых слов и для интеллектов. Я думаю, что человеческий интеллект может быть равен машинному. Потому что если я говорю что 1+1=2, то чем я отличаюсь от машины? Машина может развивать интеллект, который будет гораздо более человеческим, чем человеческий, почему нет?

АШ: Как мы определяем, что такое человеческое? Делают ли чувства нас людьми? Могут ли чувства быть алгоритмизированы?

МБ: Нет концептуальных или теоретических проблем с тем, чтобы создать полную техническую симуляцию человеческого мозга. Если мы создадим симуляцию человеческого сознания, то получим те же чувства, мечты, мысли и все остальное. Сейчас у нас нет знаний, которые бы позволили создать такую модель, однако мы также не знаем ничего, что бы запрещало нам это сделать. Возможно, в будущем будет невозможно найти различия между человеком и роботом.

АШ: В этом случае возникает этический вопрос: существует ли какая-то этика алгоритма? Если говорить про Борги и Бес, то если я все верно поняла, вы научили их обсуждать новости, но обсуждение новостей требует каких-то позиций.

МБ: Сейчас у алгоритмов в работах нет никакой этики, но нет проблемы с тем, чтобы ее запрограммировать.

АШ: Каким образом можно запрограммировать этику?

МБ: Если возможно описать этику, то ее можно и запрограммировать. Если у нашего робота будет такая же модель мира, как у человека, то у него будет и человеческая этика. Этика зависит от целей человека, цели можно менять как у человека, так и у робота.

Дарья Пархоменко: Вопрос состоит в том, кто задает этику, потому что сейчас только человек может задать алгоритм, машина не может ничего решать сама. Можно вложить в них этику какой-то традиции или сообщества, например, протестантскую или коммунистическую. Вопрос в том, могут ли наши Борги и Бес в какой-то момент начать импровизировать. Возможно ли все предсказать, или могут быть неожиданности?

АШ: Вы задали сразу несколько вопросов, я бы хотела попросить Михаила ответить сначала на тот, который касается предсказуемости. Если я все верно понимаю, машинное обучение предполагает обучение машин в процессе. До какой степени поведение машин предсказуемо?

МБ: Существует несколько характеристик алгоритма, которые можно настроить так, чтобы они менялись вероятностно, в этом смысле они будут непредсказуемы, Например, можно задать одно высказывание из диалога и получить в ответ на него 10 отличающихся ответов, которые каким-то образом будут соотноситься с первым высказыванием, но мы не можем заранее предсказать, какие ответы выдаст машина.

АШ: Возможно ли что в процессе машинного обучения машины в какой-то момент решат убить людей?

МБ: Если мы дадим им возможность учиться таким образом, что они смогут полностью управлять своими действиями, то, возможно, да, они смогут. Однако зачем нам это делать? Мы должны разрешать им лишь то, что не повредит нам.

АШ: Насколько мы поняли из разговора с Михаилом, машинное обучение довольно амбивалентно: оно может быть как оружием, так и приносить пользу. Осмысляете ли вы каким-то образом в работе амбивалентность технологии? Я бы хотела спросить также Дарью о том, осмысляла ли Laboratoria Art&Science амбивалентность технологии в предыдущих проектах?

ДП: Уже более пяти лет мы сотрудничаем с институциями, которые ведут разработки в области мозга, — с Курчатовским институтом, с МФТИ и другими. Они занимаются исследованиями сознания, памяти, разных процессов активности мозга. Нас это привело к исследованиям искусственного интеллекта как к апогею исследований в нейронауках. Вообще, тема исследования мозга очень благодатна и интересна для художников, потому что тут есть большое пространство для творчества, интуиции и фантазии. Ведь нейроученые до сих пор не знают точных ответов на многие вопросы. Для нас как для Laboratoria здесь есть пространство для сотрудничества между художниками и учеными, так как сотрудничество может быть только в том месте, где интересно и тем и другим.

Томас — идеальный художник для такого междисциплинарного проекта: ему очень интересно то, что делают ученые, он вслушивается, всматривается и очень чутко улавливает их видение, даже когда они сами его не до конца понимают или могут сформулировать.

Когда мы используем машинное обучение в искусстве, произведения начинают частично обладать собственной волей в отличие от традиционных произведений, которые целиком подчиняются воле художника. Ситуация взаимодействия искусственного интеллекта и искусства позволяет вообразить то, каким может быть искусство в будущем.

ТФ: Я не использую термин «искусственный интеллект», я предпочитаю говорить, что меня интересуют процессы. Как художнику мне интересно включать различные процессы в свои работы, потому что они позволяют подвести работу ближе к реальности. Как современный художник я интересуюсь тем, что происходит в нашем мире: в политическом, экономическом, но также и научном смысле. Меня интересует то, что происходит в лабораториях, потому что они кухни будущего.

ДП: Миша, ты чувствуешь, что создаешь будущее?

МБ: Нет, возможно, я лучше знаю современность. Вам кажется, что это будущее, хотя на самом деле это уже настоящее.

АШ: Михаил, а что вам как ученому дает сотрудничество с Томасом? Меняет ли оно каким-то образом то, как вы работаете?

МБ: Еще нет, но я надеюсь, это произойдет, потому что этом проекте есть довольно интересная проблема, которая еще не была решена. Проблема изменения стиля текста. Она уже была решена для изображений и видео, но не для текста. Если мы сможем ее решить, то это будет интересной научной задачей. Можем ли мы изменить стиль текста, но тем не менее сохранить его содержание? Вторая проблема — можем ли мы поддерживать диалог между двумя устройствами больше, чем в течение одной или двух реплик? В данный момент диалоговые системы могут удерживать контекст разговора в течение очень лимитированного количества реплик. Это также те проблемы, с которыми мы работаем в нашей Лаборатории нейронных систем и глубокого обучения в МФТИ.

АШ: Томас, у меня еще один вопрос к вам, касающейся этики…

ДП: Медиа все время интересует этика и политика…

АШ: Меня так сильно волнуют вопросы этики, потому что я считаю, что если уж в искусстве используются новые технологические разработки, необходимо оставаться критически настроенным по отношению к ним. Мой вопрос состоит в том, существует ли некая этика работы с искусственным интеллектом для вас как для художника?

ТФ: Меня интересуют процессы только тогда, когда я не сужу их по этическим критериям. Например, я иду в лес и также наблюдаю развитие процессов. Какова этика дерева? Этика всегда создается с человеческих позиций и для человеческого использования, она связана с утилитарностью и эффективностью. В прошлом человеческая этика позволяла иметь рабов, сейчас наша этика позволяет нам есть животных. Этика постоянно меняется, она как новости. Вопрос демократии состоит в том, чтобы обсуждать эти этические нормы.

АШ: Существует точка зрения, которая предполагает наличие у растений, животных и иных нечеловеческих акторов собственной этики. Изучая так называемую «природу» или «технологию», возможно ли вообразить их этику?

ТФ: Я не знаю, можем ли мы сказать, что какие-либо процессы в природе протекают на основе этики, однако мы можем наблюдать, что они действуют симбиотически. Мне кажется, люди действуют этически, когда их действия направлены на общую пользу. Мне кажется, этика — это вопрос политики. Для меня этика лимитирует мышление.

АШ: Каким образом меняется ваша позиция наблюдателя, когда вы работаете с различными типами «процессов»?

ТФ: Меня очень завораживают процессы, потому что они позволяют мне по-новому мыслить поэтику и эстетику, новые формы.

АШ: Объекты в вашей работе общаются между собой и, как вы говорили на нашей встрече до интервью, не особенно нуждаются в человеческом внимании. Может ли, на ваш взгляд, искусство существовать без людей?

ТФ: Семиотика, мне кажется, ответила бы, что не может. Многие художники говорят, что если они делают искусство для других людей, то они занимаются рекламой и маркетингом. Может ли искусство существовать само по себе? Возможно, это бессмысленный вопрос, потому что если у вас нет посетителя, реципиента, то некому извлечь смысл. Возможно, я наблюдаю эти машины примерно как наблюдаю животных, когда иду в лес, их не интересует мое присутствие. Они просто сущности.

Я бы хотел создать такие работы, для которых исчезновение человека бы не было проблемой.

АШ: Однако проблема в том, что сам факт вашего наблюдения уже меняет ситуацию.

ТФ: Да, это другая проблема. Однако мне бы хотелось создать такие работы, которые бы могли существовать как животные. Муравьи, пчелы и прочие смогут существовать тогда, когда человечество исчезнет. Я бы хотел создать такие работы, для которых исчезновение человека бы не было проблемой.

МБ: В этом проявляются интересные отношения искусства и науки. В науке считается, что нет разницы, смотрит ли кто-то на какую-то теорию или нет. Важно, предсказывает ли она что-то. Я бы мог перевести это и на искусство: художник создает некую теорию о мире и тестирует ее в неких экспериментах. В этом смысле не важно, есть ли у этого зритель или нет.

ТФ: Возможно, у нас есть два типа объектов в нашем мире. «Натуральные», которыми также может быть и искусство, и «потребительские», которые постоянно требуют, чтобы их купили или обратили на них внимание. Например, церковь, экономика, торговые центры. Я не хочу выставляться в торговых центрах, меня интересуют другие вещи.

АШ: Мой вопрос касался того, что искусство становится искусством, а не объектом среди множества других объектов, когда на него кто-то смотрит.

ТФ: Возможно, это проблема наблюдателя, а не объекта. Согласно традиционной концепции, искусство становится искусством, когда на него смотрят. Так было со времен древних греков. Почему бы не попробовать протестировать новую методологию искусства?

ДП: Борги и Бес не очень нуждаются в нашем внимании, им не нужна публика. Это непривычная позиция, которую многим непросто принять. Но что удивительного в том, что искусство, связанное с технологиями ИИ, не нуждается в зрителе? Художник вместе с учеными создал Борги и Бес, но потом они зажили своей собственной жизнью. И мы в этой жизни далеко не главное. Взаимодействие с ИИ требует отказа от антропоцентрической перспективы.

ТФ: Они не созданы ни для какого рынка, в том числе рынка аудитории.

ДП: Когда мы только начали работать с Томасом он сказал, что он не хочет делать возможность взаимодействия роботов со зрителями. Тенденция к интерактивности в искусстве уже не столь нова и продуктивна для художественного эксперимента. Саморазвивающиеся, независимые произведения для нас интереснее.

АШ: Вы говорите о новых технологиях и о новизне подхода к искусству, но в то же время вы используете язык весьма консервативного, даже для своего времени писателя, Федора Достоевского. Зачем?

ТФ: Мне не очень интересен роман в целом, но мне интересен один персонаж — это инженер Кириллов. Он проводит безумный эксперимент по изучению свободы воли и в результате стреляет сам в себя. В романе Кириллов мертв, однако в выставке он оживает и получает виртуальную идентичность, становится чем-то вроде призрака.

АШ: Вы используете довольно старые хирургические лампы, которые вызывают ассоциации со старыми больницами; Вы работает с довольно футуристическими идеями, но при этом используете старые вещи для их воплощения. Не проблематично ли это, что вы говорите о будущем через вещи из прошлого?

ТФ: Эти лампы были в операционных. Под ними лежали разные люди — старые, молодые. Возможно, они под ними умирали, эти лампы видели многих людей. В 19 веке можно было бы сказать что эти лампы — коллекция душ. Мне нравятся эти лампы, потому что мы окружены новыми вещами. Когда вещи становятся умнее, они становятся невидимыми. Мне хотелось, чтобы вещам вернулась материальность.

ДП: Машинное обучение, искусственные нейросети — это «невидимые» процессы, они существуют только виртуально. Томас подчеркивает это, вживляя их в материальные, физические объекты с историей, и через эту историю создается история будущего.