Donate

Война с ИИ окончена. Мы её проиграли

Grotta19/05/26 11:3618


Никто не объявлял этой войны, и поэтому её не заметили. Не было ни декларации, ни первого выстрела, ни линии фронта, на которой можно было бы окопаться. Когда обсуждают, «захватит ли ИИ мир», предполагается, что захват — это событие в будущем: оно либо случится, либо нет, и до него ещё есть время подготовиться, договориться, выработать этические рамки. Это утешительная грамматика. В ней мы всё ещё субъекты, которым предстоит решать.

Но решать уже нечего. Война окончена. Не потому, что машины победили людей — для войны нужны две стороны, а в произошедшем стороны не было. Произошло то, для чего у нас пока нет нормального слова: исчезла позиция, с которой можно было бы её вести.

Об этом и стоит говорить.


Терминатор как обезболивающее

Фантазм машинного восстания — это самая удобная картина, которую человек придумал, чтобы не видеть, что с ним происходит. В этой картине есть металлический череп, красный глаз, дроны, бегущий человек, взрывы. Главное — есть враг с лицом. С таким врагом можно бороться: его можно перепрограммировать, отключить от сети, в крайнем случае взорвать. Он внешний. Он опасен, но различим.

С реальной ситуацией так не получится, потому что у неё нет лица. Власть, о которой здесь идёт речь, не носит тела и не входит в комнату. Она не приказывает — она предлагает. Не запрещает — рекомендует. Не наблюдает — предсказывает. Её не за что схватить, потому что её нигде нет в локализуемом виде, и одновременно она везде, где есть интерфейс.

Терминатор — это обезболивающее, придуманное массовой культурой, чтобы человек продолжал чувствовать себя действующим лицом. Пока он боится Скайнета, он не замечает, что уже полчаса листает рекомендованную ленту, не выбирая, что листать.

Зеркальная версия того же фантазма — алармистский дискурс про сверхинтеллект и «риск выравнивания». Это та же сказка, рассказанная серьёзным голосом: ИИ ещё не стал опасен, опасность — впереди, у нас есть время на «alignment». На самом деле опасность не впереди и не позади — она в настоящем, и она устроена не как взрыв, а как фон, который перестаёшь замечать. Алармизм и оптимизм здесь работают одинаково: оба переносят событие в будущее, чтобы не видеть, что оно уже состоялось.


Что именно проиграно

Не свобода — это слишком абстрактно. Не приватность — это юридическая категория. Проиграно нечто более фундаментальное: позиция, с которой можно появиться как кто-то, кого ещё нет в модели.

Раньше речь, обращённая к другому, содержала риск: можно было не быть понятым, не быть услышанным, провалиться, появиться неуместно, сказать не то, оказаться никем. Этот риск был не дефектом коммуникации, а её условием. Только там, где есть возможность провала, есть возможность появления. Субъект — это то, что возникает в момент, когда могло не возникнуть.

В алгоритмической среде риск устранён. Не философски, а технически. Любое движение — клик, запрос, пауза, отказ от клика — попадает в модель и становится её материалом. Любой запрос обрабатывается так, чтобы пользователь получил подходящий ответ — то есть ответ, согласованный с его профилем, историей, контекстом. Любое сопротивление становится сигналом, который улучшает модель.

Это не злой умысел. Это устройство. Системы, в которых мы живём — рекомендательные ленты, поисковые автодополнения, чаты с ассистентами, динамическое ценообразование, кредитный скоринг, predictive policing — оптимизированы под одну метрику: отсутствие зазора между предсказанием и поведением. Когда зазор есть — модель работает хуже. Когда зазора нет — модель работает идеально. Идеальная работа модели означает, что пользователь делает ровно то, что система ожидала, и никакого другого пользователя в этой точке не появилось.

Это и есть конец войны. Не потому, что человек побеждён, а потому, что место, на котором он мог бы быть стороной, переоборудовано под передаточный узел.


Не интерфейс, а фон

Удобно думать про ИИ как про ChatGPT — потому что у ChatGPT есть окно, кнопка, реплика. Это понятная картинка: вот я, вот он, мы разговариваем. Если разговор не понравился, я закрою вкладку. Иллюзия выбора сохранена.

Но ChatGPT — это поверхностный случай, может быть, самый поверхностный из возможных. У него хотя бы есть форма, к которой можно повернуться лицом. Настоящая работа происходит там, где формы нет: в фоновых системах, через которые проходит почти каждое решение в обычной жизни.

Лента TikTok решает за пользователя, какие сорок минут его жизни будут заняты определённым настроением — задолго до того, как сам пользователь сформулировал, чего он хочет. Поисковое автодополнение заканчивает мысль раньше, чем мысль додумана, и эта законченная версия становится той, которую человек считает своей. Алгоритм ценообразования авиабилетов знает, сколько ты готов заплатить, лучше тебя самого, и предлагает цену, которая окажется ровно на границе твоей готовности. Кредитный скоринг определяет, кем ты являешься в глазах банка, на основе данных, к которым ты не имеешь доступа и которые не можешь оспорить. Это не разговор. Это среда, в которой ты двигаешься, не зная, что среда движется вместе с тобой и подстраивается.

В этой среде нет момента «согласия» — потому что нечему быть субъектом согласия. Согласие даётся постфактум, в графе пользовательского соглашения, которое никто не читает, и это не недостаток: даже если бы все прочитали, согласие на условия среды — это не согласие, потому что среда уже включена.


Кто бенефициар

Структура без бенефициара была бы загадкой. Но никакой загадки нет: рекомендательные системы оптимизируются под конкретные метрики, метрики выбираются под бизнес-цели, бизнес-цели определяются акционерами. ИИ — не автономная сила и не онтологическая категория. ИИ — это инфраструктура извлечения внимания и решений, и у этой инфраструктуры есть владельцы.

Это важно сказать прямо, потому что часто разговор про ИИ ведётся в регистре технологического мистицизма: «алгоритмы», «нейросети», «эмерджентность» — как будто речь идёт о природных явлениях. Это не природные явления. Это инвестиционные продукты, разработанные конкретными компаниями для конкретного извлечения стоимости. Когда говорят, что «алгоритм решил» — это сокращённая форма для «компания настроила параметры так, чтобы алгоритм решал». Сокращение удобно, потому что снимает с компании ответственность и переносит её на математику.

Война, которую проиграл человек, — это не война человека с машинами. Это последний раунд очень давней войны капитала со всем, что не сводится к капиталу. ИИ — текущая форма оружия в этой войне, не более и не менее.


Что ещё остаётся

Из того, что война окончена, не следует, что делать нечего. Следует другое: больше не нужно делать вид, что мы готовимся к ней. Подготовка закончилась. Этические комитеты, дискуссии о «выравнивании», манифесты ответственного ИИ — всё это работает в режиме, который структура давно поглотила. Критика ИИ, сформулированная как «нужен этический ИИ», уже встроена в его архитектуру: она производит более совершенные модели, в которых учтены риски, обозначенные критикой.

Реальные жесты — это не критика, а сбой. То, что не возвращается в модель как улучшающий её сигнал. То, что не становится материалом для следующей версии. У такого жеста несколько свойств: он не объясняется через пользу, не разворачивается в план действий, не подхватывается алгоритмом как тренд, не масштабируется. Он малозаметен и часто выглядит как ошибка, бессмысленность, упрямство, странность.

Это не программа. Из этого нельзя сделать движение, потому что движение немедленно станет хэштегом. Скорее это констатация: единственное, что остаётся не захваченным, — это то, что не претендует на роль ответа. Молчание, не оформленное как протест. Решение, не записанное в журнал. Жест, не сфотографированный. Слово, не нашедшее адресата и не пытавшееся его найти.

Назвать это «остатком» — значит уже частично проиграть, потому что слово готово быть подхваченным. Но другого слова нет. Остаток — это то, что война пропустила, не потому что он сильнее, а потому что он не оказывал сопротивления, на которое можно ответить.


Что значит «мы»

В тексте, который заявляет, что война окончена, неизбежно появляется «мы» — и это «мы» проблематично. Если война действительно окончена и позиция субъекта переоборудована, то откуда говорит тот, кто говорит «мы проиграли»? Из какой точки доступно знание, что война окончена, если все позиции внутри неё?

Честный ответ: ниоткуда. Этот текст не является исключением из того, что в нём описано. Он написан в той же среде, читается в той же среде, оптимизируется под её механики (длина, заголовок, формат публикации). «Мы» здесь — не партия и не общность; это место, у которого нет легитимности, и это надо признать прямо. Различение, объявленное программой, перестаёт быть различением — оно становится платформой для согласных.

Поэтому правильнее не «мы». Правильнее — пустая позиция, из которой производится наблюдение, и это наблюдение само не претендует на то, чтобы выйти из описываемой ситуации. Война окончена для всех, включая тех, кто об этом пишет. Текст — это не контратака, потому что контратаковать некому и нечем.

Это, может быть, единственное, что остаётся честным: говорить из проигранной позиции, не делая вид, что ты нашёл выход. Выхода нет. Это и есть содержание сообщения.


Author

Grotta
Grotta
Comment
Share

Building solidarity beyond borders. Everybody can contribute

Syg.ma is a community-run multilingual media platform and translocal archive.
Since 2014, researchers, artists, collectives, and cultural institutions have been publishing their work here

About