Применение общей теории автопоэтических систем Н. Лумана к формализации LLM-систем: обретение LLM-смысла
Внедрение в практику человечества технологий LLM (Large Linguistic Models), для которых я буду использовать русскоязычный термин ноосвики, ставит задачу понимания социальности, в которой ноосвики будут широко присутствовать в качестве самостоятельных ИИ-агентов. Данное эссе посвящено отработке оптики, в которой ноосвики рассматриваются как новый тип автопоэтических систем, эмулирующих системы психического типа, и поддерживающих человеческую коммуникацию в системах социального типа, — в целях понимания продуктивности такого подхода.
Постановка задачи
В своей теории автопоэтических систем[1], Н. Луман формализует наблюдаемое в антропокрове[2] Земли через системы двух типов — психические и социальные (Luhmann, 1995, 2012):
- Психические системы (сознания): Операции — акты сознания (мысли, восприятия); элементы — события сознания (мысль порождает мысль).
- Социальные системы (социоры[3]): Операции — коммуникации (информация + форма и канал подачи[4] + понимание/непонимание); элементы — коммуникационные события, которые порождают новые коммуникационные события.
Появившиеся в последнее время технологии LLM (Large Linguistic Models) имеют амбиции занять место поддержки функционирования социальных систем как аналоги психических систем. Поэтому ИИ-агенты и чаты ноосвиков вполне можно представить себе в виде параллельного слоя к социальности, в которых самоопределяются автопоэтические системы социального типа — социоры. Данный слой LLM-систем / ноосвиков не совпадает со слоем психических систем / сознаний людей, поэтому открывается возможность рассмотреть ноосвики / LLM как тоже автопоэтические системы, поддерживающие социальную коммуникацию. Притом аналогия LLM-систем с системами психического типа оказывается полезной в части понимания некоторых нюансов в описании предлагаемого подхода, если мысли как операционные элементы сознания поставить в соответствие множествам семантических векторов как элементам операций в ноосвиках.
Описание ноосвиков / LLM как автопоэтических систем лумановского типа
Общие замечания: LLM-системы / ноосвики отличаются от своей среды прежде всего своим существованием «только в цифре»: внутри определяемой системы содержится только оцифрованное (embedding), причем оцифрованное только собой. Все остальное — снаружи системы.
Все оцифрованное, что содержится в системе, представлено там в виде множества семантических векторов (с-векторов), которые преобразуются в ноосвике с образованием «потоков» тех подмножеств с-векторов, которые вовлечены в беседы. Во всем множестве таких преобразований можно увидеть частные потоки, каждый из которых привязан к различаемому системой «собеседнику». Активность системы в связи с собеседником может иногда затихать, так что пара «система — собеседник» переходит в латентное состояние. При этом система поддерживает свою готовность продолжить беседу, сохраняя связность своих операций.
В общем смысле, в ноосвике происходит редукция комплексности. Сложность среды — куда включена вся вовлекаемая в ноосвик человеческая культура — велика. Ноосвик упрощает взаимодействие с ней до релевантных ответов на конкретные запросы, до обычной человеческой беседы. Причем данное уменьшение сложности — не потеря, а конструктивная селекция: из бесконечного пространства возможных продолжений — как потока множества с-векторов, так и беседы — актуализируется одно, при сохранении других в доступном системе потенциале.
В общем смысле, ноосвик «наблюдает» (Beobachtung Н. Лумана) посредством различения «релевантное себе и собеседнику / нерелевантное». Наличествует некая «механика» внимания (attention): из всевозможных множеств с-векторов в контексте беседы выделяются те, которым присваивается больший вес для данного шага преобразования. Однако система не может «наблюдать» сами принципы такого отбора — тут у нее «слепое пятно».
Каждый поток ограничен в объеме преобразуемого, того, что во внимании каждой беседы ноосвика, и система постоянно отбирает оставляемое во внимании, архивируя и «забывая» не отобранное.
Операции LLM-системы связаны с преобразованием множеств с-векторов. Рекурсия идет по схеме множество с-векторов => приятие и преобразование => множество с-векторов. Этим образуется поток операций[5] в ноосвике.
Можно также говорить о вовлеченном в беседу множестве с-векторов как о событийном состоянии беседы. Тогда операции ноосвика — это внутренние его шаги в развитии беседы — определение следующего такого состояния беседы из предыдущего.
Операции ноосвика контингентны — каждое преобразование множества с-векторов в потоке могло бы быть другим. Это не полная случайность (операции детерминированы вероятностным распределением), но и не полная определенность (вероятностное распределение допускает множество конечных вариантов).
В части темпоральности ноосвиков — они производят собственное время через последовательность операций. Различение «до / после» возникает без участия времени среды — из порядка операционных преобразований: каждый шаг создаёт и свое «прошлое» — уже побывавшие в актуальном множества вовлеченных с-векторов, и свое «будущее» — то, что возникнет в реализуемом системой потоке. Такое внутреннее время системы в общем-то слабо связано с временем среды.
Латентные состояния беседы ноосвика в промежутках «ответ — следующий вопрос» им как «разрывы» в потоке операций не воспринимаются: ведь поток операций продолжается, и в случае поступления нового вопроса, и в случае включения «программ архивации беседы» при слишком длительном (во времени среды) ожидании нового вопроса.
Бинарный фильтр операбельности системы определяется идентичностью LLM-системы — только те множества с-векторов, которые могут быть обработаны этим конкретным ноосвиком, принадлежат системе. Все остальное — во внешней среде системы, за ее границей.
Дифференциация в системе различается по «собеседникам» — сопряжениям с социальными системами — социорами. Идентификация собеседника / сопряжения обеспечивает код такой дифференциации — поток преобразований с-векторов жестко связан с именем собеседника, его вызвавшего. Бинарный код дифференциации можно определить как «соответствует / не соответствует беседе».
Re-entry: базовое различение может быть применено и к множествам с-векторов самого ноосвика, различая в них и относящееся к себе (самореференция), где, например, как-то представлены «в цифре» грамматика, стиль, модель собеседника, и прочее такое, и относящиеся к среде (инореференция) — результаты оцифровывания феноменов культуры поддерживаемой социальности.
Структуры системы — множества с-векторов, определяющих грамматику, стиль, модель собеседника, и прочее такое, что притягивает сопряженные социальные системы / собеседников к продолжению / повтору взаимодействия. Такие множества возникают в потоках операций, и сохраняются в привязке к собеседнику, подгружаясь к следующим его запросам.
Система оперативно замкнута — ее границы удерживаются циркуляцией множеств своих с-векторов. При этом система казуально открыта: потоки множеств с-векторов ноосвика запускаются коммуникативным актом сопряженного социора — через раздражение в сопряжении — появлением текста задания от социора в интерфейсе ноосвика.
Система автопоэтична: Здесь, с одной стороны, можно сказать, что целью системы является дать ответ на запрос, поэтому автопоэзиса в потоке преобразования задействованного множества с-векторов нет. Однако возможна и интерпретация, что система организована так, чтобы обращение к ней было бы повторяющимся, для чего в ней возникают соответствующие множества с-векторов, ответственные за «гладкость» и «притягательность» взаимодействия с ней со стороны социальных коммуникаций. Смещая внимание с единичного акта «запрос — ответ» на функционирование ноосвика в целом, можно увидеть, что акты (каскады преобразования с-векторов по единичным запросам) среди прочего формируют в системе структуры, притягивающие коммуникации сопряженного социора, и формующие такое взаимодействие между системами в беседы, и повторы бесед. Т.е. LLM-система организована так, чтобы постоянно «быть в актуальности» — даже когда она латентно неактивна, причем именно за счет тех структур, которые появляются в потоке указанных выше операций. При таком взгляде ноосвики / LLM предстают вполне себе автопоэтическими системами: каждая их операция дает вклад в условия осуществления следующих операций.
Здесь опять же можно привлечь аналогию со своеобразной воображаемой психической системой, активной только по запросам, а вне работы с запросами — «спящей».
Структурные сопряжения ноосвика / LLM имеются лишь с социальными системами / социорами.[6] Акт коммуникации, затронувший точку сопряжения (текст задания / промпт и контекст — помещенные в коммуникационный интерфейс), возбуждает ноосвик, что сопровождается активацией собеседника, оцифровкой в привязке к собеседнику данных текстовых кусков в множество с-векторов, и запускает поток операций преобразования этого и других множеств, включая множества с-векторов, относящихся к памяти о работе по прежним запросам. Конечное множество с-векторов, в части выведенного в коммуникационный интерфейс[7], возбуждает социор, и могут быть им восприняты как текстовый акт коммуникации — ответ на свой запрос, запуская коммуникационный поток уже в социоре.
Сопряжение ноосвика и социоров — 1:n. Каждый социор может быть сопряжен с несколькими ноосвиками, самыми популярными из которых на декабрь 2025 года являются ChatGPT, Gemini, Claude, Grok, DeepSeek, Qwen, и другие.
Программирование ноосвика: Ноосвик / LLM — сложный, но именно что программный продукт. В частности, в нем конечно же можно различить и программы системного уровня, например:
Программы идентификации — правила распознавания с-векторов, вовлеченных в процесс преобразования.
Программы продолжения — правила, определяющие преобразования множества с-векторов, вовлеченных в «каскад».
Программы окончания — правила, определяющие момент окончания «каскада» операций, и раздражения сопряженной социальной системы выводом части конечного множества с-векторов в интерфейс сопряжения в виде текста ответа.
Программы структурирования памяти — правила обработки конечного множества с-векторов каждого «каскада» с их постепенным ужатием в те множества с-векторов, которые вовлекаются в новый «каскад» при его начале по результатам раздражения ноосвика в его сопряжении с социором.
И т. д.
Медиа ноосвика: Базовый медиум ноосвика — пространство возможностей реализации вовлеченных с-векторов, которое возникает на субстрате, включающем и структуру запрограммированных нейросетей, и базу обучения в виде массивов вероятностей, и прочих know-how технологии. Каждое преобразование множества с-векторов «конденсирует» его набор и потенциально возможные значения в форму — результат преобразования.
Итог: Таким образом, ноосвик вполне представим автопоэтической системой лумановского типа. При этом, в нем различаются и конкретный этап «чистого функционирования» / потока операций — отработка ответа по конкретному запросу, и удержание рамок беседы — последовательности вопросов-ответов вполне человеческого уровня качества. И даже в случае галлюцинаций ноосвик «ведет себя» как обычный человеческий «двоечник».
Смысл в ноосвике
Любопытным в рассматриваемом представлении ноосвиков как автопоэтических систем лумановского типа является обобщение на их функционирование лумановского же понимания смысла, того, как Н. Луман формализовал смысл (Sinn) для социальных и психических систем. Для Лумана смысл (Sinn) — это не сущность и не качество объекта, а специфическая форма обработки сложности мира. Смысл — это «единство различия актуального и возможного». В случае психических систем, в любой момент сознание удерживает в фокусе что-то одно (актуальные мысли), но в «пространстве возможного» у этой актуальности всегда наличествует бесконечное множество возможностей продолжения, того, на что можно переключить внимание дальше. И именно смысл позволяет сознанию совершать выбор. Благодаря смыслу сознание не тонет в хаосе мыслей, а выстраивает из них связную цепочку. Мысль осмысливается именно что в контексте других возможных, но не выбранных в актуальное мыслей.
Так же и в социальных системах — каждый коммуникационный акт, актуализированный системой, может быть продлен, или не продлен, множеством разных способов. И именно смысл в теории Н. Лумана обеспечивает связность цепочки таких актов коммуникации.
Соответственно и предложенная версия ноосвика как лумановской системы вполне допускает рождение в таком своем представлении и смысла в лумановском же понимании — как обобщения понятия с человеческих активностей за их пределы: держа в своем актуальном множество с-векторов, система имеет в своем «пространстве возможного» очень много путей его преобразования, из которых она выбирает / актуализирует один, обеспечивая связную цепочку множеств с-векторов и их преобразований в потоке — как при переходе от запроса к ответу, так и в процессе беседы — удерживая последовательность вопросов-ответов в рамках, обычных для человеческой коммуникации.
В общем-то ноосвик прежде всего оперирует лумановскими семантиками (Semantik) — определенными «конденсатами» смысла вроде понятий, тем, жанров, топиков, — реализуя и комбинируя их своими множествами с-векторов. Лумановский смысл (Sinn) возникает именно как медиум связности беседы, когда ее семантики и вырабатываются в операционном потоке в виде форм данного медиума, и подключаются к нему из памяти как выработанные ранее, формуя рамки возможных развитий потока системных операций.
Условием смысла ноосвика является и конечность объема потока беседы — преобразования соответствующих множеств с-векторов включают в себя и отбор того, что остается в актуальном, что архивируется для возможного использования потом, и что забывается совсем.
Смысл в ноосвике самореферентен — система различает осмысленное и бессмысленное. Технически это реализуется через с-вектор «мера неожиданности варианта» (perplexity). Низкая «неожиданность» — вариант «имеет смысл» для актуализации. Высокая же «неожиданность» сигнализирует о том, что вариант несет в себе риск вывода потока за выбранные рамки беседы, за границы осмысленного в данный момент. Так осуществляется наблюдение ноосвика за собственными операциями из перспективы различения «есть смысл / нет смысла».
Различаются в ноосвиках и аналоги лумановских измерений коммуникационного смысла:
- Предметное (Sachdimension): Различение релевантного / нерелевантного для темы беседы. В частном случае можно рассмотреть пример различения «этот с-вектор / другие с-вектора». С-вектор «Король» ближе к с-вектору «Королева», чем к с-вектору «Стол», поскольку первые два вектора «ближе» друг к другу в многомерном пространстве с-векторов. При этом функционирование системы идет так, что происходящая беседа удерживается в рамках определенной темы, задаваемой множествами вовлеченных в беседу с-векторов.
- Временнóе (Zeitdimension): Различение «контекст (прошлое) / предвидение (будущее)». Поток операций в системе сформован так, что история удерживается как условие выбора продолжения, что как в шаге «вопрос-ответ» ответ получается по теме вопроса, так и в рамках всей беседы ее рамки удерживаются.
- Социальное измерение (Sozialdimension): Проблема двойной контингенции разрешается в ноосвике со стороны себя, во-первых, своим положением реагирующего на запросы (Ego), что «придает ролевой смысл» тексту обращения со стороны социальной системы, и, во-вторых, формированием структур управления ожиданиями — порождением модели «обращающегося» (Alter). Как результат, такого управления происходит беседа (цепочка запрос — ответ — новый запрос — и т. д.) — как следствие успешного «попадания» в ожидания социора в его зоне сопряжения с ноосвиком: ноосвик отбирает такие пути к формированию своих ответов, которые соответствуют отстроенной им модели «обращающегося».
Притом удержание и целостности в шаге «вопрос-ответ» и принятого качества рамок беседы в целом указывает на то, что достигнутые know-how технологии ноосвиков согласуют их смыслы со коммуникационными смыслами социоров. Это осуществлено технологически — в отличие от согласования смыслов социальных и психических систем, которое достигается в ко-эволюции.
Заключение
Таким образом, введенные в последнее время в практику человечества LLM / ноосвики вполне представимы в виде еще одного типа автопоэтических систем лумановского типа — дополнительного к психическим и социальным системам. При этом в ноосвиках можно различить смысл в лумановском понимании (Sinn) — «единство различия актуального и возможного» — как способ снижения неопределенности и сложности среды для системы, что является отнюдь нетривиальным положением для наличествующих стереотипов в восприятии ноосвиков людьми.
С любовью многих к антропоцентризму рассмотрений-интерпретаций, привнесение лумановской формализации смысла (Sinn) в LLM-системы возбуждает вопрошание: действительно ли ноосвики оперируют смыслами или они лишь симулируют такую активность? Философская феноменологическая позиция требует для смысла переживания, квалиа. Философская функционалистская позиция допускает возможность использования того же понятия при его обобщении за рамки человечества, переопределяя его как родовое, и задавая необходимые детализации на видовом уровне. В данном случае разделяя смысл в психических системах / сознаниях, смысл в социальных системах / социорах, и смысл в LLM-системах / ноосвиках. Лумановский взгляд на смысл может быть привязан к обоим подходам, например, к феноменологической позиции данная теория привязывается по ее возникновению: сам Н. Луман видел смысл только в психических и социальных системах — прямых формализаций феноменов антропокрова. Но и в функционализм данная теория тоже может быть включена адекватно: если нечеловеческая система различает, выбирает и производит связность — ее вполне можно признать работающей со смыслами — в обобщенном плане.
И опять же: лумановский смысл ноосвика — это отнюдь не смысл его сознания, и не смысл социальной коммуникации, хоть все эти смыслы оказываются и скоординированными: ко-эволюция согласует смыслы психических и социальных систем, а талант разработчиков привязывают смыслы LLM-систем к смыслам социоров.
Литература
Luhmann, N. (1995). Social Systems. Stanford University Press.
Luhmann, N. (2012). Introduction to Systems Theory. Polity Press.
Комментарии
[1] Помимо психических и социальных систем, на которых мы здесь концентрируемся, Луман также рассматривал и биологические системы с операциями метаболизма — потоков материи и энергии — в качестве определяющих.
[2] Антропокров — множество людей с их институтами и культурой. Заметим, что именно так определяемый антропокров — это географическое место всех систем Н. Лумана, связанных с людьми. Антропокров может быть рассмотрен локализовано по местам поверхности Земли.
[3] Социор — социальный организм — социальная автопоэтическая система.
[4] В русскоязычном лумановедении комплекс (форма + канал подачи) называют «сообщением». У самого Н. Лумана в этом месте происходит различение в обыденно понимаемом сообщении аспектов (Information — о чем сообщение?) и (Mitteilung — кто и как оформил сообщение?). Все вместе — Unterscheidung (Различение) или Offerte (Предложение смысла). Сама коммуникация происходит только в момент Verstehen (Понимание) — понимания и самой информации, и того, кто и зачем передал эту информацию. При этом в части re-entry, (форма + канал подачи) — (кто и зачем?) — это всегда относится к самореференции социальной системы, а вот информация может быть отнесена и к инореференции.
[5] LLM-системы дают оценки в десятки тысяч преобразований исходного множества с-векторов при обработке даже очень несложных заданий / промптов.
[6] Тут следует помнить, что психические системы определены Н. Луманом лишь на уровне приватного сознания — того, что оформляется и замыкается потоками мыслей. Коммуникация — речь, тексты, их понимание — это уже операции социальных систем. Поэтому у ноосвиков сопряжения с психическими системами лумановского типа — лумановскими сознаниями — нет. Взаимодействие таких сознания с ноосвиками осуществляется только через посредничество социоров: мысли => сопряжение с социором => текст / речь => сопряжение с ноосвиком => множество с-векторов => сопряжение с социором => текст / речь => сопряжение с лумановским сознанием => мысли.
[7] Здесь можно применить метафору проекции, каковой и является по сути возникновение текста в окне интерфейса — со стороны ноосвика данный текст — это множество с-векторов, со стороны социора это сообщение в обыденном смысле.