Политические эффекты государственных цифровых платформ и сервисов в автократиях
Цифровизация государственного управления, внедрение платформ и сервисов ставит перед исследователями множество вопросов. С одной стороны, это концептуальные дискуссии о трансформации механизмов власти и управления [1: 162-166], с другой особенности функционирования платформ и сервисов в институциональном ландшафте различных политических режимов [2]. Во взаимодействии государства и граждан цифровые экосистемы, алгоритмы и отдельные сервисы играют роль посредников, в такой ситуации ключевой проблемой становиться их прозрачность и нейтральность.
Проблема прозрачности и нейтральности не является исключительно технической, поскольку находится в сфере интересов правящих классов и корпораций, заинтересованных в сохранении власти и прибыли. Доминирующие акторы стремились использовать алгоритмы-посредники начиная с середины 1990-х, на заре зарождения интернет-экономики.
По причине стремительного роста объемов рекламы и спама возникла проблема «информационной перегрузки», тогда эксперты стали активно обсуждать идею разработки «интеллектуальных агентов», персонализированных встроенных алгоритмов. Джером Ланир отметил, что идеальный посредник работающих в интересах пользователя будет блокировать рекламу, но поскольку это противоречит интересам площадок онлайн-торговли, «интеллектуальные агенты» неизбежно станут маркетинговым инструментом IT-корпораций [3: 33].
В последние годы, применительно к IT-корпорациями, данный тезис находит все большую поддержку в научной литературе [4]. Экономическая модель «надзорного капитализма» построена на извлечении массивов данных из взаимодействий человеческих и нечеловеческих акторов. Цифровая инфраструктура пронизывает социум и механосферу, повседневная жизнь и взаимодействия индивидов проходят в новом типе пространства непрерывного сбора данных (смартфон, умный дом, социальные сети). Основным источником дохода IT-корпораций является монетизация пользовательских данных. Их обработка позволяет разрабатывать предикативные механизмы и инструменты для воздействия на поведение индивидов [5: 172-188].
Трансфер моделей управления и технологий из корпоративного сектора в сферу государственного управления по идее должен сопровождаться их корректировкой под новые функции. Проблема, однако состоит в том, что многие государства действуют в логике дата-корпораций, они не ограничивают себя и коммерческие платформы правилами, регулирующими масштабы извлечения и формы использования пользовательских данных [6: 29]. Подобная модель цифровизации экономики и управления воспроизводит и усиливает существующие социально-экономические, расово-этнические, гендерные иерархии и структуры господства [7].
Кибернетическая гипотеза
Государственный или корпоративный контроль за цифровой инфраструктурой усиливает информационную асимметрию между индивидами и аппаратами управления. Кроме того, алгоритмические системы функционирующие как «черные ящики» создают проблему осознанности (awareness) происходящих процессов и механизмов управления.
Адам Гринфилд отмечал, что элементы цифровой инфраструктуры «производят в мире материальные эффекты, не всегда раскрывая то, как они их произвели. Эта непрозрачность мешает нам понять, действуют ли алгоритмы, которые с нами работают, в соответствии с нашими ценностями. (…) Говоря простыми словами, некоторые стороны извлекают выгоду из того факта, что мы не понимаем, как действуют инструменты, используемые для того, чтобы нас ранжировать и упорядочивать» [8: 328-329].
Описанные изменения демонстрируют новую логику и механизмы власти, государства и IT-корпорации внедряют элементы кибернетической модели управления. Цифровая инфраструктура является социотехническим ассамбляжем (socio-technical assemblage) двойного назначения, возникнув как маркетинговый инструмент, она затем была интегрирована в аппараты управления. Феликс Гваттари и Антонио Негри на раннем этапе цифровизации писали, что логика капитала и его технологические императивы постепенно поглощают общество непосредственно на материальном уровне [9: 49].
Предикативные алгоритмы, работающие на основе пулов данных, могут действовать как механизмы превентивного контроля: «Компьютеризация социального неотделима от механизации и милитаризации, видна тенденция замены систематического производства информации на ее поиск. Существуют области стратегической важности, и поэтому схемы воспроизводства, которые поддерживают жизнь и борьбу, контролируются во все большей и большей степени, упорядочиваются и в конце концов превентивно подавляются» [9: 52-53]
Бизнес-модель «надзорного капитализма», адаптированная государствами, создает новый тип пространства и инструменты субъективации индивидов. Физическое пространство пронизано элементами цифровой инфраструктуры, прежде всего алгоритмическими системами, функционирующими на основе обработки пулов данных. В этом гибридном пространстве действуют инструменты цифрового мониторинга и контроля, а индивид постоянно открыт к воздействию алгоритмов через «подталкивание» [10: 261-263].
В кибернетической модели управления диаграмма власти функционирует в «гладком» пространстве (термин Ж. Делеза) на основе цифровой инфраструктуры и потоков данных. Цифровое подталкивание (digital nudging), осуществляется посредством «кураторства сетевого ландшафта, внутри которого осуществляется действие» и направлено на производство рефлекторных реакций, а не сознательных действий [11: 16].
В современном управленческом диспозитиве роль технических машин в производстве субъективности становится доминирующей, предшествующие либеральные элементы и принципы вытесняются кибернетической логикой [12: 15-21]. Данные изменения связаны не только с цифровизацией и ростом влияния технологий, политическая рациональность управления по отношению к субъективности сдвигается в сторону большего конструктивизма и интервенционизма.
Институциональный дизайн и технологии управления направлены на решение проблемы «провала субъекта», наиболее известный пример подобного подхода — поведенческая экономика. В основе поведенческой экономики находится тезис об ограниченной рациональности человека и необходимости конструирования «архитектуры выбора», и «подталкивания» (наджинга) индивидов. Подталкивание выступает как инструмент воздействия, нейтрализующий проблему когнитивных искажений. Арнольд Хачатуров отмечает:
«Современное понимание свободы, присущее поведенческим экономистам, имеет больше общего с нейронауками. По аналогии с подсознательными импульсами головного мозга, которые человек не может предотвратить, но может попытаться заблокировать, психологический субъект наделяется «правом вето» против решений, предлагаемых архитекторами выбора, но не интенциональностью или автономией в кантианском смысле слова. Это значит, что государство может легитимно вмешиваться в процесс принятия решений для предотвращения «провалов субъекта» [13: 50].
«Обнаженное общество»
Проблема прозрачности и нейтральности цифровых платформ и сервисов особенно актуальна для автократий. Они используют различные схемы контроля над цифровой инфраструктурой: от централизованной этатистской модели «суверенного интернета» [14] до гибридной государственно-частной — через аффилированные с правительством IT-компании [15: 107-113].
Автократии продолжают использовать традиционные дисциплинарные институты и практики управления, добавляя к ним, в различных пропорциях кибернетические элементы. Один из основных — камеры видеонаблюдения, оснащенные функцией распознавания лиц [16]. В Российской Федерации власти в ближайшие годы планируют интегрировать государственные и частные камеры в единую «Национальную платформу видеонаблюдения». Помимо этого, систему контроля дополнят технологиями биометрического распознавания, аудиомониторинга и аудиоанализа.
Государственные цифровые платформы и сервисы обычно создаются для: предоставления услуг, идентификации граждан, информирования или вовлечения в деятельность. Кроме того, они могут выступать механизмами уполномачивания (empowerment) индивидов и групп. В автократии, наоборот, цифровые платформы и сервисы являются частью системы вертикального контроля.
Заместитель председателя комиссии по правовому обеспечению цифровой экономики московского отделения Ассоциации юристов А. Савельев отметил, что «власти Москвы целенаправленно собирают большие массивы данных о гражданах, чтобы создать систему, подобную китайской. Граждан могут вынуждать давать обширные согласия на обработку данных в момент обращения в московские структуры и учреждения, а также передавать их с помощью «манипуляций с доступностью» льгот и госуслуг» [17].
В автократиях платформы и сервисы имитируют вовлечение граждан в публичное управление, посредством обсуждения/голосования по малозначимым с точки зрения «большой политики» вопросам. Показательным примером является, проект «Активный гражданин», рекламируемый мэрией Москвы как цифровой хаб для решения городских проблем, который позволяет гражданам принимать участие в решении важнейших городских вопросов.
В реальности, по выносимым на голосование проблемам, основополагающее решение уже принято властями, горожанам предлагается определить только детали его реализации. Например, в 2015 году жителям столицы предлагалось выбрать место для установки памятника князю Владимиру. В сформированном мэрией перечне ответов на вопрос — варианта отказаться от его установки не существует. Аналогичная ситуация была с опросами, где предлагалось выбрать объект для застройки на месте сквера, опции «оставить сквер» предложено не было.
Кроме того, государственные цифровые платформы и сервисы в автократиях используются в качестве дополнительного технического элемента электорального «меню манипуляций» [18]. Экспертами были зафиксированы различные манипуляции с аккаунтами граждан на праймериз партии «Единая Россия» [19], использование системы дистанционного электронного голосования (ДЭГ) на выборах в Московскую городскую (2019 г.) и Государственную думу (2021 г.) для мобилизации зависимых групп (работников бюджетной сферы, сотрудников госкорпораций) и административной корректировки результатов итогов выборов [20].
Автократии используют платформы и сервисы как специфическую деполитизированную систему обратной связи. Возникает система цифрового патернализма, гражданин взаимодействует с государством исключительно как изолированный объект государственной опеки. И. Быков, исследователь российских государственных платформ и сервисов отмечает, что «граждане специально держатся в атомизированном состоянии, что позволяет администрации управлять текущими хозяйственными вопросами, выступая в качестве единственного дееспособного института в стране» [21: 192].
Объем данных собираемый цифровой инфраструктурой автократий — избыточен, с точки зрения нужд обычного управления. Кроме того, государство стремится к максимально централизовать систему хранения и управления данными. Пулы формируются на основе данных государственных платформ и сервисов, кроме того, существуют городские интеллектуальные системы управления дорожным движением, камеры видеонаблюдения, оснащенные функцией распознавания лиц. Государству получает данные, собираемые частными компаниями (геоаналитические данные операторов сотовой связи, публичные Wi–Fi сети, сервисы такси).
Государство построило систему контроля и фильтрации сетевого траффика на основе специализированных программно-аппаратных комплексов с технологией «глубокого анализ пакетов данных» (deep packet inspection) [22]. Операторы сотовой связи по закону обязали установить систему технических средств для обеспечения функций оперативно-разыскных мероприятий (СОРМ). Она собирает и хранит различную информацию о пользователе: биллинг, Network Address Translation (NAT), протокол Radius и Deep packet inspection (DPI). Кроме того, существует реестр организаторов распространения информации (ОРИ), обязывающий мессенджеры, операторы связи, сервисы и сайты — собирать, хранить и предоставлять по запросу спецслужб данные об активности пользователей.
Подобный тип «цифровизации сверху» усиливает существующие механизмы власти (информационная асимметрия) и создает дополнительные кибернетические инструменты контроля и «подталкивания» (наджинга). В последние годы в обычную практику для властей вошло политически мотивированное использование цифровой инфраструктуры (отключение интернета в период акций протеста, использование камер с системой распознавания лиц для слежки и репрессий) [23: 28-30]. Складывается социотехническим система «перевёрнутой подотчетности», где не государство становится более прозрачным и контролируемым, а наоборот — общество. В. Пэккард на заре развития цифровых технологий предсказывал, подобное развитие событий, когда писал об «обнаженном обществе» (naked society) [24].
Цифровые платформы и сервисы, выполняющие роль посредников, не являются прозрачными и нейтральными. Граждане использующие государственные цифровые платформы и сервисы, не знают их политики обработки персональных данных. Их коммуникация с элементами цифровой инфраструктуры и сервисами подчинена кибернетической логике, когда воздействие (в форме наджинга) действительно направлено на производство не сознательных действий, а рефлекторных реакций. Поскольку архитектура платформ и сервисов зачастую не предполагает получения согласия в явно выраженном виде на целый ряд важных аспектов их использования.
Показательным примером, иллюстрирующим данный тезис служит ситуация с т. н. «разрешениями» в мобильных версиях государственных платформ и сервисов. Разрешения — права, получаемые приложением на устройстве пользователя, часть из их необходима для его работы. Среди специалистов принято делить их на безопасные и потенциально опасные, к последним относят разрешения, затрагивающие конфиденциальность индивида. К потенциально опасным разрешениям принято относить: доступ к камере, контактам, хранилищу мобильного устройства, микрофону и данным геолокации.
Исследование специалистов АНО «Информационная культура» позволило подсчитать количество потенциально опасных разрешений, которые запрашивают государственные платформы и сервисы [25: 60-64]. С точки зрения политики безопасности и защиты данных пользователь должен в явно выраженном виде дать согласие на предоставление доступа этим разрешениям, исследуемые приложения требовали их «по умолчанию». Лидеры по количеству потенциально опасных разрешений:
1. Госуслуги Москвы (девять)
2. Moscow transport и Активный гражданин (восемь)
3. Госуслуги Югры, Налоги ФЛ, Парковки Москвы (семь)
4. Мои Документы Онлайн (все МФЦ), Моя Москва, Мой Энергосбыт (шесть).
Подводя итог, необходимо отметить, что данная статья не претендует на статус полного и исчерпывающего ответа на поставленные вопросы, авторы надеются, что она может стать одним из кирпичиков в основании будущих теоретических и практических исследований. Наиболее перспективным, нам представляется детальное исследование авторитарной модели цифровизации, в частности новых кибернетических элементов управления и контроля, которые дополняют/трансформируют дисциплинарные институты и электоральное «меню манипуляций».
Литература
1. Bloom P. Monitored: Business and Surveillance in a Time of Big Data. Polity. 2019. 256 p.
2. Howard P. The Digital Origins of Dictatorship and Democracy. Information Technology and Political Islam. Oxford: Oxford University Press. 2011. 304 p.
3. Паризер Э. За стеной фильтров. Что интернет скрывает от вас. М.: Альпина Бизнес Букс. 2012. 304 c.
4. Pasquale F. The Black Box Society. The Secret Algorithms That Control Money and Information. Cambridge: Harvard University Press. 2015. 320 p.
5. Зубофф Ш. Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти. М.: Издательство Института Гайдара. 2022. 784 с.
6. Этика и «цифра»: Этические проблемы цифровых технологий. М.: РАНХиГС. 2020. 207 с.
7. Eubanks V. Automating Inequality. How High-Tech Tools Profile, Police, and Punish the Poor. St. Martin’s Press. 2018. 288 p.
8. Гринфилд А. Радикальные технологии: устройство повседневной жизни. М.: Дело. 2018. 424 c.
9. Guattari F., Negri A. Communists Like Us. New Spaces of Liberty, New Lines of Alliance. N.Y.: Semiotext (e). 1990. 144 p.
10. Ranchordás S. Nudging citizens through technology in smart cities // International Review of Law, Computers & Technology. 2020. Vol. 34. № 3. P. 254-276.
11. Krivy M. Towards a critique of cybernetic urbanism: the smart city and the society of control // Planning theory. 2016. Vol. 17. No 1. P. 8-30.
12. Тиккун. Кибернетическая гипотеза. М.: Гилея. 2022. 158 с.
13. Хачатуров А. Трансформации режимов правительности под влиянием новых областей знания: случай поведенческой экономики // Экономическая социология. 2020. Т. 21. № 2. С. 39-61.
14. Сетевые свободы. Доклад «2022: Два Рунета». URL: https://drive.google.com/file/d/1RiYPt8dkQAOYW6Yz4cO9LP9oChbVeqSd/view (дата обращения: 10.12.2023).
15. Томин Л.В., Балаян А. А. Цифровая автократия. Институциональная специфика отношений государства и IT-компаний // Публичная политика. 2020. № 2. C. 107-112.
16. Bischoff P. Surveillance camera statistics: which cities have the most CCTV cameras? — Comparitech. URL: https://www.comparitech.com/vpn-privacy/the-worlds-most-surveilled-cities/ (дата обращения: 10.12.2023).
17. Королев Н. С москвичами перейдут на личности // Коммерсант. URL: https://www.kommersant.ru/doc/4639641 (дата обращения: 10.02.2024).
18. Schedler A. Elections Without Democracy: The Menu of Manipulation // Journal of Democracy. 2002. Vol. 13, №. 2. P. 36-50.
19. Портал государственных проблем: как «Госуслуги» стали инструментом политической борьбы и раем для мошенников. 2021. — Роскомсвобода. URL: https://roskomsvoboda.org/post/pro-gosuslugi/ (дата обращения: 10.12.2023).
20. Брикульский И. Доклад «Дистанционное электронное голосование и свободные выборы: тест на совместимость». URL: https://disk.yandex.ru/i/eSAoq705hH_1Iw (дата обращения: 10.11.2023).
21. Быков И. А. Деполитизация социально значимых проблем в цифровых платформах государственного управления // Медиа в современном мире. 60-е Петербургские чтения: сборник материалов Международного научного форума. В 2 т. СПб.: Медиапапир. 2021. С. 192–193.
22. Bischoff P. Data privacy laws & government surveillance by country: Which countries best protect their citizens? — Comparitech. URL: https://www.comparitech.com/blog/vpn-privacy/surveillance-states/ (дата обращения: 10.12.2023).
23. Балаян А.А., Томин Л. В. Политические эффекты цифровой трансформации городского управления (на примере г. Москвы) // Управленческое консультирование. 2021. № 11 (155). С. 21-32.
24. Packard V. The Naked Society. New York: Ig Publishing. 2014. 272 p.
25. Бегтин И., Буров В., Орлова К. Приватность государственных мобильных приложений в России // Защита информации. Инсайд. 2021. № 2 (98). С. 58-64.
Первоначальный вариант статьи был опубликован в журнале «Публичная политика»:
