Эффективность и моральная ответственность

от 23 декабря 2024

Роль ИИ в бюрократических процессах

Традиционные государственные учреждения характеризуются сложными бюрократическими процессами, сопровождающимися высоким уровнем бумажной работы и значительными трудностями в выполнении рутинных операций. Внедрение технологий искусственного интеллекта представляет собой перспективное решение для оптимизации данных процессов, позволяя увеличить их эффективность и снизить издержки. Вместе с тем автоматизация несет в себе не только операционные изменения, но и порождает критические вопросы, связанные с этическими аспектами, прозрачностью принятия решений и необходимостью учета специфики отдельных ситуаций.

Автоматизация и продуктивность

Объем административных процедур и транзакций, связанных с оказанием услуг гражданам, составляет значительную часть деятельности государственного аппарата и напрямую влияет на качество управления, удовлетворенность граждан и экономическую устойчивость. В условиях развития технологий возникает возможность коренной трансформации этих процессов, что вызывает интерес исследователей и практиков. Так, в институте А.Тьюринга был изучен потенциал использования ИИ для повышения производительности государственного сектора Великобритании. Изучив 377 услуг, оказываемых 57 центральными органами власти Великобритании, исследователи проанализировали потенциал автоматизации 143 миллионов транзакций.

В результате обнаружилось, что около 84% сложных транзакций обладают высоким потенциалом автоматизации. Например, автоматизация, экономящая лишь одну минуту на каждой транзакции, может снизить нагрузку на эквивалент примерно 1200 человеко-лет. Многие задачи, связанные с предоставлением услуг, являются рутинными, что делает их наиболее подходящими для применения ИИ. Тем не менее полезность потенциального внедрения ИИ варьируется в зависимости от сферы. В таких областях, как транспорт, образование и налоговые услуги, уровень рутинности задач значительно выше, чем в таких секторах, как социальные пособия и национальная безопасность.

Кроме того, большинство текущих задач в государственном секторе связаны с обработкой данных, проверкой точности информации и хранением документов. Подобные процессы уже частично автоматизированы, но имеют пространство для дальнейшего совершенствования. Следовательно, ИИ способен не только повысить производительность, но и сократить бюрократические издержки, что, в свою очередь, может увеличить удовлетворенность граждан. 

Минимизация рисков

Функционирование государственных структур, в частности, связано и с управлением рисками, связанными с принятием решений и эффективностью административных процессов. С.Гист и Б.Кливинк изучили влияние ИИ на этот аспект в разных организационных условиях: в контексте автоматизированной системы борьбы с мошенничеством MiDAS в Мичигане и классификационной модели риска для управления детскими пособиями в Нидерландах.

В результате выяснилось, что интеграция технологий ИИ приводит к значительным изменениям как в содержании работы бюрократов, так и в организационных структурах. Важным аспектом является смещение акцента с традиционных ролей служащих на новые функции, связанные с взаимодействием с автоматизированными системами и анализом данных. В случае MiDAS в Мичигане система автоматического выявления случаев мошенничества привела к сокращению числа сотрудников и полной автоматизации процессов принятия решений, что, однако, сопровождалось высоким уровнем ошибок и многочисленными апелляциями. Анализ показал, что в 64% случаев обвинения в мошенничестве были ошибочными, что свидетельствует о недостаточной надежности системы при отсутствии адекватного человеческого контроля. В результате потребовалось пересмотреть процедуры и восстановить элементы ручного управления для минимизации ошибок.

Кейс Нидерландов демонстрирует иную динамику. Здесь внедрение алгоритмической модели для классификации рисков также привело к изменениям в работе государственных служащих, но характер был более постепенным. Алгоритм классификации рисков способствовал выявлению возможных случаев мошенничества, однако административные ошибки (например, отсутствие квитанции) могли приводить к серьезным последствиям для граждан, например, требованию вернуть значительные суммы пособий, что особенно сильно ударило по уязвимым группам населения. Формальная структура работы бюрократов оставалась неизменной, но фактически их функции были смещены в сторону проверки данных, предоставленных системой, что ограничивало дискреционные полномочия и усиливало зависимость от результатов, предоставляемых алгоритмом.

Таким образом, технологии действительно способны минимизировать риски, связанные с человеческими ошибками, и повысить эффективность работы бюрократических структур, однако подобные процессы требуют продуманного подхода к внедрению и интеграции. В обоих кейсах отсутствие четких процедур управления и механизмов обратной связи между уровнями организации привело к проблемам с адаптацией технологий. В Мичигане это проявилось в недостатке обучения персонала и отсутствии контроля над доступом к данным. В Нидерландах же использование системы сопровождалось отсутствием стратегического подхода к ее роли, что вызвало несоответствие между реальными задачами служащих и их формальными обязанностями.

Административная дискреция

Алгоритмические системы также изменяют подходы к принятию решений в рамках государственных и административных функций. Так, К.Вреденбург предлагает концептуальный анализ, основанный на сравнении ИИ с ролью «низовых бюрократов» (street-level bureaucrats). Исследование структурировано вокруг ключевого аргумента, что ИИ не следует рассматривать исключительно как нейтральный инструмент, а скорее, как субъекта, обладающего моральными характеристиками, которые влияют на процесс принятия решений в организациях.

К.Вреденбург основывается на многочисленных исследованиях, чтобы аргументировать, что алгоритмы, внедренные в государственное управление, чаще действуют как «равнодушные бюрократы». Подобная типизация подразумевает, что алгоритмы придают основное значение скорости и эффективности, не демонстрируя чувствительности к моральным или контекстуальным факторам, которые могут быть критически важны в процессе принятия решений. В свою очередь, автоматизация управления снижает вариативность в принятии решений, одновременно увеличивая стандартизацию, которая не всегда служит интересам справедливости или индивидуализированного подхода.

Моральная значимость дискреции рассматривается как важное качество административной работы, которое алгоритмы не способны полностью воспроизвести. Бюрократы-люди используют свои моральные установки для учета уникальных особенностей каждого случая. В то же время бюрократы-машины, даже обученные на разнообразных наборах данных, закрепляют заранее заданные решения и не могут гибко реагировать на изменения в контексте или аномалии. Такая структура алгоритмического принятия решений приводит к углублению организационной однородности, снижая способность учреждений эффективно адаптироваться к сложным или уникальным случаям.

Более того, алгоритмы часто работают как «черные ящики», что затрудняет способность работников, взаимодействующих с ИИ, критически оценивать его решения или интегрировать их с собственным профессиональным суждением. Это подрывает как индивидуальную, так и коллективную ответственность, ограничивая возможности для обучающегося и корректирующего взаимодействия.

Таким образом, чрезмерная зависимость от ИИ в административных структурах может создать дисбаланс в распределении моральных функций внутри организаций. Хотя алгоритмы повышают эффективность в рутинных ситуациях, их использование угрожает моральному разнообразию и ослабляет способность организаций учитывать сложные, индивидуализированные обстоятельства, что подчеркивает необходимость более сбалансированного подхода к внедрению алгоритмов и сохранения ключевой роли человеческого участия.


Виктория Совгирь, аналитик ЦПК

Теги: ИИ, Технологии

Другие материалы раздела