В условиях цифровой трансформации стремительное внедрение технологий искусственного интеллекта в систему государственного управления порождает скрытые угрозы. Сложившаяся на практике ситуация, при которой сотрудники в целях повышения эффективности труда скрыто используют открытые генеративные модели без официального разрешения организации, сформировала в сфере информационной безопасности опасный институт, получивший название «Shadow AI» (теневой ИИ). По данным международных аналитических центров «Slack» и «Cyberhaven», около 60 процентов сотрудников используют ИИ втайне от руководства, при этом 11 процентов из них в рабочем процессе вводят конфиденциальные документы непосредственно в открытые генеративные модели. Повсеместное и неограниченное использование данной технологии государственными служащими, в особенности субъектами, осуществляющими нормотворческую деятельность и работающими с государственными секретами, влечет за собой ряд катастрофических правовых последствий.
Во-первых, ввод ведомственной переписки с ограниченным доступом, черновых текстов законопроектов и личных обращений граждан в открытые ИИ-платформы (ChatGPT, Gemini и др.), размещенные на зарубежных серверах, для их последующего анализа является прямым нарушением режима государственной тайны и информационного суверенитета, то есть приводит к трансграничной утечке конфиденциальной информации.
Во-вторых, ввиду свойства ИИ-моделей фабриковать информацию, проникновение непроверенных и фиктивных норм в законодательные акты создает острые правовые коллизии в государственном управлении.
В-третьих, делегирование должностным лицом своих полномочий по анализу и принятию решений алгоритму типа «черный ящик» нивелирует ответственность государства перед гражданами и полностью размывает субъект юридической ответственности. Кроме того, в отсутствие специальных ИИ-детекторов и систем предотвращения утечки данных, доказать факт подобного правонарушения на практике становится практически невозможным.
Важной концептуальной основой в регулировании данных отношений являются «Правила этики по созданию, внедрению и использованию решений на основе искусственного интеллекта», вступившие в силу (рег. 3787 номер 14 марта 2026 года). Хотя данный документ и признает принцип сохранения человеческого контроля над алгоритмическими решениями,
в таких сферах, порождающих юридические последствия, как работа с государственными секретами и нормотворчество, невозможно ограничиться лишь рекомендательными этическими нормами. Ввиду того, что в действующем законодательстве, в частности в Трудовом кодексе или Кодексе об административной ответственности РУ, отсутствуют императивные нормы в отношении таких современных правонарушений, как несанкционированное использование ИИ или слепое доверие машинным выводам, внутренние локальные акты организаций не могут обеспечить достаточный правовой контроль. Анализ международного опыта показывает, что развитые государства в вопросах регулирования использования искусственного интеллекта в государственном управлении уже перешли от этапа рекомендательных норм к этапу строгого императивного контроля.
Фундаментальное значение в этом отношении имеет Закон Европейского Союза «Об искусственном интеллекте» (AI Act), который устанавливает риск-ориентированный подход и относит ИИ-системы, применяемые в сфере государственных услуг и правоприменения, к категории «высокого риска». В соответствии со статьей 14 данного Закона обеспечение человеческого контроля над такими системами закреплено в качестве императивной нормы, при этом полное делегирование алгоритмам полномочий по принятию социально-правовых решений категорически запрещается.
В Североамериканском регионе для противодействия угрозам «Shadow AI» и утечке конфиденциальных данных применяются преимущественно технические и процессуальные ограничения. В частности, государственные ведомства США отказываются от открытых облачных сервисов и внедряют закрытые корпоративные среды ИИ, исключающие выход данных во внешнюю сеть. В то же время в таких странах, как Канада и Великобритания, в процессе нормотворчества и оказания государственных услуг внедрен институт «Оценки алгоритмического воздействия». Данный институт требует от ведомств обязательного декларирования участия ИИ при подготовке проектов.
В других регионах, в частности в «Модели управления искусственным интеллектом» Сингапура, легализованы обязательные уровни участия человека в принятии юридических решений, тогда как в Бразилии внедрена практика строгой сертификации алгоритмических решений, принимаемых правительством. Данные международные прецеденты подтверждают, к каким правовым ошибкам может привести абсолютно свободное и бесконтрольное использование ИИ, а также доказывают необходимость внедрения строгой ответственности и инфраструктурных ограничений в национальное законодательство.
Практические предложения по совершенствованию национального законодательства. Исходя из выводов, полученных в ходе сравнительного анализа, и опираясь на императивные механизмы, в целях восполнения пробелов в разрозненных внутренних документах ведомств и правовой систематизации использования ИИ предлагается имплементировать в законодательство следующие конкретные механизмы:
1. Обязательное декларирование участия ИИ в нормотворчестве.
Для предотвращения проникновения в проекты законов норм, сфабрикованных ИИ, а также для определения авторской ответственности, при загрузке проекта на портал «project.gov.uz» необходимо внедрить систему обязательного электронного декларирования, подтверждающую использование ИИ. В целях правового закрепления данной меры статью 22 Закона «О нормативно-правовых актах» следует дополнить нормой о том, что разработчики проекта полностью проверили выводы ИИ и подтверждают достоверность информации.
2. Запрет открытых моделей и переход к закрытой корпоративной инфраструктуре.
В целях пресечения утечки конфиденциальных данных на глобальные серверы, в рамках системы «Электронное правительство» необходимо создать изолированную от внешней сети безопасную локальную нейросеть. После запуска данной инфраструктуры целесообразно внести в статью 13 Закона «О государственной гражданской службе» норму, категорически запрещающую ввод информации с ограниченным доступом, связанной со служебной деятельностью, в открытые инструменты ИИ.
3. Закрепление абсолютной ответственности человека за алгоритмические последствия.
Необходимо установить правовой заслон попыткам должностных лиц избежать ответственности при отмене решений, касающихся прав граждан, под предлогом ошибки алгоритма. Для этого непосредственно в статью 54 Закона «Об административных процедурах» должен быть введен императивный принцип, согласно которому ошибка автоматизированной системы не освобождает должностное лицо от ответственности за законность административного акта и не признается обстоятельством, смягчающим ответственность.
Заключение. Выдвинутые выше предложения – внедрение алгоритмического декларирования, создание закрытой альтернативы ИИ и сохранение абсолютной юридической ответственности за человеком являются не препятствием для технологического прогресса, а единственным решением, способным уберечь государство от серьезных информационных и правовых кризисов. Разрозненные внутренние инструкции ведомств не способны решить столь сложные правовые проблемы; поэтому только обогащение действующих Правил этики конкретными правовыми санкциями и инфраструктурными ограничениями гарантирует безопасное и законное использование ИИ государственными служащими.