Цена ошибки: почему внедрение ИИ в госуправление требует особой осторожности
Развитие искусственного интеллекта в государственном управлении открывает новые возможности, но одновременно несет и системные риски. Об этом рассуждает член РАПК, интернет-технолог Захар Рубцов, анализируя международный опыт и возможные сценарии внедрения ИИ.
Одним из наиболее амбициозных примеров он называет ОАЭ, где делают ставку на полную цифровизацию госуправления.
«В Абу-Даби объявили о достаточно амбициозной цифровой стратегии: к 2027 году там хотят стать первыми в мире, кто встроит ИИ во все цифровые госуслуги, внутренние механизмы и управленческую инфраструктуру», — отмечает эксперт.
По его словам, речь фактически идет о новой модели государства, в которой роль чиновника как посредника между системой и гражданином может существенно сократиться.
При этом сам по себе переход к ИИ в управлении выглядит логичным продолжением цифровизации.
«Искусственный интеллект ведь действительно может забрать на себя множество задач, и когда об этом рассуждают, обычно подразумевают автоматизацию», — поясняет Рубцов.
В качестве примера он приводит портал «Госуслуги», которые теперь работают полностью на нейросетях, что должно сделать сервис удобнее, быстрее и повысить качество предоставляемых услуг.
Однако, подчеркивает он, в отличие от коммерческих сервисов, цена ошибки в государственном управлении принципиально выше.
«Государство – не какое-то приложение в айфоне, интернет-магазин и не сервис по доставке еды. Если ИИ ошибется в коммерческом сервисе – это будет раздражать, возможно даже принесет убытки. А вот если искусственный интеллект «заглючит» в госуправлении – последствия могут оказаться куда более плачевными», — предупреждает эксперт.
Отдельное внимание он обращает на риски непрозрачности решений и трансформации самой бюрократии.
«Риск того, что на замену обычной бюрократии придёт автоматизированная, которая принимает решения быстро и, что важно, непрозрачно, вполне реальный», — считает Рубцов.
Еще одним уязвимым элементом он называет данные, на которых строится работа ИИ.
«Чем больше таких данных собрано в одной системе – тем выше цена ошибки или утечки», — отмечает эксперт.
При этом, по его мнению, опыт ОАЭ может стать ориентиром для других стран.
«Думаю, на примере Абу-Даби мы видим новый тренд, и в ближайшие годы за эмиратом точно потянутся другие богатые и централизованные государства», — говорит он.
При этом, по словам эксперта, масштабная цифровая трансформация госуправления требует не только политической воли, но и значительных ресурсов: больших инвестиций и качественной инфраструктуры. «Одни дата-центры чего стоят», — отмечает Рубцов.
Речь идет не только о вычислительных мощностях, но и о создании защищенных систем хранения и обработки данных, развитии каналов связи и формировании устойчивой цифровой архитектуры, способной работать с критически важной информацией в режиме реального времени.
Именно поэтому, считает эксперт, далеко не все страны смогут пойти по пути полной интеграции ИИ в управление.
«Поэтому, думаю, большинство государств будут смотреть в сторону точечных ИИ-модулей. Т.е. внедрять искусственный интеллект в отдельные сервисы и структуры», — поясняет он.
Такой подход позволяет тестировать технологии на отдельных направлениях — например, в предоставлении госуслуг, анализе обращений граждан или автоматизации внутренних процессов — без риска для всей системы управления.