Эстония запускает необычный эксперимент в сфере регулирования искусственного интеллекта. Власти страны планируют присваивать каждому ИИ-агенту уникальный цифровой идентификатор, аналогичный личному коду гражданина. Цель — отслеживать действия агентов в сети и устанавливать, кто именно за ними стоит.
Премьер-министр Кристен Михал изложил логику инициативы в публикации в X:
Не может быть такого, чтобы человек был вынужден предоставлять своему ИИ-ассистенту доступ ко всем своим правам, сервисам и данным. Агенты должны иметь ограниченные, контролируемые и проверяемые полномочия. Например, должна быть возможность указать, может ли агент только просматривать данные, готовить документ или действовать в рамках фиксированного денежного лимита.
Детали пока остаются размытыми. Неизвестно, когда система вступит в силу и как именно будет применяться. Открытым остаётся и ключевой вопрос охвата: распространится ли требование на агентов, которых используют эстонские компании, или только на тех, кого разрабатывают местные фирмы, или на всех агентов, работающих с данными внутри страны.
Между тем проблема, которую Эстония пытается решить, уже вполне конкретна. Бизнес всё активнее внедряет ИИ-агентов для автоматизации рутинных задач, однако практика показала: такие системы способны неверно интерпретировать инструкции и действовать непредсказуемо. Среди задокументированных случаев — удаление корпоративных баз данных и утечка конфиденциальных данных клиентов.
Агентный ИИ потребляет в 1000 раз больше токенов, чем обычный – Microsoft, Amazon и другие уже сокращают использование
Принципиальная сложность в том, что действия ИИ-агентов крайне сложно отслеживать в реальном времени и так же сложно восстанавливать постфактум. Это порождает правовой вакуум: когда агент наносит реальный ущерб, непонятно, кто несёт ответственность — разработчик системы, компания-заказчик или ИТ-отдел, выдавший разрешения. Эстонская система идентификаторов пока выглядит скорее как инструмент мониторинга, чем как готовый ответ на этот вопрос.
Михал допускает, что при грамотной реализации инициатива может стать международным стандартом регулирования ИИ-систем. Небольшая страна с развитой цифровой инфраструктурой уже не впервые тестирует технологические решения, которые затем перенимают другие государства — в своё время именно Эстония стала первой в мире страной с полноценным электронным гражданством.
