Последний бум энтузиазма вокруг искусственного интеллекта в Эстонии начался из-за правительственного ляпа. Буквально.
Всё началось в декабре. Рийгикогу (парламент, для тех, кто не в теме) проголосовал за поправку к Закону о налоге на азартные игры. Цель была проста: снизить налог на дистанционные азартные игры.
Проблема заключалась в тексте закона.
В документе говорилось о «играх на навык» в рамках конкретного года. Игры на удачу были проигнорированы. Дистанционные азартные игры — упущены совсем. Учитывая, что этот сектор оценивается примерно в €300 миллионов, это не опечатка. Это финансовое кровотечение. Онлайн-казино остались за скобками закона. Государство потеряло €24 миллиона. Вот так просто.
Кто-то заметил ошибку. Юрист одной из компаний-операторов азартных игр подметил сбой.
Луукас Ильвес — нет. Ильвес просто проверил общую картину.
Он прогнал законопроект через Claude. Затем — через Gemini. Оба ИИ мгновенно вывесили несоответствия. Никаких задержек. Никаких перерывов на кофе.
В течение нескольких часов Ильвес создал Apsakaleidja. Что переводится как «Поискатель ляпов» (или, грубее, «Найди ошибку»).
Это примитивно. Это работает.
Прототип парсит черновики законопроектов с сайта парламента. Он вычленяет сломанные ссылки, арифметические ошибки и несуществующие даты. Он присваивает им рейтинг риска: высокий, средний или низкий.
«Из 112 перечисленных законопроектов 102 получили рейтинг высокого риска».
Он продемонстрировал это на телевидении. Ведущий выглядел потрясённым. Страна — смущённой. Но также — любопытной.
Премьер-министр Кристин Михаль не увидел в этом провала. Он увидел взлом.
«Эта ситуация показала, что ИИ может быть невероятно полезен, — сказал Михаль изданию WIRED. — Мы увидели, как агentic-инструменты расширяют возможности граждан».
И они решили удвоить ставки. Серьёзно.
В январе Михаль предложил использовать инструменты, подобные Apsakaleidja, для подготовки законов ещё до их выхода на публичное обсуждение. Чтобы ловить логические петли до того, как они нанесут вред. Он запустил проект Eesti.ai. Цель — удвоить продуктивность к 2035 году. К наблюдательному совету присоединился Маркус Виллиг, основатель Bolt. Ильвес остался в команде.
К апрелю парламент уже обсуждал новый законопроект. Он разрешает государственным органам использовать ИИ для автоматизации административных процессов.
В июне Михаль пошёл ещё дальше.
Он предложил, что Эстония может выдавать официальные цифровые идентификации агентам ИИ. Не людям. Коду.
«Эстония станет первой в мире», — заявил он.
Почему именно здесь?
Эстония и так существует в онлайне. 99% государственных услуг цифровые. Цифровые ID — стандарт. Ещё десять лет назад WIRED хвалил эту систему. Она проложила дорожку.
«Эти инвестиции позволили нам быстрее войти в эру ИИ», — утверждает Михаль.
Но не все впечатлены скоростью.
Кэтрин Флик из Университета Стаффордшира указывает на скучную, но важную истину: люди должны были поймать эту ошибку.
«Почему люди не занимаются процессом проверки?», — спрашивает она.
Она права. Кто-то должен читать всё целиком. Кто-то должен понимать контекст. Машина проверяет синтаксис. Человек — смысл.
И что дальше?
Текущий черновик законопроекта проводит чёткую грань. Он делит решения на две категории.
- Решения, основанные на правилах. Проверяемые факты. Вы соответствуете критериям? Вы получаете деньги.
- Решения, требующие усмотрения. Сложные обстоятельства. Столкновение интересов.
Если данные говорят, что вы имеете право на пособия, вам не нужно заполнять форму. Агенты ИИ делают это за вас. В Эстонии декларации для налогов уже заполняются автоматически. Представьте, что агент подает их вместо вас.
Но когда ситуация становится запутанной? В дело вступает человек.
Кирке Мар, возглавляющая проект Eesti.ai, объясняет логику. Там, где важно человеческое суждение, «человек должен находиться в петле управления с самого начала».
Вы можете в любой момент заявить о праве быть услышанным. Бот останавливается. Управление переходит к человеку. Если вы оспариваете решение? Проводится обязательный человеческий обзор.
И существует аудиторский след.
Каждое автоматизированное решение оставляет след. Какие данные были использованы? Какое правило применилось? Когда было принято решение? Как можно его оспорить?
«Никогда не ставилась цель удалить человека из процесса», — настаивает Мар. «Задача была сделать услуги менее обременительными».
Но нагрузка никуда не исчезает. Она лишь смещается.
Лиинна Вахтрас курирует программу электронного резидентства. Она ясно видит опасность. Когда ИИ действует в масштабе, это замечательно. Пока всё идет по плану. Но если что-то пойдет не так, и вы не сможете отследить ответственность до конкретного лица?
«Ключевой риск — отсутствие подотчетности», — предупреждает она.
Границы полномочий размываются. Злоупотребления скрываются.
«Цепочка ответственности должна быть видна», — говорит она.
Когда агент ИИ общается с банком, должно быть ясно, кто его владелец. Кто дал ему разрешение. Что ему можно трогать. И кого винить в случае проблем.
Михаль согласен. Он опасается отдавать руль кремнию.
«ИИ не заменяет конституцию», — твердо говорит он.
Это инструмент. Как маркер-выделитель.
Если он находит ошибку в законе? Отлично. Исправьте её. Это делает парламент. Это делают суды. А не код.
Ошибке в $28 миллионов* было дорого.
Но, возможно, она купила им время, чтобы построить систему, которая следит за теми, кто следит за другими. Или хотя бы следит за таблицами.
*Примечание переводчика: в оригинальном тексте фигурируют и евро (€24 млн), и доллары ($28 млн). Вероятно, это неточность автора оригинала или разница в курсе/оценке ущерба на момент написания. В переводе сохранена численная и валютная информация, как в оригинале.
