A mais recente febre da IA na Estónia estourou porque o governo estragou tudo. Literalmente.
Tudo começou em dezembro. O Riigikogu – Parlamento para os não iniciados – aprovou um ajuste na Lei do Imposto sobre Jogos de Azar. Eles queriam reduzir o imposto sobre jogos de azar remotos. Bastante simples.
O problema foi o texto.
A lei fazia referência a “jogos de habilidade” para aquele ano específico. Ele pulou jogos de azar. Ignorou completamente o jogo remoto. Dado que o setor vale cerca de 300 milhões de euros, isso não é um erro de digitação. É uma hemorragia financeira. Os cassinos online ficaram fora da rede. O estado perdeu 24 milhões de euros. Simples assim.
Alguém percebeu. Um advogado de uma operadora de jogos de azar percebeu a falha.
Luukas Ilves não. Ilves estava apenas verificando as vibrações.
Ele passou a conta para Claude. Ele passou por Gêmeos. Ambos sinalizaram a inconsistência imediatamente. Sem atraso. Sem pausas para café.
Em poucas horas, Ilves construiu Apsakaleidja. O que se traduz em “Fuckup Finder”.
É bruto. Funciona.
O protótipo extrai projetos de lei do site parlamentar. Ele sinaliza referências quebradas. Erros aritméticos. Datas que não existem. Isso os classifica. Risco alto, médio ou baixo.
“Das 112 contas listadas, 102 foram classificadas como de alto risco.”
Ele mostrou isso na TV. O anfitrião pareceu chocado. O país parecia envergonhado. Mas também curioso.
A primeira-ministra Kristen Michal não viu um fracasso. Ele viu um hack.
“A situação demonstrou que a IA pode ser incrivelmente útil”, disse Michal ao WIRED. “Vimos como as ferramentas de agência capacitam os cidadãos.”
Então eles dobraram. Duro.
Em Janeiro, Michal propôs a utilização de ferramentas semelhantes às da Apsakaleidja para redigir leis antes de saírem da sala. Para pegar os laços antes que eles mordam. Ele lançou Eesti.ai. O objetivo é duplicar a produtividade até 2035. O fundador da Bolt, Markus Villig, juntou-se ao conselho consultivo. Ilves permaneceu.
Em Abril, o parlamento estava a debater um novo projecto de lei. Este permite que órgãos estaduais usem IA para automatizar o trabalho administrativo.
Em junho, Michal foi mais longe.
Ele sugeriu que a Estônia poderia fornecer identidades digitais oficiais aos agentes de IA. Não pessoas. Código.
“A Estônia se tornará a primeira do mundo”, disse ele.
Por que aqui?
A Estónia já funciona online. Noventa e nove por cento dos serviços públicos são digitais. IDs digitais são padrão. WIRED elogiou a configuração há dez anos. Pavimentou a estrada.
“Esses investimentos permitem-nos avançar mais rapidamente para a era da IA”, argumenta Michal.
Mas nem todo mundo acredita na velocidade.
Catherine Flick, da Universidade de Staffordshire, aponta uma verdade enfadonha. Os humanos deveriam ter percebido esse erro.
“Por que os humanos não estão realizando o processo de revisão?” ela pergunta.
Ela está certa. Alguém tem que ler tudo. Alguém tem que entender o contexto. Uma máquina verifica a sintaxe. Um humano verifica o sentido.
Então o que acontece agora?
O atual projeto de lei traça uma linha na areia. Ele divide as decisões em dois grupos.
- Resultados sujeitos a regras. Fatos verificáveis. Você atende aos critérios? Você recebe o dinheiro.
- Julgamento discricionário. Circunstâncias complexas. Interesses conflitantes.
Se os dados indicarem que você se qualifica para os benefícios, você não preenche um formulário. O agente arquiva. As declarações fiscais já estão pré-preenchidas na Estónia. Imagine um agente arquivando-os para você.
Mas quando as coisas ficam complicadas? Um humano intervém.
Kirke Maar, líder do Eesti.ai, explica a lógica. Onde o julgamento é importante, “um humano pertence ao circuito desde o início”.
Você pode invocar o direito de ser ouvido a qualquer momento. O bot para. Uma pessoa assume. Se você contestar a decisão? A revisão humana é obrigatória.
E há uma trilha de auditoria.
Cada decisão automatizada deixa uma marca. Quais dados foram usados? Qual regra foi aplicada? Quando foi decidido? Como você pode lutar contra isso?
“O objetivo nunca foi remover o humano”, insiste Maar. “Era para tornar os serviços menos onerosos.”
Mas a carga muda. Não desaparece.
Liina Vahtras administra residência eletrônica. Ela vê o perigo claramente. A atuação da IA em escala é ótima. Até que dê errado. E você não pode rastrear ninguém.
“O principal risco é a falta de responsabilização”, alerta ela.
As permissões ficam borradas. O uso indevido se esconde.
“A cadeia de responsabilidade deve ser visível”, diz ela.
Quando um agente de IA fala com um banco, ele precisa saber quem é o proprietário dele. Quem autorizou. O que pode tocar. E quem leva a culpa.
Mical concorda. Ele tem medo de entregar o volante ao silício.
“A IA não substitui a constituição”, diz ele com firmeza.
É uma ferramenta. Como um marcador.
Se encontrar um erro na lei? Ótimo. Corrija isso. O Parlamento faz isso. Os tribunais fazem isso. Não o código.
O erro de US$ 28 milhões custou caro.
Mas talvez isso lhes tenha dado tempo para construir algo que observe os observadores. Ou apenas observa as planilhas.
