De nieuwste AI-koorts in Estland brak uit omdat de regering het verprutste. Letterlijk.
Het begon in december. Het Riigikogu – het parlement voor niet-ingewijden – heeft een aanpassing van de kansspelbelastingwet aangenomen. Ze wilden de belasting op kansspelen op afstand verlagen. Eenvoudig genoeg.
Het probleem was de tekst.
De wet verwees voor dat specifieke jaar naar ‘behendigheidsspellen’. Het sloeg kansspelen over. Het negeerde gokken op afstand volledig. Aangezien de sector ongeveer 300 miljoen euro waard is, is dat geen typefout. Het is een financiële bloeding. Online casino’s bleven buiten het net. De staat verloor € 24 miljoen. Gewoon zo.
Iemand heeft het opgemerkt. Een advocaat van een gokexploitant ontdekte de storing.
Luukas Ilves niet. Ilves was alleen maar de sfeer aan het checken.
Hij stuurde de rekening door naar Claude. Hij heeft het door Gemini laten lopen. Beiden signaleerden de inconsistentie onmiddellijk. Geen vertraging. Geen koffiepauzes.
Binnen enkele uren bouwde Ilves Apsakaleidja. Wat zich vertaalt naar ‘Fuckup Finder’.
Het is ruw. Het werkt.
Het prototype schrapt wetsvoorstellen van de parlementaire site. Het markeert verbroken referenties. Rekenfouten. Datums die niet bestaan. Het beoordeelt ze. Hoog, gemiddeld of laag risico.
“Van de 112 opgesomde rekeningen waren er 102 met een hoog risico.”
Hij liet het op tv zien. De gastheer keek geschokt. Het land leek beschaamd. Maar ook nieuwsgierig.
Premier Kristen Michal zag geen mislukking. Hij zag een hack.
“De situatie heeft aangetoond dat AI ongelooflijk nuttig kan zijn”, vertelde Michal aan WIRED. “We zagen hoe agentia burgers de macht geven.”
Ze verdubbelden dus. Moeilijk.
In januari stelde Michal voor om Apsakaleidja-achtige tools te gebruiken om wetten op te stellen voordat ze de kamer verlaten. Om lussen te vangen voordat ze bijten. Hij lanceerde Eesti.ai. Het doel is om de productiviteit tegen 2035 te verdubbelen. Bolt-oprichter Markus Villig trad toe tot de adviesraad. Ilves bleef aan.
In april debatteerde het parlement over een nieuw wetsvoorstel. Hiermee kunnen overheidsinstanties AI gebruiken om administratief werk te automatiseren.
In juni ging Michal verder.
Hij suggereerde dat Estland officiële digitale identiteiten aan AI-agenten zou kunnen geven. Niet mensen. Code.
“Estland zal het eerste ter wereld worden”, zei hij.
Waarom hier?
Estland draait al online. Negenennegentig procent van de publieke diensten is digitaal. Digitale ID’s zijn standaard. WIRED prees de opzet tien jaar geleden al. Het maakte de weg vrij.
“Dankzij deze investeringen kunnen we sneller het AI-tijdperk ingaan”, betoogt Michal.
Maar niet iedereen is verkocht vanwege de snelheid.
Catherine Flick van de Universiteit van Staffordshire wijst op een saaie waarheid. Mensen hadden die fout moeten opmerken.
“Waarom doen mensen het beoordelingsproces niet?” vraagt ze.
Ze heeft gelijk. Iemand moet het hele stuk lezen. Iemand moet de context begrijpen. Een machine controleert de syntaxis. Een mens controleert het gevoel.
Dus wat gebeurt er nu?
Het huidige wetsontwerp trekt een streep in het zand. Het splitst beslissingen in twee emmers.
- Regelgebonden uitkomsten. Verifieerbare feiten. Voldoet u aan de criteria? Jij krijgt het geld.
- Discretionair oordeel. Complexe omstandigheden. Concurrerende belangen.
Als uit de gegevens blijkt dat u in aanmerking komt voor een uitkering, vult u geen formulier in. De agent archiveert het. Belastingaangiften worden in Estland al vooraf ingevuld. Stel je voor dat een agent ze voor je indient.
Maar wanneer wordt het rommelig? Er komt een mens tussenbeide.
Kirke Maar, leider van Eesti.ai, legt de logica uit. Waar oordeel ertoe doet, ‘hoort een mens er vanaf het begin bij’.
U kunt te allen tijde een beroep doen op het recht om te worden gehoord. De bot stopt. Een persoon neemt het over. Als u de beslissing betwist? Menselijke beoordeling is verplicht.
En er is een audittrail.
Elke geautomatiseerde beslissing laat een voetafdruk achter. Welke gegevens zijn gebruikt? Welke regel was van toepassing? Wanneer werd het besloten? Hoe kun je ertegen vechten?
“Het doel was nooit om de mens te verwijderen”, benadrukt Maar. “Het was bedoeld om de dienstverlening minder belastend te maken.”
Maar de lasten verschuiven. Het verdwijnt niet.
Liina Vahtras beheert e-residentie. Ze ziet het gevaar duidelijk. AI die op schaal handelt is geweldig. Totdat het misgaat. En je kunt het naar niemand herleiden.
“Het belangrijkste risico is een gebrek aan verantwoordelijkheid”, waarschuwt ze.
Machtigingen vervagen. Misbruik verbergt.
“De keten van verantwoordelijkheid moet zichtbaar zijn”, zegt ze.
Wanneer een AI-agent met een bank praat, moet hij weten wie de eigenaar is. Wie heeft er toestemming voor gegeven. Wat het kan aanraken. En wie krijgt de schuld.
Michal is het daarmee eens. Hij is op zijn hoede om het stuur aan silicium over te dragen.
“AI vervangt de grondwet niet”, zegt hij resoluut.
Het is een hulpmiddel. Zoals een markeerstift.
Als zij een fout in de wet constateert? Geweldig. Repareer het. Het Parlement doet dat. Dat doen rechtbanken. Niet de code.
De fout van $ 28 miljoen was kostbaar.
Maar misschien heeft het ze tijd gegeven om iets te bouwen dat de toeschouwers in de gaten houdt. Of bekijk gewoon de spreadsheets.
