Estlands jüngstes KI-Fieber brach aus, weil die Regierung Fehler gemacht hat. Buchstäblich.
Es begann im Dezember. Das Riigikogu – das Parlament der Uneingeweihten – hat eine Änderung des Glücksspielsteuergesetzes verabschiedet. Sie wollten die Steuer auf Fernglücksspiele senken. Ganz einfach.
Das Problem war der Text.
Das Gesetz bezog sich für dieses bestimmte Jahr auf „Geschicklichkeitsspiele“. Es wurden Glücksspiele übersprungen. Fernglücksspiele wurden völlig ignoriert. Angesichts der Tatsache, dass der Sektor rund 300 Millionen Euro wert ist, ist das kein Tippfehler. Es ist eine finanzielle Blutung. Online-Casinos wurden außerhalb des Netzes gelassen. Der Staat verlor 24 Millionen Euro. Einfach so.
Jemand hat es entdeckt. Ein Anwalt eines Glücksspielanbieters bemerkte den Fehler.
Luukas Ilves nicht. Ilves überprüfte nur die Stimmung.
Er ließ die Rechnung über Claude laufen. Er ließ es über Gemini laufen. Beide haben die Inkonsistenz sofort gemeldet. Keine Verzögerung. Keine Kaffeepausen.
Innerhalb weniger Stunden baute Ilves Apsakaleidja. Was übersetzt „Fuckup Finder“ bedeutet.
Es ist grob. Es funktioniert.
Der Prototyp kratzt Gesetzentwürfe von der Parlamentsseite. Es kennzeichnet fehlerhafte Referenzen. Rechenfehler. Termine, die es nicht gibt. Es bewertet sie. Hohes, mittleres oder niedriges Risiko.
„Von den 112 aufgeführten Rechnungen wurden 102 als hochriskant eingestuft.“
Er hat es im Fernsehen gezeigt. Der Gastgeber sah schockiert aus. Das Land wirkte verlegen. Aber auch neugierig.
Premierministerin Kristen Michal sah keinen Misserfolg. Er sah einen Hack.
„Die Situation hat gezeigt, dass KI unglaublich nützlich sein kann“, sagte Michal gegenüber WIRED. „Wir haben gesehen, wie Agenten-Tools die Bürger stärken.“
Also verdoppelten sie ihren Einsatz. Hart.
Im Januar schlug Michal vor, Apsakaleidja-ähnliche Tools zu verwenden, um Gesetze zu entwerfen, bevor sie den Raum verlassen. Um Schlingen zu fangen, bevor sie beißen. Er startete Eesti.ai. Ziel ist eine Verdoppelung der Produktivität bis 2035. Bolt-Gründer Markus Villig ist dem Beirat beigetreten. Ilves blieb dran.
Im April debattierte das Parlament über einen neuen Gesetzentwurf. Damit können staatliche Stellen KI nutzen, um die Verwaltungsarbeit zu automatisieren.
Im Juni ging Michal noch weiter.
Er schlug vor, dass Estland KI-Agenten offizielle digitale Identitäten geben könnte. Keine Menschen. Code.
„Estland wird das erste Land der Welt sein“, sagte er.
Warum hier?
Estland läuft bereits online. 99 Prozent der öffentlichen Dienstleistungen sind digital. Digitale Ausweise sind Standard. WIRED lobte das Setup vor zehn Jahren. Es hat den Weg geebnet.
„Diese Investitionen ermöglichen es uns, schneller in das KI-Zeitalter vorzudringen“, argumentiert Michal.
Aber nicht jeder ist von der Geschwindigkeit überzeugt.
Catherine Flick von der University of Staffordshire weist auf eine langweilige Wahrheit hin. Der Mensch hätte diesen Fehler erkennen müssen.
„Warum führen Menschen den Überprüfungsprozess nicht durch?“ sie fragt.
Sie hat recht. Jemand muss das Ganze lesen. Jemand muss den Kontext verstehen. Eine Maschine prüft die Syntax. Ein Mensch prüft den Sinn.
Was passiert nun?
Der aktuelle Referentenentwurf zieht einen Schlussstrich. Es teilt Entscheidungen in zwei Bereiche auf.
- Regelgebundene Ergebnisse. Überprüfbare Fakten. Erfüllen Sie die Kriterien? Du bekommst das Geld.
- Ermessensentscheidung. Komplexe Umstände. Konkurrierende Interessen.
Wenn die Daten besagen, dass Sie Anspruch auf Leistungen haben, füllen Sie kein Formular aus. Der Agent reicht es ein. Steuererklärungen sind in Estland bereits vorausgefüllt. Stellen Sie sich vor, ein Agent würde sie für Sie einreichen.
Aber wenn es chaotisch wird? Ein Mensch tritt ein.
Kirke Maar, Leiterin von Eesti.ai, erklärt die Logik. Wo Urteilsvermögen zählt, „gehört ein Mensch von Anfang an in den Kreis“.
Sie können sich jederzeit auf Ihr rechtliches Gehör berufen. Der Bot stoppt. Eine Person übernimmt. Wenn Sie die Entscheidung anfechten? Eine menschliche Überprüfung ist obligatorisch.
Und es gibt einen Prüfpfad.
Jede automatisierte Entscheidung hinterlässt einen Fußabdruck. Welche Daten wurden verwendet? Welche Regel galt? Wann wurde es entschieden? Wie kann man dagegen ankämpfen?
„Der Zweck bestand nie darin, den Menschen zu entfernen“, betont Maar. „Es ging darum, die Dienstleistungen weniger belastend zu machen.“
Aber Lastenverschiebungen. Es verschwindet nicht.
Liina Vahtras leitet E-Residency. Sie sieht die Gefahr klar. KI im großen Maßstab ist großartig. Bis es schief geht. Und man kann es auf niemanden zurückführen.
„Das Hauptrisiko ist mangelnde Rechenschaftspflicht“, warnt sie.
Berechtigungen verschwimmen. Missbrauch verbirgt sich.
„Die Verantwortungskette muss sichtbar sein“, sagt sie.
Wenn ein KI-Agent mit einer Bank spricht, muss er wissen, wem sie gehört. Wer hat es autorisiert? Was es berühren kann. Und wer trägt die Schuld?
Michal stimmt zu. Er scheut sich davor, Silizium das Steuer zu überlassen.
„KI ersetzt nicht die Verfassung“, sagt er entschieden.
Es ist ein Werkzeug. Wie ein Textmarker.
Wenn es einen Fehler im Gesetz findet? Großartig. Repariere es. Das macht das Parlament. Gerichte machen das. Nicht der Code.
Der 28-Millionen-Dollar-Fehler war kostspielig.
Aber vielleicht hat es ihnen Zeit verschafft, etwas zu bauen, das die Beobachter beobachtet. Oder schauen Sie sich einfach die Tabellen an.
