La última fiebre de IA en Estonia estalló porque el gobierno metió la pata. Literalmente.
Comenzó en diciembre. El Riigikogu (Parlamento para los no iniciados) aprobó un ajuste a la Ley del Impuesto sobre el Juego. Querían reducir el impuesto al juego a distancia. Bastante simple.
El problema era el texto.
La ley hacía referencia a los “juegos de habilidad” para ese año específico. Se saltó los juegos de azar. Ignoró por completo el juego remoto. Dado que el sector vale aproximadamente 300 millones de euros, no es un error tipográfico. Es una hemorragia financiera. Los casinos online quedaron fuera de la red. El Estado perdió 24 millones de euros. Así.
Alguien lo vio. El abogado de un operador de juegos de azar se dio cuenta del problema.
Luukas Ilves no lo hizo. Ilves solo estaba comprobando las vibraciones.
Le pasó la factura a Claude. Lo pasó por Géminis. Ambos señalaron la inconsistencia de inmediato. Sin retraso. Sin pausas para el café.
En cuestión de horas, Ilves construyó Apsakaleidja. Lo que se traduce como “Buscador de jodidas”.
Es crudo. Funciona.
El prototipo extrae proyectos de ley del sitio parlamentario. Señala referencias rotas. Errores aritméticos. Fechas que no existen. Los califica. Riesgo alto, medio o bajo.
“De los 112 proyectos de ley enumerados, 102 fueron calificados de alto riesgo.”
Lo mostró en la televisión. El anfitrión pareció sorprendido. El país parecía avergonzado. Pero también curioso.
La primera ministra Kristen Michal no vio ningún fracaso. Vio un truco.
“La situación demostró que la IA puede ser increíblemente útil”, dijo Michal a WIRED. “Vimos cómo las herramientas de agencia empoderan a los ciudadanos”.
Así que doblaron su apuesta. Duro.
En enero, Michal propuso utilizar herramientas similares a las de Apsakaleidja para redactar leyes antes de abandonar la sala. Para atrapar bucles antes de que muerdan. Lanzó Eesti.ai. El objetivo es duplicar la productividad para 2035. El fundador de Bolt, Markus Villig, se unió al consejo asesor. Ilves se quedó.
En abril, el parlamento estaba debatiendo un nuevo proyecto de ley. Éste permite a los organismos estatales utilizar IA para automatizar el trabajo administrativo.
En junio, Michal fue más allá.
Sugirió que Estonia podría otorgar identidades digitales oficiales a los agentes de IA. No personas. Código.
“Estonia se convertirá en la primera del mundo”, afirmó.
¿Por qué aquí?
Estonia ya funciona online. El noventa y nueve por ciento de los servicios públicos son digitales. Las identificaciones digitales son estándar. WIRED elogió la instalación hace diez años. Pavimentó el camino.
“Esas inversiones nos permiten avanzar más rápido hacia la era de la IA”, argumenta Michal.
Pero no todo el mundo está convencido de la velocidad.
Catherine Flick, de la Universidad de Staffordshire, señala una verdad aburrida. Los humanos deberían haber captado ese error.
“¿Por qué los humanos no realizan el proceso de revisión?” ella pregunta.
Ella tiene razón. Alguien tiene que leerlo completo. Alguien tiene que entender el contexto. Una máquina comprueba la sintaxis. Un humano controla el sentido.
Entonces, ¿qué pasa ahora?
El actual proyecto de ley traza una línea en la arena. Divide las decisiones en dos grupos.
- Resultados sujetos a reglas. Hechos comprobables. ¿Cumples con los criterios? Obtienes el dinero.
- Juicio discrecional. Circunstancias complejas. Intereses en competencia.
Si los datos dicen que usted califica para recibir beneficios, no completa un formulario. El agente lo archiva. Las declaraciones de impuestos ya están precompletadas en Estonia. Imagínese a un agente presentándolos por usted.
¿Pero cuando las cosas se complican? Un humano interviene.
Kirke Maar, líder de Eesti.ai, explica la lógica. Cuando el juicio importa, “un ser humano debe estar al tanto desde el principio”.
Puede invocar el derecho a ser oído en cualquier momento. El robot se detiene. Una persona se hace cargo. ¿Si cuestiona la decisión? La revisión humana es obligatoria.
Y hay una pista de auditoría.
Cada decisión automatizada deja una huella. ¿Qué datos se utilizaron? ¿Qué regla se aplicó? ¿Cuándo se decidió? ¿Cómo puedes combatirlo?
“El propósito nunca fue eliminar al ser humano”, insiste Maar. “El objetivo era hacer que los servicios fueran menos onerosos”.
Pero la carga cambia. No desaparece.
Liina Vahtras dirige la residencia electrónica. Ella ve el peligro con claridad. La IA actuando a escala es genial. Hasta que todo salga mal. Y no puedes rastrearlo hasta nadie.
“El principal riesgo es la falta de rendición de cuentas”, advierte.
Los permisos se desdibujan. El mal uso se esconde.
“La cadena de responsabilidad debe ser visible”, afirma.
Cuando un agente de IA habla con un banco, necesita saber quién es el propietario. Quien lo autorizó. Lo que puede tocar. ¿Y quién tiene la culpa?
Mical está de acuerdo. Se muestra cauteloso a la hora de dejarle el mando al silicio.
“La IA no reemplaza a la constitución”, afirma con firmeza.
Es una herramienta. Como un resaltador.
¿Si encuentra un error en la ley? Excelente. Arreglalo. El Parlamento hace eso. Los tribunales hacen eso. No el código.
El error de 28 millones de dólares fue costoso.
Pero tal vez les dio tiempo para construir algo que observe a los observadores. O simplemente mira las hojas de cálculo.
