Demam AI terbaru di Estonia pecah karena pemerintah melakukan kesalahan. Secara harfiah.
Ini dimulai pada bulan Desember. Riigikogu—Parlemen bagi yang belum tahu—mengesahkan perubahan pada Undang-Undang Pajak Perjudian. Mereka ingin menurunkan pajak perjudian jarak jauh. Cukup sederhana.
Masalahnya adalah teksnya.
Undang-undang tersebut merujuk pada “permainan keterampilan” untuk tahun tertentu. Itu melewatkan permainan untung-untungan. Ini sepenuhnya mengabaikan perjudian jarak jauh. Mengingat sektor ini bernilai sekitar €300 juta, hal tersebut bukanlah sebuah kesalahan ketik. Ini adalah pendarahan finansial. Kasino online tertinggal di luar internet. Negara kehilangan €24 juta. Sama seperti itu.
Seseorang melihatnya. Seorang pengacara untuk operator perjudian mengetahui kesalahan tersebut.
Luukas Ilves tidak. Ilves baru saja memeriksa suasananya.
Dia membayar tagihannya melalui Claude. Dia menjalankannya melalui Gemini. Keduanya segera menandai ketidakkonsistenan tersebut. Tidak ketinggalan. Tidak ada rehat kopi.
Dalam beberapa jam, Ilves membangun Apsakaleidja. Yang diterjemahkan menjadi “Pencari Kekacauan”.
Itu kasar. Ini berhasil.
Prototipe ini menghapus rancangan undang-undang dari situs parlemen. Ini menandai referensi yang rusak. Kesalahan aritmatika. Tanggal yang tidak ada. Ini menilai mereka. Risiko tinggi, sedang, atau rendah.
“Dari 112 RUU yang terdaftar, 102 dinilai berisiko tinggi.”
Dia menunjukkannya di TV. Tuan rumah tampak kaget. Negara ini tampak malu. Tapi juga penasaran.
Perdana Menteri Kristen Michal tidak melihat adanya kegagalan. Dia melihat peretasan.
“Situasi ini menunjukkan bahwa AI bisa sangat berguna,” kata Michal kepada WIRED. “Kami melihat bagaimana alat agen memberdayakan masyarakat.”
Jadi mereka berlipat ganda. Keras.
Pada bulan Januari, Michal mengusulkan penggunaan alat mirip Apsakaleidja untuk merancang undang-undang sebelum mereka meninggalkan ruangan. Untuk menangkap simpul sebelum menggigit. Dia meluncurkan Eesti.ai. Sasarannya adalah menggandakan produktivitas pada tahun 2035. Pendiri Bolt Markus Villig bergabung dengan dewan penasihat. Ilves tetap tinggal.
Pada bulan April, parlemen sedang memperdebatkan rancangan undang-undang baru. Hal ini memungkinkan badan-badan negara menggunakan AI untuk mengotomatisasi pekerjaan admin.
Pada bulan Juni, Michal melangkah lebih jauh.
Dia menyarankan Estonia mungkin memberikan identitas digital resmi kepada agen AI. Bukan orang. Kode.
“Estonia akan menjadi yang pertama di dunia,” katanya.
Kenapa disini?
Estonia sudah berjalan online. Sembilan puluh sembilan persen layanan publik bersifat digital. ID digital adalah standar. WIRED memuji pengaturan ini sepuluh tahun yang lalu. Itu membuka jalan.
“Investasi tersebut memungkinkan kita bergerak lebih cepat menuju era AI,” ujar Michal.
Namun tidak semua orang tertarik dengan kecepatannya.
Catherine Flick dari Universitas Staffordshire menunjukkan kebenaran yang membosankan. Manusia seharusnya menangkap kesalahan itu.
“Mengapa manusia tidak melakukan proses peninjauan?” dia bertanya.
Dia benar. Seseorang harus membaca semuanya. Seseorang harus memahami konteksnya. Mesin memeriksa sintaksis. Manusia memeriksa akal sehatnya.
Jadi apa yang terjadi sekarang?
Rancangan undang-undang saat ini menarik garis batas. Ini membagi keputusan menjadi dua kelompok.
- Hasil yang terikat aturan. Fakta yang dapat diverifikasi. Anda memenuhi kriteria? Anda mendapatkan uangnya.
- Keputusan diskresi. Keadaan yang rumit. Kepentingan yang bersaing.
Jika data menyatakan Anda memenuhi syarat untuk mendapatkan manfaat, Anda tidak perlu mengisi formulir. Agen mengarsipkannya. Pernyataan pajak sudah diisi sebelumnya di Estonia. Bayangkan seorang agen mengajukannya untuk Anda.
Tapi ketika semuanya menjadi berantakan? Seorang manusia masuk.
Kirke Maar, pemimpin Eesti.ai, menjelaskan logikanya. Jika penilaian penting, “manusia sudah termasuk dalam lingkaran ini sejak awal.”
Anda dapat meminta hak untuk didengarkan kapan saja. Botnya berhenti. Seseorang mengambil alih. Jika Anda membantah keputusan tersebut? Tinjauan manusia adalah wajib.
Dan ada jejak audit.
Setiap keputusan otomatis meninggalkan jejak. Data apa yang digunakan? Aturan mana yang diterapkan? Kapan diputuskan? Bagaimana cara melawannya?
“Tujuannya bukan untuk menghilangkan manusia,” tegas Maar. “Itu untuk membuat layanan tidak terlalu memberatkan.”
Namun bebannya bergeser. Itu tidak hilang.
Liina Vahtras menjalankan e-residensi. Dia melihat bahayanya dengan jelas. Akting AI dalam skala besar sangat bagus. Sampai terjadi kesalahan. Dan Anda tidak dapat melacaknya kembali ke siapa pun.
“Risiko utamanya adalah kurangnya akuntabilitas,” dia memperingatkan.
Izin kabur. Penyalahgunaan bersembunyi.
“Rantai tanggung jawab harus terlihat,” katanya.
Saat agen AI berbicara dengan bank, ia perlu mengetahui siapa pemiliknya. Siapa yang mengizinkannya. Apa yang bisa disentuhnya. Dan siapa yang disalahkan.
Mihal setuju. Dia khawatir menyerahkan roda ke silikon.
“AI tidak menggantikan konstitusi,” tegasnya.
Itu adalah sebuah alat. Seperti stabilo.
Jika menemukan kesalahan dalam hukum? Besar. Perbaiki. Parlemen melakukan hal itu. Pengadilan melakukan hal itu. Bukan kodenya.
Kesalahan sebesar $28 juta itu sangat merugikan.
Tapi mungkin itu memberi mereka waktu untuk membangun sesuatu yang memperhatikan para pengamat. Atau hanya menonton spreadsheet.
