Ini bulan Juli. Meta menjatuhkan bom. Siapa pun yang menggunakan aplikasi AI baru mereka dapat menandai akun Instagram, menghasilkan gambar yang mirip dengan pengguna tersebut. Tangkapannya? Itu diaktifkan secara default. Pengguna harus berjuang untuk tidak ikut serta.
Ide buruk.
Pembuat konten meledak. Video yang menjelaskan cara mematikannya menjadi viral. Sam Sooin Yang menyimpulkannya untuk jutaan pemirsa: mengapa memaksakan AI pada kami jika kami tidak menginginkannya? Kami tidak memintanya. Kami hanya ingin memposting foto.
Meta mundur setelah tiga hari. Tiga. Mereka mengakui fitur tersebut “meleset dari sasaran.” Sejujurnya, ini merupakan rekor umur terendah untuk peluncuran teknologi. Thorin Klosowski dari Electronic Frontier Foundation menyebut dampak buruknya sangat besar. Keadilan yang cepat bagi hak-hak digital? Mungkin. Atau mungkin hanya panik.
“Fitur ini meleset dari sasaran,” kata Meta, mengembalikannya lebih cepat daripada masa berlaku sebagian besar tren.
Saya sudah lebih lama hidup dalam kelompok opt-out. Menonaktifkan “Tanya Gemini” di Google Dokumen baru-baru ini. Itu muncul tanpa diundang. Saya menelusuri pengaturan, tekanan darah saya meningkat. Ini tidak unik. Saya melakukan ritual ini di Dropbox, LinkedIn, Facebook. Ini melelahkan.
Ben Winters menyebutnya sebagai “status quo tidak ikut serta”. Meta? Mereka adalah raja dari kekacauan ini. Mereka membangun dunia di mana privasi adalah sebuah perburuan. Ingat “Penjelajahan yang Disempurnakan” Facebook? Melacak setiap situs yang Anda kunjungi. Anda harus tahu untuk mematikannya. Kebanyakan tidak.
Meta membela ini. Juru bicara Daniel Roberts menulis email yang bagus tentang memberikan kendali kepada pengguna. Tentang penelitian. Tentang Lab TTC. Kata-kata yang bagus.
Kenyataannya berbeda. Woodrow Hartzog di Universitas Boston menunjukkan kebenaran sederhana: default menang. Orang-orang tetap berpegang pada preset. Jika presetnya adalah “ikut serta”, Anda ikut serta. Periode. Kamu terlalu lelah. Atau terlalu sibuk. Atau keduanya.
Eropa sudah mengetahui hal ini. Pasal 25 GDPR menuntut “privasi berdasarkan desain.” Kumpulkan hanya apa yang Anda butuhkan. Pilih terlebih dahulu opsi paling protektif. Kedengarannya mendasar. Ini harus menjadi hukum di mana pun.
Sebaliknya, kita telah menyebarkan undang-undang negara bagian. California mencoba. Maryland mencoba. Sisanya? Sakelar sakelar barat yang liar. Rasanya pribadi, seperti kesalahan saya karena melewatkan item menu itu. Sepertinya saya perlu memecahkan limerick untuk mengamankan data saya. seharusnya tidak.
Winters melihat ini sebagai masalah federal. Pemerintah harus turun tangan ketika perusahaan melakukan pelanggaran dalam skala besar. Upaya sebelumnya gagal. Dia tetap berharap. Kemarahan masyarakat semakin meningkat.
Pilihan desain penting. Teknologi tidaklah netral. Mengatakan “itu hanya sebuah alat” adalah sebuah alasan. Itu menyembunyikan konsekuensinya. Jika Anda merancang alat untuk deepfake dan mengikutsertakan jutaan orang, deepfake akan terjadi. Ini tidak bisa dihindari.
Kita dipaksa untuk menyetujui kenyataan yang tidak kita inginkan.
Inikah yang kita inginkan? Sebuah dunia di mana memilih untuk tidak ikut campur adalah dasarnya?
