Ringkasan Eksekutif: Pertanyaan, Jawaban Inti, dan Taruhan Global

Laporan ini bertolak dari satu pertanyaan: dalam kondisi institusional, ekonomi, dan kebudayaan seperti apa mediasi algoritmik mengikis atau justru memperkuat agensi manusia? Jawaban intinya tegas. Bahaya utama peradaban algoritmik dalam satu dasawarsa ke depan bukanlah mesin yang merebut kendali atas manusia, melainkan jurang kontestabilitas yang terus melebar. Ketergantungan pada infrastruktur komputasi, sistem pemeringkatan, dan keputusan otomatis tumbuh jauh lebih cepat daripada kemampuan warga dan lembaga untuk memahami, menggugat, dan meninggalkan sistem tersebut. Indonesia memperlihatkan jurang itu dengan amat jelas. Survei APJII 2026 mencatat 235,2 juta pengguna internet atau 81,72 persen penduduk, dan Indonesia disebut termasuk tiga besar negara dengan pengguna mingguan ChatGPT terbanyak di tengah kekurangan talenta dan fasilitas komputasi. Pada saat yang sama, dua peraturan presiden tentang kecerdasan artifisial masih menunggu tanda tangan Presiden per September 2026, sedangkan lembaga pengawas pelindungan data pribadi diperkirakan baru berjalan efektif paling cepat pada 2028. Penilaian pokok laporan ini, dengan keyakinan sedang, menyatakan bahwa Indonesia kini bergerak di lintasan ketergantungan yang nyaman: layanan digital makin efisien dan makin sukar ditinggalkan, sementara mekanisme penjelasan, keberatan, dan pemulihan tertinggal di belakangnya.

Persoalan ini penting bagi dunia, tidak hanya bagi Indonesia, karena posisi Indonesia sesungguhnya adalah posisi sebagian besar umat manusia. Pada kuartal kedua 2026, Amazon, Microsoft, dan Google bersama-sama menguasai 28, 20, dan 15 persen pasar infrastruktur awan global senilai sekitar 143 miliar dolar AS per kuartal, atau 63 persen bila dijumlahkan. Indeks AI Stanford 2026 mencatat bahwa sepanjang 2025 industri menghasilkan 93 model AI terkemuka, sedangkan akademia hanya dua, dan Amerika Serikat merilis 59 model dibandingkan 35 dari Tiongkok. Artinya, aturan main kekuasaan epistemik abad ini ditulis oleh segelintir perusahaan di dua negara, lalu dijalankan di ratusan masyarakat yang hanya berperan sebagai pengguna. Bagi negara-negara Selatan Global, pertanyaan tentang agensi manusia karena itu bukan semata urusan pilihan konsumen, melainkan urusan tata dunia: siapa yang berhak menentukan apa yang tampak, apa yang dipercaya, dan keputusan apa yang dapat digugat.

Untuk menjawab pertanyaan tersebut, laporan ini menawarkan kerangka lima sirkuit kekuasaan algoritmik, mengujinya dengan bukti internasional dan Indonesia, lalu membandingkan rezim tata kelola Uni Eropa, Tiongkok, Amerika Serikat, ASEAN, dan Indonesia. Analisis selanjutnya menghadapi argumen tandingan terkuat, menyusun empat lintasan hingga 2030 dengan cakrawala 2045 beserta probabilitas dan indikator pemantauannya, kemudian merumuskan rekomendasi bagi aktor yang dapat bertindak. Rekomendasi pokoknya dapat diringkas dalam satu kalimat: jadikan kontestabilitas, bukan sekadar prinsip etika, sebagai standar operasional tata kelola algoritmik, yaitu hak atas pemberitahuan, penjelasan, keberatan, ekspor data, dan jalur luring untuk setiap sistem otomatis yang menentukan nasib orang. Standar semacam ini murah dibandingkan rezim kepatuhan yang berat, dapat dijalankan oleh negara pengguna teknologi, dan langsung menyentuh titik di mana agensi manusia paling mudah hilang tanpa disadari.

Kerangka Analitis: Agensi yang Dapat Digugat dan Lima Sirkuit Kekuasaan

Konsep sentral laporan ini adalah agensi yang dapat digugat. Agensi tidak cukup diartikan sebagai perasaan bebas memilih ketika seseorang mengeklik tautan atau menerima rekomendasi. Agensi dalam pengertian yang menuntut mensyaratkan empat hal sekaligus: akses terhadap alasan di balik suatu keluaran, waktu dan sumber daya untuk menimbangnya, alternatif yang sungguh tersedia, serta kemampuan untuk menggugat hasil yang penting bagi hidup seseorang. Dari definisi ini lahir dua konsep turunan. Ketergantungan infrastruktural adalah keadaan ketika suatu sistem tidak lagi sekadar alat, tetapi menjadi syarat untuk ikut serta dalam kehidupan sosial, ekonomi, atau administratif. Ketergantungan semacam itu tidak otomatis buruk, sebab jalan raya, listrik, perpustakaan, dan arsip juga menciptakan ketergantungan sambil memperluas kesempatan. Ketergantungan menjadi persoalan politik ketika sifatnya yang tak terelakkan melampaui kemungkinan untuk mempersoalkannya. Selisih antara seberapa dalam sistem membentuk kehidupan dan seberapa jauh sistem itu dapat dipertanyakan, dikoreksi, atau ditinggalkan disebut di sini sebagai jurang kontestabilitas. Konsep ketiga, kemampuan keluar, mengukur portabilitas praktis: kepemilikan formal atas data tidak berarti apa-apa bila arsip tidak dapat dipindahkan tanpa biaya yang melumpuhkan.

Kerangka ini berdiri di tengah perdebatan internasional yang sudah matang. Shoshana Zuboff dalam The Age of Surveillance Capitalism (2019) membaca platform sebagai mesin yang mengekstraksi surplus perilaku untuk memprediksi dan mengarahkan tindakan manusia. Frank Pasquale dalam The Black Box Society (2015) menunjukkan bagaimana kerahasiaan algoritma di sektor informasi dan keuangan menghasilkan kekuasaan yang tak terawasi. Kate Crawford dalam Atlas of AI (2021) menurunkan perdebatan dari awan ke bumi, yaitu ke mineral, tenaga kerja, dan biaya planet yang menopang komputasi. Luciano Floridi dan rekan-rekannya dalam kerangka AI4People di jurnal Minds and Machines (2018) menyintesis lima prinsip etis, termasuk tuntutan agar sistem dapat dijelaskan dan dipertanggungjawabkan. Daron Acemoglu dan Simon Johnson dalam Power and Progress (2023) menegaskan bahwa arah teknologi bukan takdir, melainkan pilihan yang mencerminkan kepentingan kelompok berkuasa. Laporan ini mengambil posisi di antara tesis Zuboff yang cenderung totalistik dan optimisme teknologi yang mengabaikan kekuasaan: kekuasaan algoritmik nyata, tetapi bekerja melalui sirkuit tertentu yang dapat diukur, dibandingkan, dan diatur.

Lima sirkuit itu didefinisikan sebagai berikut. Sirkuit infrastruktural menyediakan komputasi, konektivitas, penyimpanan, dan energi, sehingga menentukan siapa yang dapat mengakses kapabilitas dan dengan syarat apa. Sirkuit epistemik mengatur keterlihatan dan penilaian pengetahuan melalui tiga operasi, yakni seleksi atas sumber yang muncul, pembingkaian atas cara sumber diurutkan dan diberi label, serta pengesahan atas klaim yang tampak sudah mapan. Sirkuit perilaku membentuk interaksi berulang dan pola perhatian melalui notifikasi, umpan, metrik, dan gesekan antarmuka. Sirkuit institusional menerjemahkan keluaran teknis menjadi keputusan, aturan, dan sanksi yang mengikat orang. Sirkuit eksistensial menyangkut pemahaman manusia tentang identitas, otonomi, hubungan, dan makna hidupnya. Setiap sirkuit memiliki pertanyaan diagnostik dan dapat diberi skor nol sampai tiga: nol untuk kesenjangan serius, satu untuk praktik informal atau parsial, dua untuk praktik terdokumentasi yang berfungsi, dan tiga untuk praktik terdokumentasi yang diuji secara independen dan diperbaiki. Skor sengaja tidak dijumlahkan menjadi satu angka, sebab kekuatan pada satu sirkuit tidak dapat menebus kegagalan pada sirkuit lain. Sistem penasihatan akademik berbasis AI di universitas, misalnya, dapat unggul di sirkuit infrastruktural karena datanya mudah diekspor, tetapi gagal di sirkuit institusional bila mahasiswa tidak tahu ke mana harus mengajukan keberatan atas klasifikasi yang menentukan masa studinya.

Metode, Basis Bukti, dan Bahasa Keyakinan

Laporan ini merupakan sintesis konseptual yang dipadukan dengan analisis kebijakan komparatif, bukan survei lapangan dan bukan tinjauan sistematis. Basis buktinya terdiri atas tiga lapis. Lapis pertama adalah korpus purposif delapan esai yang terbit di KBA13 Insight antara Agustus 2025 dan Juli 2026, antara lain eksperimen pikiran Dunia Tanpa Google, Facebook, Instagram, dan Twitter (2025), analisis The Age of Compute Power (2026), dan skenario Epistemology 2045 (2026). Korpus ini diperlakukan sebagai sumber hipotesis dan intuisi konseptual, bukan sebagai bukti empiris, karena esai-esai tersebut merupakan intervensi argumentatif yang mencampur deskripsi, penilaian normatif, dan spekulasi. Lapis kedua adalah literatur ilmiah dan data lembaga internasional, mulai dari eksperimen lapangan di jurnal Science dan PNAS, studi kognisi, data pasar awan, Indeks AI Stanford, hingga Digital News Report Reuters Institute. Lapis ketiga adalah dokumen tata kelola: Rekomendasi UNESCO tentang Etika Kecerdasan Artifisial yang diadopsi pada 23 November 2021, Kerangka Manajemen Risiko AI NIST yang dirilis 26 Januari 2023 beserta Profil AI Generatif pada 26 Juli 2024, Prinsip AI OECD sebagai standar antarpemerintah pertama tentang AI, serta regulasi Uni Eropa, Tiongkok, Amerika Serikat, ASEAN, dan Indonesia.

Prosedur analisisnya berlangsung dalam empat tahap. Klaim dan mekanisme dari korpus diidentifikasi, dipilah ke dalam lima sirkuit, diuji silang terhadap bukti internasional untuk melihat mana yang didukung, mana yang diperdebatkan, dan mana yang melompat terlalu jauh, lalu dibandingkan dengan pilihan regulasi di berbagai yurisdiksi. Fakta diverifikasi hingga Oktober 2026. Untuk penilaian kunci, laporan ini memakai tiga tingkat bahasa keyakinan. Keyakinan tinggi berarti didukung beberapa sumber independen yang konsisten. Keyakinan sedang berarti didukung sumber kredibel tetapi parsial, tunggal, atau berasal dari konteks lain. Keyakinan rendah berarti inferensi yang masuk akal tetapi belum diuji. Perbedaan antara praktik yang teramati hari ini dan eksperimen pikiran tentang 2045 dijaga secara konsisten. Skenario 2045 tidak dibaca sebagai ramalan, melainkan sebagai alat untuk bertanya apakah lembaga hari ini sudah memiliki prosedur yang mencegah masa depan yang tidak diinginkan.

Disiplin metodologis ini sekaligus menolak dua godaan yang sering mewarnai perdebatan publik. Godaan pertama adalah membayangkan kecerdasan artifisial sebagai satu agen terkoordinasi yang berkehendak menguasai manusia, padahal yang dihadapi adalah ekosistem perusahaan, negara, pengembang, dan pengguna dengan kepentingan yang berlainan. Godaan kedua adalah menganggap teknologi netral secara sosial karena pengguna tetap menekan tombol terakhir, padahal pilihan yang tersedia untuk ditekan sudah disusun sebelumnya. Kerangka lima sirkuit dirancang untuk menghindari kedua kesalahan itu dengan menunjuk tempat spesifik di mana kekuasaan bekerja dan di mana ia dapat dikoreksi. Model ini merupakan usulan analitis laporan ini dan belum divalidasi melalui uji antarpenilai atau penerapan lapangan, sebuah keterbatasan yang dibahas kembali pada bagian penutup.

Sirkuit Infrastruktural: Konsentrasi Komputasi dan Geografi Ketergantungan

Kehidupan digital yang tampak ringan bertumpu pada fondasi material yang berat: listrik, semikonduktor, pusat data, kabel bawah laut, pendingin, lahan, tenaga kerja, dan modal. Crawford menyebut sisi ini sebagai biaya planet kecerdasan artifisial, dan data terbaru menunjukkan bahwa fondasi tersebut makin terkonsentrasi. Synergy Research Group mencatat bahwa pada kuartal kedua 2026 pendapatan layanan infrastruktur awan mencapai sekitar 143 miliar dolar AS, tumbuh 43 persen dibanding tahun sebelumnya, laju tertinggi dalam delapan tahun, dengan tiga penyedia terbesar menguasai hampir dua pertiga pasar. Indeks AI Stanford 2026 menambahkan bahwa sejak 2003 hingga 2025 industri menyumbang 91,18 persen model AI terkemuka, kapasitas komputasi AI global tumbuh sekitar 3,3 kali per tahun sejak 2022 hingga kira-kira 17,1 juta setara H100 pada 2025, dan biaya komputasi GPU turun lebih dari 99 persen sejak 2006. Kombinasi harga per unit yang turun dan konsentrasi kepemilikan yang naik adalah ciri khas infrastruktur strategis. Analisis The Age of Compute Power (2026) membaca kapasitas komputasi sebagai dimensi baru kekuatan negara, dan bukti di atas mendukung pembacaan itu dengan keyakinan tinggi untuk aspek konsentrasinya, serta keyakinan sedang untuk klaim bahwa konsentrasi tersebut otomatis menjadi daya tawar geopolitik.

Kekuasaan infrastruktural bekerja melalui tiga saluran yang tidak memerlukan niat jahat. Saluran pertama adalah akses yang dijatah melalui harga, kuota, atau syarat teknis. Saluran kedua adalah interoperabilitas yang menyempit melalui format proprietary, integrasi tertutup, dan klausul kontrak. Saluran ketiga adalah kesinambungan yang terancam melalui gangguan layanan, sanksi, kegagalan teknis, atau perubahan kebijakan sepihak. Sekolah yang catatan akademiknya sukar diekspor, pusat riset yang metadatanya terkunci pada basis data satu vendor, atau penerbit kecil yang kehilangan pembaca begitu algoritma mesin pencari berubah, semuanya mengalami kekuasaan infrastruktural tanpa pernah berhadapan dengan aktor yang berniat menguasai mereka. Eksperimen pikiran tentang dunia tanpa platform besar, sebagaimana diajukan esai Dunia Tanpa Google, Facebook, Instagram, dan Twitter (2025), paling berguna bila dibaca sebagai uji tekanan kelembagaan: apa yang tersisa dari layanan publik, arsip, dan komunikasi darurat bila satu penyedia berhenti beroperasi selama sepekan? Esai Planetary Civilization (2026) merumuskan paradoks yang sama dari arah sebaliknya: konektivitas planet memperluas kesempatan sekaligus menyebarkan kerapuhan, sehingga setiap kenaikan ketergantungan perlu diimbangi kenaikan kemampuan bertahan ketika jaringan terputus.

Posisi Indonesia dalam sirkuit ini dapat diringkas sebagai asimetri konsumsi dan produksi. Pertumbuhan pengguna internet mulai melambat, dengan tambahan 5,8 juta pengguna pada 2026 dibandingkan 7,86 juta pada tahun sebelumnya, tanda bahwa adopsi sudah mendekati titik jenuh. Laporan The Jakarta Post melalui Asia News Network pada Juli 2025 menempatkan Indonesia sebagai pasar pengguna AI generatif yang sangat aktif, tetapi juga mencatat kekurangan talenta digital dan keterbatasan akses fasilitas komputasi, bahkan di lembaga pendidikan. Wacana pemerintah tentang ekosistem AI berdaulat dari hulu ke hilir, sebagaimana dicatat Ary Hermawan di East Asia Forum pada September 2026, karena itu berhadapan dengan kenyataan struktural yang tidak akan berubah dalam lima tahun. Implikasinya, strategi yang realistis bukanlah swasembada komputasi, melainkan kemampuan keluar: peta layanan yang mencatat sistem esensial, kepemilikan data, format ekspor, prosedur luring, dan konsekuensi kegagalan vendor. Sisi positifnya juga nyata. Komputasi bersama menurunkan biaya masuk, layanan awan memungkinkan tim kecil memakai kapabilitas yang dahulu hanya dimiliki lembaga besar, dan perangkat terjemahan membuka akses lintas bahasa. Ketergantungan yang disertai portabilitas adalah kesempatan, sedangkan ketergantungan tanpa portabilitas adalah kerentanan.

Sirkuit Epistemik: Seleksi, Pembingkaian, dan Pengesahan

Informasi berbeda dari pengetahuan. Pengetahuan menuntut hubungan yang dapat dipertahankan antara klaim, metode, bukti, dan pertimbangan. Kekuasaan epistemik dalam lingkungan algoritmik bekerja melalui tiga operasi yang telah didefinisikan sebelumnya, yaitu seleksi, pembingkaian, dan pengesahan. Mesin pencari klasik terutama menjalankan dua operasi pertama: memilih sumber yang muncul dan mengurutkannya. Jawaban AI generatif melangkah lebih jauh karena menjalankan ketiganya sekaligus. Antarmuka tidak lagi menunjuk ke sumber, melainkan menyajikan sintesis yang fasih, sehingga fungsi pengesahan, yakni penentuan klaim mana yang tampak sudah mapan, berpindah dari editor, guru, dan ulama ke antarmuka mesin. Inilah wujud kontemporer dari masyarakat kotak hitam yang dibayangkan Pasquale: otoritas bekerja melalui keluaran yang meyakinkan, sementara jalur dari bukti menuju kesimpulan tidak terlihat oleh pengguna.

Data internasional terbaru memperlihatkan arah pergeseran itu. Digital News Report 2026 dari Reuters Institute, yang mencakup hampir 100.000 wawancara di 48 pasar, mencatat bahwa untuk pertama kalinya media sosial dan jaringan video menjadi sumber berita yang paling luas digunakan secara global, dengan 54 persen khalayak. Penggunaan chatbot AI untuk berita dalam sepekan naik dari 7 menjadi 10 persen, dan hanya 42 persen pengguna chatbot yang sering atau selalu mengeklik sumber aslinya. Kepercayaan terhadap berita secara umum berada di 37 persen, sedangkan kepercayaan terhadap jawaban AI hanya 20 persen. Kombinasi ini penting: orang makin sering menerima sintesis tanpa memeriksa sumbernya, meskipun mereka sendiri tidak terlalu memercayai sintesis tersebut. Pengesahan berpindah ke antarmuka bukan karena antarmuka dipercaya, melainkan karena memeriksa terasa mahal. Arah pergeseran ini dinilai dengan keyakinan tinggi. Besarannya di Indonesia dinilai dengan keyakinan sedang, karena sumber yang tersedia untuk laporan ini tidak memuat angka khusus Indonesia.

Di dunia pendidikan tinggi Indonesia, pergeseran tersebut sudah teramati secara langsung. Survei Pusat Riset Pendidikan BRIN terhadap 293 mahasiswa dari 17 perguruan tinggi keagamaan Islam negeri, sebagaimana dilaporkan detikEdu pada 12 Desember 2025, menemukan bahwa lebih dari 90 persen responden memakai ChatGPT secara intens, sekitar empat sampai enam kali sepekan, dan kesadaran akan risikonya tidak menurunkan intensitas pemakaian. Kajian AI Generatif dan Otoritas Ilmu di PTKI (2026) menamai gejala ini sebagai pergeseran dari otoritas sanad ke otoritas kefasihan, yaitu kecenderungan menerima jawaban karena terdengar meyakinkan, bukan karena jalur pembuktiannya dapat ditelusuri. Pertanyaan yang diajukan skenario Epistemology 2045 (2026) tentang mesin yang menentukan kebenaran menjadi pertanyaan operasional hari ini: dapatkah dosen menunjukkan asal suatu jawaban AI, dapatkah pembaca mencapai sumber primer, dapatkah editor merekonstruksi dasar suatu klaim faktual? Laporan ini mengusulkan aturan asal-usul bukti: setiap klaim yang berdampak harus dapat dilacak ke sumber yang dapat diperiksa secara independen. Aturan yang sama berlaku untuk penerbitan dwibahasa, karena terjemahan otomatis tidak menjamin setiap kualifikasi dan nuansa ikut berpindah. Ketahanan epistemik dengan demikian bukan soal menolak mesin, melainkan menjaga rantai bukti yang transparan, keahlian yang plural, kebiasaan memberi alasan, dan mekanisme koreksi.

Pengesahan berpindah ke antarmuka bukan karena antarmuka dipercaya, melainkan karena memeriksa terasa terlalu mahal.

Sirkuit Perilaku dan Eksistensial: Perhatian, Kognisi, dan Kehidupan Reflektif

Desain membentuk perilaku. Notifikasi, umpan tanpa ujung, metrik sosial, dan gesekan antarmuka menentukan apa yang mudah dan apa yang sulit dilakukan. Toko, ruang kelas, dan surat kabar juga membentuk perilaku, tetapi mediasi digital berbeda dalam skala, kecepatan, personalisasi, dan umpan balik berkelanjutan. Tesis Zuboff tentang modifikasi perilaku menyatakan bahwa perbedaan ini telah melahirkan bentuk kekuasaan baru. Bukti empirisnya lebih bernuansa. Studi Huszár dan rekan di PNAS memanfaatkan kelompok kontrol acak yang sejak 2016 tetap melihat linimasa kronologis Twitter, dan menemukan bahwa di enam dari tujuh negara yang diteliti, politik arus utama kanan memperoleh amplifikasi algoritmik lebih tinggi daripada arus utama kiri. Algoritma, dengan kata lain, tidak netral terhadap apa yang terlihat. Namun eksperimen lapangan Guess dan rekan di Science pada pemilu Amerika Serikat 2020 menemukan bahwa memindahkan pengguna Facebook dan Instagram ke umpan kronologis mengurangi waktu dan aktivitas di platform serta menaikkan paparan konten tak tepercaya, tetapi tidak mengubah secara signifikan polarisasi maupun pengetahuan politik dalam tiga bulan. Pelajarannya jelas: algoritma terbukti membentuk paparan dan perhatian, dengan keyakinan tinggi, tetapi dampak langsungnya terhadap sikap politik lebih kecil dan lebih lambat daripada yang sering dibayangkan, dengan keyakinan rendah untuk klaim dampak sikap yang besar.

Wilayah yang lebih baru adalah kognisi. Studi Michael Gerlich di jurnal Societies terhadap 666 responden di Inggris menemukan bahwa penggunaan perangkat AI yang sering berkorelasi dengan kemampuan berpikir kritis yang lebih rendah, dimediasi oleh pelimpahan kognitif, dengan ketergantungan tertinggi pada kelompok usia 17 sampai 25 tahun, meskipun desainnya korelasional dan berbasis laporan diri. Eksperimen Kosmyna dan rekan, Your Brain on ChatGPT (2025), yang mengukur EEG 54 peserta, melaporkan konektivitas otak terlemah, kesulitan mengutip esai sendiri, dan rasa kepemilikan terendah pada kelompok pengguna model bahasa, tetapi sampelnya kecil dan masih berupa pracetak. Kedua studi memberi sinyal yang masuk akal tentang utang kognitif, yakni penghematan usaha hari ini yang dibayar dengan berkurangnya kapasitas di kemudian hari, namun belum cukup untuk kesimpulan kausal. Keyakinan atas klaim ini sedang sampai rendah. Respons kelembagaan yang proporsional karena itu bukan larangan, melainkan jeda yang disengaja dalam alur kerja berisiko: pemeriksaan sumber sebelum publikasi, penelaah manusia bernama sebelum klasifikasi AI memengaruhi seseorang, dan tugas akademik yang menilai proses, bukan hanya produk. Perlu juga dicatat bahwa waktu layar tidak identik dengan ketergantungan, sehingga pengukurannya memerlukan wawancara, observasi alur kerja, dan analisis platform.

Sirkuit eksistensial menyangkut lapisan terdalam: kemampuan merenung, menafsir, dan memberi perhatian moral, atau yang dapat disebut interioritas. Esai Cultural Engineering in the Planetary Age (2026) mengkhawatirkan bahwa rutinitas yang dioptimalkan dari luar dapat menggantikan pembentukan makna yang reflektif. Kekhawatiran ini paling kuat bila diterjemahkan menjadi ketimpangan kecepatan dan kedalaman: sistem rekomendasi cenderung mengangkat pernyataan dramatis, sementara kajian filologis dan pengajaran dialogis kurang terlihat. Masyarakat Indonesia ternyata memiliki sumber daya kelembagaan untuk menghadapinya. Pada November 2025, pimpinan Majelis Ulama Indonesia menegaskan bahwa kecerdasan artifisial hanya pendamping dan tidak dapat menggantikan peran ulama serta sanad keilmuan, sekaligus menyiapkan pedoman pemanfaatan AI untuk rujukan keagamaan. Tradisi sanad, yakni rantai transmisi ilmu yang dapat ditelusuri dari guru ke guru, pada dasarnya adalah norma asal-usul bukti yang telah berusia berabad-abad. Bagi perdebatan global, hal ini menunjukkan bahwa lembaga epistemik non-Barat dapat menyumbang model tata kelola, bukan sekadar menjadi objek regulasi. Skenario Digital Consciousness 2045 (2026) tentang apakah manusia masih mengenali dirinya karena itu lebih tepat dibaca sebagai pertanyaan filosofis yang menuntut jawaban kelembagaan hari ini. Perlindungan kehidupan reflektif adalah persoalan desain dan institusi, bukan sekadar nasihat pengendalian diri bagi individu.

Sirkuit Institusional: Ketika Keluaran Mesin Menjadi Keputusan

Bukti paling kuat tentang bahaya kekuasaan algoritmik tidak berasal dari model bahasa yang canggih, melainkan dari otomatisasi sederhana dalam administrasi negara. Skema Robodebt di Australia, yang diperkenalkan dalam anggaran federal 2015 sampai 2016, mencocokkan data pendapatan tahunan kantor pajak dengan pembayaran kesejahteraan dua mingguan dengan cara merata-ratakan pendapatan. Pada Desember 2016, skema ini mengirim lebih dari 20.000 surat tagihan per pekan, menghasilkan penyelesaian gugatan kelompok lebih dari 720 juta dolar Australia atas sekitar 430.000 utang, dan Komisi Kerajaan pimpinan Catherine Holmes pada Juli 2023 menyatakannya tidak sesuai dengan undang-undang serta mengajukan 57 rekomendasi. Di Belanda, otoritas pajak sejak 2013 memakai algoritma penilaian risiko untuk tunjangan pengasuhan anak yang menjadikan kewarganegaraan sebagai faktor risiko. Menurut laporan Amnesty International, Xenophobic Machines, Oktober 2021, puluhan ribu orang tua, kebanyakan dari keluarga berpenghasilan rendah, dituduh curang secara keliru, dan skandal ini menjatuhkan pemerintahan Belanda pada Januari 2021.

Kedua kasus mengandung pola yang sama dan relevan secara universal. Kerugian tidak timbul dari kecerdasan mesin, melainkan dari tiga cacat kelembagaan: beban pembuktian dibalik kepada warga, tidak ada penelaah manusia yang bertanggung jawab secara jelas, dan jalur keberatan terlalu mahal untuk ditempuh oleh mereka yang paling terdampak. Inilah wujud paling konkret dari jurang kontestabilitas, dan penilaian ini dipegang dengan keyakinan tinggi karena didukung temuan komisi resmi dan investigasi independen. Kedua negara itu memiliki pengadilan, ombudsman, dan pers yang kuat, namun kerusakan tetap berlangsung bertahun-tahun sebelum terkoreksi. Negara dengan mekanisme pengawasan yang lebih lemah menghadapi risiko yang lebih besar ketika mulai mengotomatisasi penyaluran bantuan sosial, penilaian kredit, atau moderasi konten.

Indonesia sedang memasuki wilayah ini. Ary Hermawan di East Asia Forum mencatat bahwa data biometrik telah dikumpulkan melalui sistem identitas elektronik sejak 2011, bahwa kontrak sistem identifikasi biometrik dan pengawasan senilai 4,9 dan 5,4 juta dolar AS dimenangkan pada 2022, dan bahwa rancangan pedoman etika AI Komdigi mengecualikan ketentuan pemantauan dan evaluasi untuk pertahanan dan keamanan nasional. Ia juga menegaskan tidak ada bukti bahwa perangkat pengawasan tersebut telah diarahkan kepada masyarakat sipil. Setelah rangkaian unjuk rasa Agustus 2026, Komdigi melaporkan penurunan 486 konten media sosial pada 27 Agustus 2026, dan Komnas HAM per 13 Oktober 2026 masih menelaah apakah penurunan itu memiliki dasar hukum yang memadai dan apakah melanggar kebebasan berekspresi. Fakta-fakta ini bukan bukti penyalahgunaan algoritmik, tetapi memperlihatkan titik pertemuan antara klasifikasi otomatis, moderasi konten, dan kekuasaan negara dengan jalur gugatan yang masih terbatas. Dilema yang diangkat esai The Power of the Disinformation Ecosystem in the Planetary Era (2026) menemukan bentuk nyatanya di sini: bagaimana melawan penipuan terorganisasi dan media sintetis, yang juga memudahkan bukti autentik dituduh palsu, tanpa memusatkan kuasa untuk menentukan keyakinan mana yang boleh beredar. Jawabannya terletak pada prosedur, yaitu protokol integritas informasi yang mencatat sumber asli, tanggal, status verifikasi, koreksi, dan peran alat otomatis, serta dapat diaudit oleh pihak independen. Infrastruktur gugatan Indonesia sendiri masih tertinggal. Peraturan pelaksana UU PDP telah terbit sebagai PP Nomor 33 Tahun 2026, rancangan perpres pembentukan badan PDP diajukan untuk penetapan Presiden melalui surat KemenPAN-RB tertanggal 20 Mei 2026, dan pengawasan sementara masih dipegang Komdigi, yaitu kementerian yang sekaligus menjadi pelaku moderasi konten. Keyakinan atas penilaian bahwa infrastruktur kontestasi tertinggal dari laju otomatisasi berada pada tingkat sedang.

Empat Logika Tata Kelola: Uni Eropa, Tiongkok, Amerika Serikat, dan ASEAN

Uni Eropa menempuh logika hak dan risiko. Undang-Undang AI Uni Eropa mengklasifikasikan sistem menurut tingkat risiko dan semula menjadwalkan sebagian besar kewajiban, termasuk inti aturan sistem berisiko tinggi, berlaku pada 2 Agustus 2026. Namun pada 7 Mei 2026 para legislator mencapai kesepakatan provisional paket Digital Omnibus yang menunda kewajiban sistem berisiko tinggi mandiri ke 2 Desember 2027 dan sistem dalam produk teregulasi ke 2 Agustus 2028, menambahkan larangan baru atas sistem yang menghasilkan materi eksploitasi seksual anak dan konten intim nonkonsensual, serta mewajibkan penandaan konten sintetis bagi sistem yang telah beredar mulai 2 Desember 2026. Parlemen Eropa mengadopsi kesepakatan itu pada 16 Juni 2026, sementara persetujuan formal Dewan masih diperlukan menurut sumber yang sama, dan laporan lain menegaskan bahwa kesepakatan tersebut masih harus diadopsi secara formal sebelum berlaku. Pelajarannya bagi dunia: bahkan rezim paling ambisius pun mengkalibrasi ulang ketika biaya kepatuhan bertemu tekanan daya saing, tetapi inti hak untuk mengetahui dan menggugat tetap dipertahankan.

Tiongkok menempuh logika kendali konten berlapis. Ketentuan rekomendasi algoritmik berlaku sejak 1 Maret 2022, ketentuan sintesis mendalam sejak 10 Januari 2023, langkah sementara untuk layanan AI generatif sejak 15 Agustus 2023, dan langkah layanan interaksi menyerupai manusia sejak 15 Juli 2026, sebagaimana dirangkum dalam pelacak regulasi Morrison Foerster. Langkah penandaan konten sintetis yang diterbitkan bersama oleh Cyberspace Administration of China, Kementerian Industri dan Teknologi Informasi, Kementerian Keamanan Publik, dan otoritas radio dan televisi nasional mulai berlaku 1 September 2025, mewajibkan label eksplisit yang terlihat dan label implisit dalam metadata. Secara teknis, Tiongkok adalah pelopor dalam asal-usul konten. Secara politis, rezim ini memperkuat kendali negara atas sirkuit pengesahan: agensi warga dilindungi dari platform, tetapi tidak dari negara. Amerika Serikat menempuh logika pasar dan prioritas federal. Perintah Eksekutif 14365 yang ditandatangani 11 Desember 2025 membentuk satuan tugas litigasi AI untuk menggugat undang-undang AI negara bagian yang dianggap bertentangan, mengaitkan sebagian dana program BEAD dengan sikap negara bagian, dan meminta usulan kerangka federal seragam yang mendahului hukum negara bagian, dengan pengecualian antara lain untuk perlindungan anak. Kerangka NIST tetap bersifat sukarela. Logika ini memaksimalkan inovasi tetapi menyerahkan kontestabilitas kepada pengadilan dan pasar.

ASEAN menempuh logika konvergensi sukarela. Panduan Tata Kelola dan Etika AI ASEAN diluncurkan pada Pertemuan Menteri Digital ASEAN keempat di Singapura pada 2 Februari 2024 dan diperluas untuk AI generatif pada 17 Januari 2025, dengan kelompok kerja tata kelola AI yang dibentuk Maret 2024. Panduan yang diperluas itu berlaku secara sukarela dan memuat sembilan dimensi, termasuk akuntabilitas, pelaporan insiden, pengujian, dan asal-usul konten. Indonesia sendiri memilih instrumen peraturan presiden: satu tentang peta jalan AI 2026 sampai 2029 dan satu tentang etika AI yang akan mengklasifikasikan penggunaan yang dilarang, yang memerlukan pengawasan ketat, dan yang berisiko rendah. Wakil Menteri Komunikasi dan Digital Nezar Patria menjelaskan pada 10 September 2026 bahwa pemerintah memilih perpres karena lebih cepat daripada undang-undang dan tidak memprioritaskan undang-undang AI khusus untuk saat ini, sementara rancangan etikanya menurut Komdigi mencakup seluruh siklus hidup AI, dari pengembang dan operator hingga kementerian dan lembaga. Indonesia juga tercatat sebagai salah satu dari 29 negara pendiri World Artificial Intelligence Cooperation Organization di Shanghai.

Perbandingan ini membuka ruang bagi jalan tengah yang berorientasi kontestabilitas. Indonesia dapat meminjam hak atas penjelasan dan keberatan dari Uni Eropa tanpa menyalin seluruh beban kepatuhannya, mengadopsi teknik penandaan eksplisit dan implisit dari Tiongkok tanpa monopoli negara atas pengesahan, memakai pendekatan manajemen risiko sukarela ala NIST sebagai alat bantu bagi lembaga, dan menggunakan forum ASEAN untuk menyebarkan standar yang sama ke seluruh kawasan. Penilaian bahwa jalan tengah semacam ini layak secara politik dan teknis dipegang dengan keyakinan sedang, karena bergantung pada isi akhir perpres etika yang belum diterbitkan dan pada kesediaan negara untuk tunduk pada aturan yang sama dengan platform.

Argumen Tandingan Terkuat dan Jawabannya

Argumen tandingan terkuat terhadap laporan ini layak disusun dalam bentuk terbaiknya. Pertama, ketergantungan adalah harga peradaban. Manusia bergantung pada listrik, perbankan, dan jaringan telepon tanpa kehilangan agensinya, dan miliaran orang secara sukarela memilih layanan digital karena layanan itu memang lebih baik. Preferensi yang terungkap dalam perilaku adalah bukti persetujuan. Kedua, bukti dampak buruk lebih lemah daripada retorikanya. Eksperimen Guess dan rekan tidak menemukan perubahan signifikan pada polarisasi ketika algoritma dimatikan, studi kognisi yang paling sering dikutip masih korelasional atau berbasis sampel kecil, dan kepanikan terhadap teknologi baru, dari novel hingga televisi, memiliki sejarah panjang salah ramal. Ketiga, bagi negara pengguna teknologi, regulasi tambahan hanya akan mengusir investasi dan mengukuhkan perusahaan besar yang mampu membayar biaya kepatuhan, sebagaimana tersirat dari penundaan Undang-Undang AI Uni Eropa sendiri. Keempat, dan paling tajam dalam konteks Indonesia, wacana tentang bahaya kekuasaan algoritmik dapat dibajak negara untuk membenarkan kontrol atas ruang digital, sehingga obatnya lebih berbahaya daripada penyakitnya.

Laporan ini menerima sebagian argumen tersebut dan menolak sebagian lainnya. Terhadap argumen pertama, preferensi yang terungkap hanya bermakna bila alternatif dan kemampuan keluar tersedia. Ketika tiga penyedia menguasai 63 persen infrastruktur awan dunia dan lembaga publik tidak dapat memindahkan arsipnya tanpa biaya besar, pilihan yang terungkap lebih menyerupai kepatuhan terhadap struktur. Acemoglu dan Johnson menunjukkan bahwa arah teknologi selalu merupakan pilihan sosial, sehingga argumen ini justru memperkuat pentingnya portabilitas. Terhadap argumen kedua, laporan ini sengaja tidak menyandarkan kesimpulannya pada dampak sikap atau kerusakan kognitif, yang memang dinilai dengan keyakinan rendah sampai sedang. Kesimpulan intinya bersandar pada kasus kelembagaan yang terdokumentasi oleh komisi resmi, seperti Robodebt dan skandal tunjangan Belanda, serta pada dampak paparan yang terukur. Terhadap argumen ketiga, standar kontestabilitas berbiaya rendah dibandingkan rezim kepatuhan penuh: format ekspor terbuka, pemberitahuan, penjelasan, dan saluran keberatan justru menurunkan biaya berpindah sehingga membuka ruang bagi pesaing dan perusahaan lokal.

Argumen keempat diterima sepenuhnya, dan karena itulah rekomendasi laporan ini menyasar negara sama kerasnya dengan platform. Kasus penurunan 486 konten yang sedang ditelaah Komnas HAM menunjukkan bahwa negara sendiri dapat menjadi pelaku dalam sirkuit pengesahan. Oleh sebab itu, jawaban yang tepat bukanlah memperbesar wewenang negara atas konten, melainkan memperluas kontestabilitas terhadap siapa pun yang mengoperasikan sistem otomatis, termasuk lembaga pemerintah. Badan pelindungan data yang independen, kewajiban pemberitahuan yang berlaku bagi kementerian, dan peninjauan yudisial atas penurunan konten adalah pengaman terhadap pembajakan wacana tersebut. Satu pengakuan tetap harus dicatat: argumen tandingan benar bahwa basis bukti tentang dampak kognitif AI generatif masih tipis, dan laporan ini tidak mengklaim lebih dari yang dapat ditopang bukti.

Empat Lintasan hingga 2030 dengan Cakrawala 2045

Empat lintasan berikut adalah perangkat heuristik untuk menilai pola yang paling mungkin mendominasi sektor publik dan pendidikan tinggi Indonesia hingga 2030. Probabilitasnya merupakan penilaian penulis yang didasarkan pada bukti dalam laporan ini, bukan hasil model statistik, dan sektor yang berbeda dapat menempuh lintasan yang berbeda dalam masyarakat yang sama. Lintasan pertama, penguatan kapasitas kewargaan, dengan probabilitas 20 persen, menggambarkan keadaan ketika AI mengurangi beban rutin sambil tetap dapat digugat melalui transparansi, penelaahan manusia, pemulihan efektif, dan data yang portabel. Lintasan kedua, ketergantungan yang nyaman, dengan probabilitas 45 persen, menggambarkan layanan yang begitu efisien sehingga keluar tampak tidak perlu sampai terjadi gangguan besar. Lintasan ketiga, manajerialisme tidak transparan, dengan probabilitas 22 persen, menggambarkan penilaian otomatis yang memperoleh otoritas tanpa kewajiban menjelaskan, mengoreksi, atau membuka keberatan, sebuah kegagalan tata kelola, bukan bukti niat mesin. Lintasan keempat, fragmentasi kompetitif, dengan probabilitas 13 persen, menggambarkan negara dan platform yang membangun tumpukan teknologi yang tidak kompatibel, yang menaikkan biaya dan membatasi kolaborasi ilmiah meskipun memberi ketahanan lokal tertentu.

Setiap lintasan memiliki indikator yang dapat dipantau. Indikator ke arah penguatan kapasitas kewargaan meliputi terbitnya perpres etika AI yang memuat hak pemberitahuan dan keberatan yang operasional, terbentuknya badan pelindungan data yang independen sebelum 2028, dan publikasi register penggunaan AI oleh kementerian serta universitas. Indikator ketergantungan yang nyaman meliputi alur kerja kritis yang bergantung pada satu penyedia, ekspor data yang buruk, hilangnya prosedur luring, dan menurunnya kemampuan verifikasi mandiri yang dapat dilacak melalui survei berkala seperti survei BRIN. Indikator manajerialisme tidak transparan meliputi otomatisasi penyaluran bantuan sosial atau moderasi konten tanpa pemberitahuan kepada pihak terdampak, temuan Komnas HAM tentang penurunan konten yang tidak ditindaklanjuti, dan pengecualian sektor keamanan dari kewajiban evaluasi dalam perpres final. Indikator fragmentasi kompetitif meliputi eskalasi lokalisasi data, perpecahan standar antara tumpukan Amerika Serikat dan Tiongkok di kawasan, serta macetnya implementasi panduan ASEAN. Di tingkat global, adopsi formal paket Digital Omnibus Uni Eropa dan pelaksanaan penandaan konten sintetis mulai 2 Desember 2026 akan menjadi penanda apakah standar asal-usul konten menyebar ke kawasan lain.

Cakrawala 2045 dibaca melalui logika ketergantungan jalur. Skenario-skenario jangka panjang tentang mesin yang menentukan kebenaran atau kesadaran digital tidak memiliki probabilitas yang bermakna bila berdiri sendiri, tetapi kemungkinannya ditentukan oleh lintasan yang terkunci pada akhir dekade ini. Kebiasaan kelembagaan, standar data, dan kontrak pengadaan yang ditetapkan antara 2026 dan 2030 akan bertahan puluhan tahun, sebagaimana tata ruang kota bertahan lebih lama daripada generasi yang merancangnya. Probabilitas tertinggi pada ketergantungan yang nyaman mencerminkan penilaian bahwa kekuatan pasar dan kenyamanan pengguna saat ini bergerak lebih cepat daripada pembentukan lembaga pengawas. Probabilitas yang cukup besar pada manajerialisme tidak transparan mencerminkan kombinasi antara pengecualian sektor keamanan, kelembagaan PDP yang belum terbentuk, dan preseden penurunan konten yang belum diuji secara hukum. Pergeseran ke arah penguatan kapasitas kewargaan tetap terbuka, tetapi memerlukan keputusan eksplisit dalam dua belas hingga delapan belas bulan ke depan.

Rekomendasi: Siapa Melakukan Apa, dan Kapan

Bagi pemerintah Indonesia, langkah paling menentukan adalah memasukkan klausul kontestabilitas operasional ke dalam perpres etika AI sebelum ditandatangani, dengan target penerbitan paling lambat kuartal pertama 2027. Klausul itu sebaiknya mewajibkan setiap lembaga publik yang memakai sistem otomatis untuk keputusan yang berdampak pada hak atau layanan warga agar memberi pemberitahuan, penjelasan dalam bahasa Indonesia yang mudah dipahami, penelaahan oleh manusia bernama, dan saluran keberatan dengan tenggat jawaban yang pasti. Pengecualian bagi sektor pertahanan dan keamanan seharusnya diganti dengan mekanisme pengawasan tertutup oleh DPR dan badan independen, bukan pembebasan total dari evaluasi. Kementerian Komunikasi dan Digital perlu menerbitkan register publik sistem algoritmik yang dipakai kementerian dan lembaga paling lambat akhir 2027. Presiden perlu menetapkan badan pelindungan data pribadi yang independen secara struktural dan anggaran pada 2027, terpisah dari kementerian yang juga menjalankan moderasi konten. Komisi I DPR perlu menggelar rapat dengar pendapat tentang prosedur penurunan konten dan penggunaan AI di sektor keamanan sebelum pertengahan 2027, dan Komnas HAM perlu mempublikasikan temuannya tentang 486 konten yang diturunkan agar menjadi preseden prosedural.

Bagi lembaga pendidikan dan pengetahuan, Kementerian Pendidikan Tinggi, Sains, dan Teknologi serta Kementerian Agama perlu mewajibkan setiap perguruan tinggi melakukan audit kemampuan keluar mulai tahun akademik 2027/2028, mencakup peta layanan esensial, uji ekspor data, dan prosedur luring, sekaligus menerapkan aturan asal-usul bukti untuk skripsi, tesis, disertasi, dan publikasi. BRIN perlu menjadikan survei penggunaan AI di kalangan mahasiswa sebagai survei tahunan dengan instrumen kognitif yang tervalidasi, sehingga perdebatan tentang utang kognitif dapat dijawab dengan data Indonesia. Pengelola jurnal dan penerbit perlu menerapkan kebijakan pengungkapan penggunaan AI yang menempatkan tanggung jawab akurasi tetap pada manusia. Majelis Ulama Indonesia, Nahdlatul Ulama, dan Muhammadiyah dapat mempublikasikan pedoman rujukan keagamaan berbasis sanad yang menjelaskan cara memverifikasi jawaban AI, sebagai sumbangan Indonesia bagi perdebatan global tentang asal-usul pengetahuan. Perusahaan platform dan penyedia AI yang beroperasi di Indonesia perlu menyediakan ekspor data dalam format terbuka, penjelasan prinsip pemeringkatan dalam bahasa Indonesia, dan laporan transparansi semesteran yang memuat permintaan penurunan konten dari pemerintah, mulai 2027.

Bagi aktor internasional, Kelompok Kerja Tata Kelola AI ASEAN perlu mengubah dimensi asal-usul konten dan pelaporan insiden dalam panduan generatifnya menjadi tolok ukur regional yang dapat diuji, dengan target pada masa keketuaan ASEAN 2027. Uni Eropa, OECD, dan UNESCO dapat mendukung negara-negara Selatan Global melalui pendampingan penilaian kesiapan dan penilaian dampak etis sebagaimana dijanjikan Rekomendasi UNESCO, dengan fokus pada kapasitas regulator untuk menilai sistem buatan perusahaan asing. Penyedia awan global perlu menawarkan klausul portabilitas kontraktual standar bagi lembaga publik di Asia Tenggara, termasuk jaminan ekspor penuh tanpa biaya keluar yang menghukum. Lembaga pendana riset internasional perlu membiayai replikasi eksperimen lapangan sejenis studi Guess dan Huszár di Asia Tenggara, karena hampir seluruh bukti kausal tentang dampak algoritma berasal dari Amerika Utara dan Eropa, sehingga kebijakan di kawasan ini masih disusun di atas bukti pinjaman.

Ukuran kematangan tata kelola algoritmik bukanlah jumlah prinsip etika yang diumumkan, melainkan waktu yang dibutuhkan seorang warga untuk menggugat keputusan mesin dan memperoleh jawaban.

Keterbatasan, Agenda Penelitian, dan Kesimpulan

Laporan ini memiliki keterbatasan yang perlu dinyatakan secara terbuka. Korpus esai yang menjadi titik tolak dipilih secara purposif dan bercampur antara argumen normatif, skenario spekulatif, dan deskripsi sistem, sehingga hanya diperlakukan sebagai sumber hipotesis. Laporan ini tidak mengumpulkan data primer, dan model lima sirkuit belum diuji konsistensi antarpenilainya, belum divalidasi di lapangan, dan belum dibandingkan secara sistematis dengan kerangka alternatif. Sebagian besar bukti kausal yang dikutip, dari studi Huszár, Guess, hingga Gerlich, berasal dari Amerika Serikat, Eropa, dan Inggris, sehingga daya alihnya ke Indonesia belum pasti. Sumber yang tersedia tidak memuat angka khusus Indonesia tentang penggunaan chatbot untuk berita. Lanskap regulasi bergerak cepat: status formal paket Digital Omnibus Uni Eropa setelah persetujuan Parlemen pada Juni 2026, serta isi akhir dan tanggal penandatanganan dua perpres AI Indonesia, dapat berubah setelah laporan ini terbit. Probabilitas skenario bersifat subjektif dan harus diperbarui ketika indikator bergerak.

Agenda penelitian yang paling mendesak mencakup penerapan rubrik lima sirkuit pada sistem penasihatan AI di universitas, penerbitan digital, tenaga kerja berbasis platform, sistem informasi komunitas, dan arsip kelembagaan, dengan metode analisis dokumen, wawancara, observasi alur kerja, audit antarmuka, uji migrasi data, dan rekonstruksi kasus. Penelitian juga perlu meneliti kasus positif, yakni lembaga yang berhasil memakai AI sambil mempertahankan kontestabilitas, serta menelusuri siapa yang memperoleh keuntungan dan siapa yang menanggung biaya. Pertanyaan empiris kuncinya adalah apakah praktik ekspor, keberatan, dan asal-usul bukti memang memprediksi hasil yang lebih baik bagi pihak terdampak. Bila ternyata tidak, kerangka ini harus direvisi. Penelitian komparatif lintas negara Asia Tenggara juga diperlukan untuk menguji apakah jurang kontestabilitas lebih lebar di negara dengan lembaga pengawas yang lemah, sebagaimana diduga laporan ini, ataukah faktor budaya organisasi dan kapasitas birokrasi lebih menentukan daripada desain regulasi. Studi longitudinal terhadap mahasiswa dan pekerja pengetahuan, yang mengukur kemampuan verifikasi mandiri sebelum dan sesudah adopsi AI generatif, akan memberi jawaban yang jauh lebih kuat daripada survei sesaat tentang frekuensi penggunaan.

Kesimpulan laporan ini dapat dinyatakan secara ringkas. Peradaban algoritmik lahir ketika infrastruktur, sistem pengetahuan, kebiasaan perhatian, keputusan kelembagaan, dan pemahaman diri manusia terhubung secara berkelanjutan, dan arahnya tidak ditentukan oleh teknologi, melainkan oleh tata kelola, insentif ekonomi, praktik budaya, dan kemampuan manusia untuk mempertanyakan serta merancang ulang sistem. Variabel penentunya adalah kontestabilitas. Indonesia tidak perlu memilih antara retorika kedaulatan teknologi yang belum terjangkau dan konsumsi pasif atas sistem buatan pihak lain. Pilihan yang tersedia adalah membangun kemampuan keluar dan hak untuk menggugat, bagi warga terhadap platform dan bagi warga terhadap negara. Negara yang menempuh jalan ini akan tetap bergantung pada teknologi global, tetapi ketergantungannya disertai suara dan jalan keluar. Itulah perbedaan antara pengguna yang berdaulat dan pengguna yang tertawan.

Executive Summary: The Question, the Bottom Line, and the Global Stakes

This report starts from a single question: under what institutional, economic, and cultural conditions does algorithmic mediation erode, or instead strengthen, human agency? Its bottom line is clear. The main danger of algorithmic civilization over the coming decade is not machines seizing control of humans but a steadily widening contestability gap. Dependence on computing infrastructure, ranking systems, and automated decisions is growing far faster than the capacity of citizens and institutions to understand, contest, and leave those systems. Indonesia shows this gap with great clarity. The 2026 APJII survey recorded 235.2 million internet users, or 81.72 percent of the population, and Indonesia has been described as among the top three countries by weekly ChatGPT users despite shortages of talent and computing facilities. At the same time, two presidential regulations on artificial intelligence were still awaiting the President’s signature as of September 2026, while the personal data protection supervisory authority is expected to operate effectively in 2028 at the earliest. The report’s core judgment, held with moderate confidence, is that Indonesia is now moving along a path of convenient dependence: digital services are becoming more efficient and harder to leave, while mechanisms for explanation, objection, and redress lag behind.

This matters to the world, not only to Indonesia, because Indonesia’s position is in fact the position of most of humanity. In the second quarter of 2026, Amazon, Microsoft, and Google together held 28, 20, and 15 percent of a global cloud infrastructure market worth about 143 billion US dollars per quarter, or 63 percent combined. The Stanford AI Index 2026 records that in 2025 industry produced 93 notable AI models while academia produced only two, and the United States released 59 notable models compared with 35 from China. In other words, the rules of this century’s epistemic power are written by a handful of companies in two countries and then run in hundreds of societies that act only as users. For the countries of the Global South, the question of human agency is therefore not merely a matter of consumer choice but a matter of world order: who has the right to decide what is visible, what is believed, and which decisions can be contested.

To answer the question, this report offers a framework of five circuits of algorithmic power, tests it against international and Indonesian evidence, and then compares the governance regimes of the European Union, China, the United States, ASEAN, and Indonesia. The analysis then confronts the strongest counter-argument, sets out four pathways to 2030 with a 2045 horizon, together with probabilities and indicators to watch, and formulates recommendations for the actors able to act. Its core recommendation can be summed up in one sentence: make contestability, not merely ethical principles, the operational standard of algorithmic governance, meaning rights to notice, explanation, objection, data export, and an offline route for every automated system that decides people’s fate. Such a standard is cheap compared with a heavy compliance regime, can be implemented by technology-taking states, and directly addresses the point at which human agency is most easily lost without anyone noticing.

Analytical Framework: Contestable Agency and Five Circuits of Power

The central concept of this report is contestable agency. Agency cannot be reduced to the feeling of free choice when someone clicks a link or accepts a recommendation. Agency in a demanding sense requires four things at once: access to the reasons behind an output, time and resources to weigh them, alternatives that are genuinely available, and the ability to contest outcomes that matter to one’s life. Two derived concepts follow from this definition. Infrastructural dependence is the condition in which a system is no longer merely a tool but has become a precondition for taking part in social, economic, or administrative life. Such dependence is not automatically harmful, since roads, electricity, libraries, and archives also create dependence while expanding opportunity. Dependence becomes a political problem when its unavoidability outruns the possibility of questioning it. The gap between how deeply a system shapes life and how far that system can be questioned, corrected, or left is called here the contestability gap. A third concept, exit capacity, measures practical portability: formal ownership of data means nothing if an archive cannot be moved without crippling cost.

This framework sits within a mature international debate. Shoshana Zuboff, in The Age of Surveillance Capitalism (2019), reads platforms as machines that extract behavioural surplus in order to predict and steer human action. Frank Pasquale, in The Black Box Society (2015), shows how algorithmic secrecy in the information and finance sectors produces unsupervised power. Kate Crawford, in Atlas of AI (2021), brings the debate down from the cloud to the earth, to the minerals, labour, and planetary costs that sustain computation. Luciano Floridi and colleagues, in the AI4People framework in Minds and Machines (2018), synthesise five ethical principles, including the demand that systems be explicable and accountable. Daron Acemoglu and Simon Johnson, in Power and Progress (2023), insist that the direction of technology is not destiny but a choice that reflects the interests of powerful groups. This report takes a position between Zuboff’s tendency toward a totalising thesis and a technological optimism that ignores power: algorithmic power is real, but it works through specific circuits that can be measured, compared, and governed.

The five circuits are defined as follows. The infrastructural circuit supplies computation, connectivity, storage, and energy, and so determines who can access capabilities and on what terms. The epistemic circuit organises the visibility and evaluation of knowledge through three operations: selection of which sources appear, framing of how sources are ordered and labelled, and certification of which claims appear settled. The behavioural circuit shapes repeated interaction and patterns of attention through notifications, feeds, metrics, and interface friction. The institutional circuit translates technical outputs into decisions, rules, and sanctions that bind people. The existential circuit concerns human understanding of identity, autonomy, relationships, and the meaning of one’s life. Each circuit has a diagnostic question and can be scored from zero to three: zero for a serious gap, one for informal or partial practice, two for documented practice that functions, and three for documented practice that is independently tested and improved. The scores are deliberately not added into a single number, because strength in one circuit cannot compensate for failure in another. An AI-based academic advising system at a university, for example, may excel in the infrastructural circuit because its data are easy to export, yet fail in the institutional circuit if students do not know where to object to a classification that determines the length of their studies.

Method, Evidence Base, and the Language of Confidence

This report is a conceptual synthesis combined with comparative policy analysis; it is neither a field survey nor a systematic review. Its evidence base has three layers. The first is a purposive corpus of eight essays published at KBA13 Insight between August 2025 and July 2026, including the thought experiment Dunia Tanpa Google, Facebook, Instagram, dan Twitter (2025), the analysis The Age of Compute Power (2026), and the scenario Epistemology 2045 (2026). This corpus is treated as a source of hypotheses and conceptual intuitions, not as empirical evidence, because the essays are argumentative interventions that mix description, normative judgment, and speculation. The second layer is scholarly literature and data from international institutions, ranging from field experiments in Science and PNAS, cognition studies, cloud market data, and the Stanford AI Index to the Reuters Institute Digital News Report. The third layer is governance documents: the UNESCO Recommendation on the Ethics of Artificial Intelligence adopted on 23 November 2021, the NIST AI Risk Management Framework released on 26 January 2023, together with its Generative AI Profile of 26 July 2024, the OECD AI Principles as the first intergovernmental standard on AI, and the regulations of the European Union, China, the United States, ASEAN, and Indonesia.

The analysis proceeded in four stages. Claims and mechanisms in the corpus were identified, sorted into the five circuits, cross-checked against international evidence to see which were supported, which were contested, and which leapt too far, and then compared with regulatory choices across jurisdictions. Facts were verified up to October 2026. For key judgments the report uses three levels of confidence language. High confidence means supported by several consistent independent sources. Moderate confidence means supported by credible but partial or single sources, or by sources from another context. Low confidence means a plausible inference that has not yet been tested. The distinction between practice observable today and thought experiments about 2045 is maintained throughout. The 2045 scenarios are read not as forecasts but as tools for asking whether today’s institutions already have procedures that prevent undesirable futures.

This methodological discipline also rejects two temptations that often colour public debate. The first is to imagine artificial intelligence as a single coordinated agent intent on dominating humans, when what is actually faced is an ecosystem of companies, states, developers, and users with divergent interests. The second is to treat technology as socially neutral because users still press the final button, when the options available to press have already been arranged in advance. The five-circuit framework is designed to avoid both errors by pointing to the specific places where power operates and where it can be corrected. The model is this report’s own analytical proposal and has not yet been validated through inter-rater testing or field application, a limitation revisited in the final section.

The Infrastructural Circuit: Concentrated Compute and the Geography of Dependence

Digital life, which appears weightless, rests on heavy material foundations: electricity, semiconductors, data centres, undersea cables, cooling, land, labour, and capital. Crawford calls this side the planetary cost of artificial intelligence, and recent data show that these foundations are becoming more concentrated. Synergy Research Group reports that cloud infrastructure service revenue reached about 143 billion US dollars in the second quarter of 2026, growing 43 percent year on year, the highest rate in eight years, with the three largest providers controlling almost two thirds of the market. The Stanford AI Index 2026 adds that from 2003 to 2025 industry accounted for 91.18 percent of notable AI models, global AI compute capacity grew by an estimated 3.3 times per year since 2022 to roughly 17.1 million H100-equivalents in 2025, and the cost of GPU computation has fallen by more than 99 percent since 2006. Falling unit prices combined with rising concentration of ownership is the hallmark of strategic infrastructure. The analysis The Age of Compute Power (2026) reads computing capacity as a new dimension of state power, and the evidence above supports that reading with high confidence regarding concentration, and with moderate confidence for the claim that concentration automatically becomes geopolitical leverage.

Infrastructural power works through three channels that require no malicious intent. The first is rationed access through price, quotas, or technical conditions. The second is narrowing interoperability through proprietary formats, closed integrations, and contractual clauses. The third is threatened continuity through service outages, sanctions, technical failures, or unilateral policy changes. A school whose academic records are hard to export, a research centre whose metadata are locked into one vendor’s database, or a small publisher that loses readers as soon as a search engine algorithm changes all experience infrastructural power without ever facing an actor who intends to dominate them. The thought experiment of a world without the major platforms, as proposed in the essay Dunia Tanpa Google, Facebook, Instagram, dan Twitter (2025), is most useful when read as an institutional stress test: what would remain of public services, archives, and emergency communication if a single provider stopped operating for a week? The essay Planetary Civilization (2026) frames the same paradox from the opposite direction: planetary connectivity expands opportunity while spreading fragility, so every increase in dependence needs to be matched by an increase in the capacity to endure when networks fail.

Indonesia’s position in this circuit can be summarised as an asymmetry between consumption and production. Growth in internet users has begun to slow, with 5.8 million new users in 2026 compared with 7.86 million the year before, a sign that adoption is nearing saturation. A July 2025 report by The Jakarta Post via Asia News Network placed Indonesia as a highly active market for generative AI users, but also noted a shortage of digital talent and limited access to computing facilities, even in educational institutions. Government talk of a sovereign, full-stack AI ecosystem, as noted by Ary Hermawan in East Asia Forum in September 2026, therefore confronts a structural reality that will not change within five years. The implication is that the realistic strategy is not self-sufficiency in compute but exit capacity: a service map that records essential systems, data ownership, export formats, offline procedures, and the consequences of vendor failure. The positive side is also real. Shared compute lowers entry costs, cloud services let small teams use capabilities once held only by large institutions, and translation tools open access across languages. Dependence accompanied by portability is an opportunity; dependence without portability is a vulnerability.

The Epistemic Circuit: Selection, Framing, and Certification

Information is not knowledge. Knowledge requires a defensible link between claims, methods, evidence, and judgment. Epistemic power in an algorithmic environment works through the three operations defined earlier: selection, framing, and certification. Classic search engines mainly perform the first two, choosing which sources appear and ordering them. Generative AI answers go further because they perform all three at once. The interface no longer points to sources but presents a fluent synthesis, so that the certification function, the determination of which claims appear settled, moves from editors, teachers, and religious scholars to the machine interface. This is the contemporary form of the black box society Pasquale envisaged: authority works through convincing outputs, while the path from evidence to conclusion is invisible to the user.

Recent international data show the direction of this shift. The Reuters Institute Digital News Report 2026, covering nearly 100,000 interviews in 48 markets, finds that for the first time social media and video networks have become the most widely used news source globally, at 54 percent of audiences. Weekly use of AI chatbots for news rose from 7 to 10 percent, and only 42 percent of chatbot users often or always click through to the original sources. Trust in news overall stands at 37 percent, while trust in AI answers is only 20 percent. The combination matters: people increasingly receive syntheses without checking their sources, even though they themselves do not much trust those syntheses. Certification moves to the interface not because the interface is trusted but because checking feels costly. The direction of this shift is judged with high confidence. Its magnitude in Indonesia is judged with moderate confidence, because the sources available for this report contain no Indonesia-specific figures.

In Indonesian higher education the shift is already directly observable. A survey by BRIN’s Education Research Centre of 293 students at 17 state Islamic higher education institutions, as reported by detikEdu on 12 December 2025, found that more than 90 percent of respondents used ChatGPT intensively, around four to six times a week, and that awareness of its risks did not reduce the intensity of use. The study AI Generatif dan Otoritas Ilmu di PTKI (2026) names this phenomenon a shift from the authority of the sanad to the authority of fluency, that is, a tendency to accept answers because they sound convincing rather than because their chain of proof can be traced. The question raised by the scenario Epistemology 2045 (2026) about machines that determine truth becomes an operational question today: can a lecturer show where an AI answer came from, can a reader reach the primary sources, can an editor reconstruct the basis of a factual claim? This report proposes a provenance rule: every consequential claim must be traceable to sources that can be independently inspected. The same rule applies to bilingual publishing, because automatic translation does not guarantee that every qualification and nuance carries over. Epistemic resilience is therefore not about rejecting machines but about maintaining transparent chains of evidence, plural expertise, habits of reason-giving, and mechanisms of correction.

Certification moves to the interface not because the interface is trusted, but because checking feels too costly.

The Behavioural and Existential Circuits: Attention, Cognition, and Reflective Life

Design shapes behaviour. Notifications, endless feeds, social metrics, and interface friction determine what is easy and what is hard to do. Shops, classrooms, and newspapers also shape behaviour, but digital mediation differs in scale, speed, personalisation, and continuous feedback. Zuboff’s thesis of behavioural modification holds that this difference has produced a new form of power. The empirical evidence is more nuanced. The study by Huszár and colleagues in PNAS used a randomised control group that since 2016 continued to see Twitter’s chronological timeline, and found that in six of the seven countries studied the mainstream political right enjoyed higher algorithmic amplification than the mainstream political left. Algorithms, in other words, are not neutral about what becomes visible. Yet the field experiment by Guess and colleagues in Science during the 2020 US election found that moving Facebook and Instagram users to a chronological feed reduced time and activity on the platforms and increased exposure to untrustworthy content, but did not significantly change polarisation or political knowledge over three months. The lesson is clear: algorithms demonstrably shape exposure and attention, with high confidence, but their direct effect on political attitudes is smaller and slower than often imagined, with low confidence in claims of large attitudinal effects.

A newer area is cognition. Michael Gerlich’s study in the journal Societies of 666 respondents in the United Kingdom found that frequent use of AI tools correlates with lower critical thinking, mediated by cognitive offloading, with the highest dependence among those aged 17 to 25, although the design is correlational and based on self-report. The experiment by Kosmyna and colleagues, Your Brain on ChatGPT (2025), which measured the EEG of 54 participants, reported the weakest brain connectivity, difficulty quoting one’s own essay, and the lowest sense of ownership in the language-model group, but its sample is small and it remains a preprint. Both studies give a plausible signal of cognitive debt, that is, effort saved today paid for with reduced capacity later, but they are not enough for a causal conclusion. Confidence in this claim is moderate to low. A proportionate institutional response is therefore not prohibition but deliberate pauses in high-stakes workflows: source checks before publication, a named human reviewer before an AI classification affects a person, and academic assignments that assess the process, not only the product. It should also be noted that screen time is not the same as dependence, so measuring it requires interviews, workflow observation, and platform analysis.

The existential circuit concerns the deepest layer: the capacity to contemplate, interpret, and pay moral attention, which may be called interiority. The essay Cultural Engineering in the Planetary Age (2026) worries that externally optimised routines may replace reflective meaning-making. That concern is strongest when translated into an imbalance of speed and depth: recommender systems tend to elevate dramatic statements, while philological study and dialogical teaching are less visible. Indonesian society turns out to have institutional resources to meet this. In November 2025, leaders of the Indonesian Ulema Council (MUI) stated that artificial intelligence is only a companion and cannot replace the role of religious scholars and the sanad of knowledge, while preparing guidelines on using AI for religious reference. The sanad tradition, a chain of transmission of knowledge traceable from teacher to teacher, is in essence a provenance norm centuries old. For the global debate, this shows that non-Western epistemic institutions can contribute governance models rather than merely being objects of regulation. The scenario Digital Consciousness 2045 (2026), which asks whether humanity still knows itself, is therefore better read as a philosophical question that demands an institutional answer today. Protecting reflective life is a matter of design and institutions, not merely advice on individual self-control.

The Institutional Circuit: When Machine Outputs Become Decisions

The strongest evidence of the dangers of algorithmic power comes not from sophisticated language models but from simple automation in state administration. Australia’s Robodebt scheme, introduced in the 2015–2016 federal budget, matched annual tax office income data against fortnightly welfare payments by averaging income. By December 2016 the scheme was sending more than 20,000 debt notices a week; it led to a class action settlement of more than 720 million Australian dollars covering about 430,000 debts; and in July 2023 the Royal Commission led by Catherine Holmes found it inconsistent with the law and made 57 recommendations. In the Netherlands, the tax authority from 2013 used a risk-scoring algorithm for childcare benefits that treated nationality as a risk factor. According to Amnesty International’s report Xenophobic Machines, October 2021, tens of thousands of parents, mostly from low-income families, were wrongly accused of fraud, and the scandal brought down the Dutch government in January 2021.

Both cases share a pattern of universal relevance. The harm did not arise from machine intelligence but from three institutional defects: the burden of proof was reversed onto citizens, no human reviewer was clearly accountable, and the route of objection was too costly for those most affected. This is the most concrete form of the contestability gap, and the judgment is held with high confidence because it rests on the findings of official commissions and independent investigations. Both countries have strong courts, ombudsmen, and a free press, yet the damage continued for years before it was corrected. States with weaker oversight face greater risk as they begin to automate the distribution of social assistance, credit scoring, or content moderation.

Indonesia is entering this territory. Ary Hermawan, in East Asia Forum, notes that biometric data have been collected through the electronic identity system since 2011, that contracts for biometric identification and surveillance systems worth 4.9 and 5.4 million US dollars were won in 2022, and that Komdigi’s draft AI ethics guidelines exclude monitoring and evaluation provisions for defence and national security. He also stresses that there is no evidence those surveillance tools have been directed at civil society. After the series of protests in August 2026, Komdigi reported taking down 486 social media posts on 27 August 2026, and as of 13 October 2026 Komnas HAM was still examining whether the takedowns had an adequate legal basis and whether they infringed freedom of expression. These facts are not evidence of algorithmic abuse, but they reveal the meeting point of automated classification, content moderation, and state power where avenues of contestation remain limited. The dilemma raised by the essay The Power of the Disinformation Ecosystem in the Planetary Era (2026) finds its concrete form here: how to fight organised deception and synthetic media, which also make it easier to dismiss authentic evidence as fake, without centralising the power to decide which beliefs may circulate. The answer lies in procedure, namely an information-integrity protocol that records the original source, date, verification status, corrections, and the role of automated tools, and that can be audited by independent parties. Indonesia’s own infrastructure of contestation still lags. The implementing regulation of the Personal Data Protection Law has been issued as Government Regulation No. 33 of 2026, the draft presidential regulation establishing the data protection authority was submitted for the President’s enactment through a KemenPAN-RB letter dated 20 May 2026, and interim oversight remains with Komdigi, the very ministry that also carries out content moderation. Confidence in the judgment that the infrastructure of contestation lags behind the pace of automation is moderate.

Four Logics of Governance: The European Union, China, the United States, and ASEAN

The European Union follows a logic of rights and risk. The EU AI Act classifies systems by level of risk and originally scheduled most obligations, including the core rules for high-risk systems, to apply on 2 August 2026. On 7 May 2026, however, legislators reached a provisional agreement on a Digital Omnibus package that postpones obligations for stand-alone high-risk systems to 2 December 2027 and for systems in regulated products to 2 August 2028, adds a new ban on systems generating child sexual abuse material and non-consensual intimate content, and requires marking of synthetic content for systems already on the market from 2 December 2026. The European Parliament adopted the agreement on 16 June 2026, while formal Council approval was still required according to the same source, and another report stresses that the agreement still had to be formally adopted before entering into force. The lesson for the world is that even the most ambitious regime recalibrates when compliance costs meet competitiveness pressure, yet the core rights to know and to contest are preserved.

China follows a logic of layered content control. Its provisions on algorithmic recommendation have applied since 1 March 2022, its deep synthesis provisions since 10 January 2023, its interim measures for generative AI services since 15 August 2023, and its measures on human-like interactive services since 15 July 2026, as summarised in Morrison Foerster’s regulatory tracker. The synthetic-content labelling measures jointly issued by the Cyberspace Administration of China, the Ministry of Industry and Information Technology, the Ministry of Public Security, and the National Radio and Television Administration took effect on 1 September 2025, requiring visible explicit labels and implicit labels in metadata. Technically, China is a pioneer in content provenance. Politically, the regime strengthens state control over the certification circuit: citizens’ agency is protected from platforms but not from the state. The United States follows a logic of markets and federal priority. Executive Order 14365, signed on 11 December 2025, creates an AI litigation task force to challenge state AI laws deemed to conflict with federal policy, links part of the BEAD programme’s funds to states’ positions, and calls for a proposed uniform federal framework that preempts state law, with exceptions including child safety. The NIST framework remains voluntary. This logic maximises innovation but leaves contestability to the courts and the market.

ASEAN follows a logic of voluntary convergence. The ASEAN Guide on AI Governance and Ethics was launched at the fourth ASEAN Digital Ministers’ Meeting in Singapore on 2 February 2024 and expanded for generative AI on 17 January 2025, with a working group on AI governance established in March 2024. The expanded guide applies on a voluntary basis and sets out nine dimensions, including accountability, incident reporting, testing, and content provenance. Indonesia itself has chosen the instrument of presidential regulation: one on an AI roadmap for 2026 to 2029 and one on AI ethics that will classify uses as prohibited, requiring strict oversight, or low risk. Deputy Minister of Communication and Digital Affairs Nezar Patria explained on 10 September 2026 that the government chose a presidential regulation because it is faster than a law and is not currently prioritising a dedicated AI law, while according to Komdigi the ethics draft covers the entire AI life cycle, from developers and operators to ministries and agencies. Indonesia is also recorded as one of the 29 founding countries of the World Artificial Intelligence Cooperation Organization in Shanghai.

This comparison opens space for a contestability-oriented middle way. Indonesia can borrow the rights to explanation and objection from the European Union without copying its full compliance burden, adopt China’s techniques of explicit and implicit labelling without a state monopoly over certification, use NIST-style voluntary risk management as an aid for institutions, and use ASEAN forums to spread the same standard across the region. The judgment that such a middle way is politically and technically feasible is held with moderate confidence, because it depends on the final content of the ethics regulation, which has not yet been issued, and on the state’s willingness to submit to the same rules as platforms.

The Strongest Counter-Argument and the Response

The strongest counter-argument to this report deserves to be stated in its best form. First, dependence is the price of civilisation. People depend on electricity, banking, and telephone networks without losing their agency, and billions voluntarily choose digital services because those services really are better. Preferences revealed in behaviour are evidence of consent. Second, the evidence of harm is weaker than the rhetoric. The experiment by Guess and colleagues found no significant change in polarisation when the algorithm was switched off, the most frequently cited cognition studies are still correlational or based on small samples, and panic about new technologies, from the novel to television, has a long history of mistaken predictions. Third, for technology-taking states, additional regulation will only drive away investment and entrench large companies able to pay compliance costs, as the postponement of the EU AI Act itself implies. Fourth, and most pointed in the Indonesian context, discourse about the dangers of algorithmic power can be hijacked by the state to justify control over the digital sphere, so that the cure becomes more dangerous than the disease.

This report accepts part of this argument and rejects part. To the first point: revealed preference is meaningful only when alternatives and exit capacity exist. When three providers control 63 percent of the world’s cloud infrastructure and public institutions cannot move their archives without great cost, revealed choice looks more like compliance with structure. Acemoglu and Johnson show that the direction of technology is always a social choice, so this argument actually reinforces the importance of portability. To the second point: this report deliberately does not rest its conclusions on attitudinal effects or cognitive damage, which are indeed judged with low to moderate confidence. Its core conclusion rests on institutional cases documented by official commissions, such as Robodebt and the Dutch benefits scandal, and on measured exposure effects. To the third point: a contestability standard is low-cost compared with a full compliance regime; open export formats, notice, explanation, and objection channels actually lower switching costs and so open space for competitors and local firms.

The fourth point is accepted in full, and that is precisely why this report’s recommendations target the state as firmly as the platforms. The case of the 486 takedowns now under review by Komnas HAM shows that the state itself can be an actor in the certification circuit. The right answer is therefore not to enlarge state authority over content but to extend contestability to anyone operating automated systems, including government agencies. An independent data protection authority, notice obligations that bind ministries, and judicial review of content takedowns are safeguards against the hijacking of this discourse. One concession must still be recorded: the counter-argument is right that the evidence base on the cognitive effects of generative AI remains thin, and this report claims no more than the evidence can sustain.

Four Pathways to 2030 with a 2045 Horizon

The following four pathways are heuristic devices for assessing the pattern most likely to dominate Indonesia’s public sector and higher education up to 2030. Their probabilities are the author’s assessment, based on the evidence in this report rather than a statistical model, and different sectors may follow different pathways within the same society. The first pathway, civic augmentation, with a probability of 20 percent, describes a state in which AI reduces routine burdens while remaining contestable through transparency, human review, effective redress, and portable data. The second, convenient dependence, at 45 percent, describes services so efficient that exit seems unnecessary until a major disruption occurs. The third, opaque managerialism, at 22 percent, describes automated assessments that gain authority without any obligation to explain, correct, or open themselves to objection, a failure of governance rather than evidence of machine intent. The fourth, competitive fragmentation, at 13 percent, describes states and platforms building incompatible technology stacks, which raises costs and limits scientific collaboration while offering some local resilience.

Each pathway has indicators that can be monitored. Indicators pointing toward civic augmentation include the issuance of an AI ethics regulation containing operational rights of notice and objection, the establishment of an independent data protection authority before 2028, and the publication of registers of AI use by ministries and universities. Indicators of convenient dependence include critical workflows that rely on a single provider, poor data export, the loss of offline procedures, and declining capacity for independent verification, which can be tracked through regular surveys such as the BRIN survey. Indicators of opaque managerialism include the automation of social assistance distribution or content moderation without notice to those affected, Komnas HAM findings on content takedowns that go unaddressed, and an exemption of the security sector from evaluation obligations in the final regulation. Indicators of competitive fragmentation include escalating data localisation, a split in standards between US and Chinese stacks in the region, and stalled implementation of the ASEAN guide. At the global level, formal adoption of the EU Digital Omnibus package and the start of synthetic-content marking from 2 December 2026 will signal whether content-provenance standards spread to other regions.

The 2045 horizon is read through the logic of path dependence. Long-range scenarios about machines that determine truth or about digital consciousness have no meaningful probability on their own, but their likelihood is shaped by the pathway locked in by the end of this decade. Institutional habits, data standards, and procurement contracts set between 2026 and 2030 will persist for decades, just as a city’s layout outlives the generation that designed it. The highest probability assigned to convenient dependence reflects the judgment that market forces and user convenience are currently moving faster than the formation of oversight bodies. The sizeable probability assigned to opaque managerialism reflects the combination of a security-sector exemption, a data protection authority not yet established, and a content-takedown precedent not yet tested in law. A shift toward civic augmentation remains possible, but it requires explicit decisions within the next twelve to eighteen months.

Recommendations: Who Should Do What, and When

For the Government of Indonesia, the most decisive step is to insert an operational contestability clause into the AI ethics regulation before it is signed, with a target issuance no later than the first quarter of 2027. The clause should require every public institution that uses automated systems for decisions affecting citizens’ rights or services to provide notice, an explanation in plain Indonesian, review by a named human, and an objection channel with a fixed response deadline. The exemption for the defence and security sector should be replaced by closed oversight by the House of Representatives (DPR) and an independent body, not a blanket exemption from evaluation. The Ministry of Communication and Digital Affairs should publish a public register of algorithmic systems used by ministries and agencies by the end of 2027 at the latest. The President should establish a personal data protection authority that is structurally and financially independent in 2027, separate from the ministry that also carries out content moderation. DPR Commission I should hold hearings on content-takedown procedures and the use of AI in the security sector before mid-2027, and Komnas HAM should publish its findings on the 486 removed posts so that they become a procedural precedent.

For educational and knowledge institutions, the Ministry of Higher Education, Science, and Technology and the Ministry of Religious Affairs should require every university to conduct an exit-capacity audit from the 2027/2028 academic year, covering a map of essential services, a data export test, and offline procedures, while applying the provenance rule to undergraduate theses, master’s theses, dissertations, and publications. BRIN should make its survey of student AI use an annual survey with validated cognitive instruments, so that the debate on cognitive debt can be answered with Indonesian data. Journal managers and publishers should adopt AI-use disclosure policies that keep responsibility for accuracy with humans. The Indonesian Ulema Council, Nahdlatul Ulama, and Muhammadiyah could publish sanad-based guidelines for religious reference that explain how to verify AI answers, as an Indonesian contribution to the global debate on the provenance of knowledge. Platform companies and AI providers operating in Indonesia should, from 2027, provide data export in open formats, an explanation of ranking principles in Indonesian, and semi-annual transparency reports that include government content-removal requests.

For international actors, the ASEAN Working Group on AI Governance should turn the content-provenance and incident-reporting dimensions of its generative AI guide into testable regional benchmarks, with a target during the 2027 ASEAN chairmanship. The European Union, the OECD, and UNESCO can support countries of the Global South through assistance with readiness assessments and ethical impact assessments, as promised in the UNESCO Recommendation, with a focus on regulators’ capacity to assess systems built by foreign companies. Global cloud providers should offer standard contractual portability clauses to public institutions in Southeast Asia, including a guarantee of full export without punitive egress fees. International research funders should finance replications of field experiments like the Guess and Huszár studies in Southeast Asia, because almost all causal evidence on algorithmic effects comes from North America and Europe, so policy in this region is still being built on borrowed evidence.

The measure of mature algorithmic governance is not the number of ethical principles announced, but the time it takes a citizen to contest a machine’s decision and receive an answer.

Limitations, Research Agenda, and Conclusion

This report has limitations that should be stated openly. The corpus of essays that served as its point of departure was selected purposively and mixes normative argument, speculative scenarios, and system description, so it is treated only as a source of hypotheses. The report collected no primary data, and the five-circuit model has not been tested for inter-rater consistency, validated in the field, or systematically compared with alternative frameworks. Most of the causal evidence cited, from the Huszár and Guess studies to Gerlich, comes from the United States, Europe, and the United Kingdom, so its transferability to Indonesia is uncertain. The available sources contain no Indonesia-specific figures on chatbot use for news. The regulatory landscape moves fast: the formal status of the EU Digital Omnibus package after Parliament’s approval in June 2026, and the final content and signing date of Indonesia’s two AI regulations, may change after this report is published. The scenario probabilities are subjective and should be updated as indicators move.

The most urgent research agenda includes applying the five-circuit rubric to AI advising systems at universities, digital publishing, platform-based labour, community information systems, and institutional archives, using document analysis, interviews, workflow observation, interface audits, data migration tests, and case reconstruction. Research should also examine positive cases, namely institutions that have used AI while preserving contestability, and trace who gains and who bears the costs. The key empirical question is whether export, objection, and provenance practices actually predict better outcomes for those affected. If they do not, this framework must be revised. Comparative research across Southeast Asian countries is also needed to test whether the contestability gap is wider in states with weak oversight bodies, as this report suspects, or whether organisational culture and bureaucratic capacity matter more than regulatory design. Longitudinal studies of students and knowledge workers that measure independent verification skills before and after the adoption of generative AI would provide far stronger answers than one-off surveys of usage frequency.

The conclusion of this report can be stated briefly. Algorithmic civilization emerges when infrastructure, knowledge systems, habits of attention, institutional decisions, and human self-understanding become continuously connected, and its direction is determined not by technology but by governance, economic incentives, cultural practice, and the human capacity to question and redesign systems. The decisive variable is contestability. Indonesia does not have to choose between a rhetoric of technological sovereignty that remains out of reach and passive consumption of systems built by others. The choice available is to build exit capacity and the right to contest, for citizens against platforms and for citizens against the state. A country that takes this path will remain dependent on global technology, but its dependence will come with voice and a way out. That is the difference between a sovereign user and a captive one.