Penggelaran dan penggunaan akal imitasi (AI) makin marak dan dampak negatifnya terus mengintai masyarakat. Dalam kurun waktu satu semester pada 2026 saja, setidaknya kami merekam 33 insiden terindikasi dimungkinkan oleh AI dengan 9 demografis berbeda. Kategori kasus bervariasi, mulai dari keselamatan dan keamanan (4 kasus), perbudakan tenaga kerja berbasis algoritma (5 kasus), keterbatasan akses (6 kasus), dan lain sebagainya.
Pembaruan Metodologi & Taksonomi dalam MMAAII 2026
EngageMedia melanjutkan MMAAII (Incident Media Monitoring, Analysis and Accountability Initiative) yang telah dimulai sejak tahun 2025 untuk terus mendokumentasikan dan menganalisis pola insiden AI dan teknologi berkembang yang terjadi di Indonesia serta dampak dan/atau kerugian yang ditimbulkannya. Pada tahun ini, kami meluncurkan tampilan baru dari pendokumentasian insiden melalui situs mmaaii.engagemedia.org. Pranala tersebut diperuntukkan bagi berbagai kalangan, mulai dari pembuat kebijakan hingga masyarakat umum, agar mengetahui dampak AI dan teknologi berkembang di Indonesia.
Kami melakukan pembaruan metodologi yang mengadopsi pendekatan berbasis bukti, multidimensional, dan berfokus pada siklus hidup AI. Pengokohan metodologi ini bertujuan agar insiden AI tidak didokumentasikan hanya sebagai kegagalan sistem AI, tetapi juga untuk membuat metode sistematis yang dapat menjawab tujuh pertanyaan kunci berikut;
Apa yang terjadi? → Apakah AI berperan? → Mengapa hal itu terjadi? → Risiko AI apa yang diwakilinya? → Dampak apa yang terjadi? → Seberapa parah dan seberapa luas dampak tersebut? → Siapa yang bertanggung jawab atau memiliki kendali?
Pembaruan metodologi yang kami lakukan di antaranya:
- Sistem dokumentasi yang terstruktur dan saling terhubung. Pemetaan yang kami lakukan mencakup sebab, dampak, aktor yang terlibat, korban dan/atau komunitas terdampak, serta kebijakan yang relevan. Hal ini memberikan gambaran yang lebih holistik terhadap insiden yang kami dokumentasikan, dan diharapkan dapat mendukung pemetaan konteks dan pola insiden, serta semakin memperkaya contoh kasus untuk berbagai pemangku kepentingan.
- Selain itu, MMAAII juga memperbarui beberapa klasifikasi taksonomi. Taksonomi Kerugian (Harm Taxonomy) pada 2022-2025 sebelumnya menggunakan gabungan dari taksonomi CSET Georgetown (2023), OECD (2024) serta AIAAIC (2024). Kini, kami mengembangkan taksonomi kerugian yang lebih kontekstual, menyesuaikan dengan kerangka hukum dan situasi yang ada di Indonesia. Klasifikasi ini didasarkan pada hak-hak yang dilindungi dalam Undang-Undang Dasar 1945 dengan Amandemen, Undang-Undang No. 39/1999 tentang Hak Asasi Manusia, dan peraturan terkait lainnya.
- Saat ini, kami merujuk pada kerangka penentu keterlibatan teknologi (AI Involvement decision-making flowchart) yang dibuat oleh Karen Hao untuk membantu kami mengategorikan apakah suatu insiden berhubungan dengan AI atau teknologi berkembang lainnya. Sehingga kami dapat memisahkan insiden teknologi biasa dengan insiden yang memang disebabkan/difasilitasi oleh AI sedari awal.
Insiden AI di Sektor Publik & Privat
Temuan laporan EngageMedia (2025) tentang pengadaan AI di sektor publik, diperkuat oleh pemetaan dalam riset Yayasan Tifa (2026) menunjukkan bahwa integrasi AI dan teknologi berkembang terus merambah ke berbagai sektor publik.
Kasus yang cukup menyita perhatian adalah Data Tunggal Sosial dan Ekonomi Nasional (DTSEN). Sistem ini digunakan sebagai tolok ukur dalam menentukan individu yang berhak mendapatkan bantuan sosial, merencanakan program pembangunan, serta membuat kebijakan sesuai dengan sebaran demografi berdasarkan tingkat kesejahteraan keluarga yang ditentukan melalui sistem desil. Pada Februari lalu, pengklasifikasian penerima bantuan pemerintah berdasarkan perubahan sistem desil di DTSEN berakibat pemutusan massal akses BPJS PBI terhadap ribuan masyarakat kurang mampu. Dampaknya, banyak masyarakat tidak mampu berobat dan melanjutkan perawatan kritis untuk penyakit kronis mereka.
Infrastruktur pendukung AI juga tidak luput dari pemicu dampak siklus AI. Pada Februari 2026 lalu misalnya, data 58 juta siswa Indonesia diklaim telah bocor. Data identitas akademik, profil orang tua, lokasi presisi tempat tinggal di Google Maps, dan kondisi fisik mereka, telah diperdagangkan bebas di forum peretas DarkForums. Terduga pelaku, dengan nama samaran “SN1F,” tidak hanya menjual berkas data lama, tetapi juga menawarkan “jalur khusus” yang memungkinkan pembeli mengekstrak data real time siswa, langsung dari peladen (server) pemerintah. Tak berselang lama, April 2026, pemantau daring untuk situs DarkForum kembali mengeklaim adanya kebocoran terbaru dari sistem BIMA Indonesia (Ditjen Saintek). Data yang bocor berupa data sensitif–akademis dan pribadi–milik dosen serta tenaga kependidikan di berbagai universitas di Indonesia.
Dugaan awal adalah kedua insiden ini melibatkan AI Agentik karena metode yang digunakan bukan ekstraksi data biasa, melainkan ekstraksi melalui API/basis data dalam bentuk format respons yang terstruktur. Indikasi ini terlihat jelas dari adanya atribut data spesifik seperti “LOKASI GMAPS” (untuk zonasi) dan data fisik siswa, yang tidak tersedia dalam basis data penduduk umum (Dukcapil). Sampai dengan saat ini, pemerintah baru menanggapi laporan ini dengan sanggahan, tanpa memberitahukan metodologi dan proses investigasi yang dilakukan kepada masyarakat.
Dampak Insiden AI ke berbagai Demografis
Tindakan kekerasan seksual menggunakan bantuan AI seperti pembuatan konten intim non-konsensual (NCII), juga telah menimpa banyak korban. Salah satunya seorang jurnalis warga, Afina Syifa Biladina, yang menjadi sasaran teror daring setelah ia menyuarakan kesusahan warga Aceh, serta mengungkap kondisi memprihatinkan pascabencana ekologis banjir bandang Sumatera pada November 2025. Ia dikirimi ribuan NCII bergambar wajahnya yang dibuat menggunakan AI. Selain diserang buzzer, ada pula akun-akun acak yang menyamar sebagai ayahnya, digunakan untuk meneror rekan-rekannya.
Dalam kasus perbudakan tenaga kerja berbasis algoritma, Center for Digital Society (CfDS) menemukan bahwa penggunaan algoritma dalam menjalankan sistem e-hailing di Jakarta dan Gunungkidul berdampak langsung pada kesejahteraan para pekerja pengemudi layanan transportasi daring. Mereka dibuat bekerja hingga 12 jam sehari hanya untuk mencapai upah minimum daerah masing-masing. Sudah beberapa kali mitra e-hailing dikabarkan sakit hingga meninggal karena kurang tidur, kelelahan, dan kelaparan akibat jam kerja dan upah yang tidak realistis.
Dalam sebuah unggahan viral di Threads pada Maret 2026, seorang pengemudi anonim juga membongkar realita proses bisnis layanan transportasi daring. Ia menyinggung program insentif berbasis algoritma yang tidak realistis, hukuman otomatis yang tidak proporsional kepada mitra, dan sistem penilaian yang mendiskriminasi baik mitra maupun pelanggan. Menurutnya, semua ini menyebabkan penurunan kualitas layanan dan kesejahteraan mitra.
Beberapa contoh kasus insiden AI di atas jelas menunjukkan bahwa penggunaan AI di sektor privat memiliki dampak berlapis kepada para korban terdampak, dan oleh karena itu perlu menjadi perhatian khusus oleh berbagai pihak, khususnya para pembuat kebijakan. Untuk mengetahui lebih lanjut terkait masing-masing insiden serta taksonomi yang kami gunakan, silakan kunjungi laman MMAAAII di bawah.
Tulisan ini dibuat oleh Siti Desyana, berkolaborasi dengan Marina Nasution dan ilustrator Amry Al Mursalaat.