Pemantauan media merupakan salah satu inisiatif EngageMedia dalam menghimpun laporan publik mengenai insiden Akal Imitasi (AI) untuk memahami bagaimana AI berdampak pada masyarakat. Termasuk di dalamnya memantau apa saja masalah yang kerap timbul oleh penggunaan AI di Indonesia, tren insiden AI, teknologi yang paling banyak terlibat, dan dampak yang ditimbulkan jika hak masyarakat dilanggar. Pengambilan data diperoleh dari berbagai sumber, termasuk dan tidak terbatas pada media sosial (X, Facebook, Reddit, Tiktok, Instagram), media berita kredibel seperti Tempo dan Kompas, dan laporan dari pihak ketiga yang menyampaikan insiden AI secara langsung. 

Fokus pengumpulan laporan dan analisis mencakup: 

1. Disebabkan oleh pengembangan, penerapan, atau penggunaan AI baik secara parsial maupun total; 
2. Terjadi dalam lingkup kepentingan publik (public interest);
3. Berdampak pada individu/grup kecil/usaha kecil dan menengah (UMKM); 
4. Terdapat kerugian materiil terhadap korban dan/atau komunitas mereka terkait aspek fisik dan otonomi tubuh; psikologis mental, keuangan dan ekonomi, hak asasi manusia dan kebebasan sipil, serta degradasi budaya dan moral. 

Pemantauan media ini menghimpun berbagai insiden AI yang berhubungan dengan kepentingan publik sepanjang tahun 2022-2025. Dengan situasi pemantauan tahun 2025 masih terus berkembang, brief ini fokus mengekspos hasil pemantauan sepanjang tahun 2022-2024. 
Secara umum, sebanyak 29 insiden yang diduga diakibatkan karena penerapan AI terjadi sepanjang 2022-2024. Pada 2022 hingga 2023, terjadi sebanyak 6 insiden dengan konteks situasi pemerintah Indonesia belum mengimplementasikan surat edaran tentang AI. Setelahnya, pada 2024, terjadi 23 insiden dan saat itu Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial mulai diimplementasikan.

Dari 29 insiden AI tersebut, tim pemantau mengelompokkannya ke dalam 6 jenis potensi dampak terhadap pelanggaran HAM: dampak otonomi & reputasi (11 kasus), dampak fisik, dampak psikologis (3 kasus), dampak ekonomi & bisnis (10 kasus),  dampak hak asasi & kebebasan sipil (9 kasus), dampak sosial & budaya (9 kasus). 

Dalam dampak otonomi & reputasi, tim pemantau menemukan sebuah kasus yang terjadi pada Juni 2024. Kelompok anonim Rahasia Mantan yang beroperasi di kanal komunikasi Telegram, mengiklankan layanan untuk mendapat foto & video telanjang/pornografi dari orang yang diminta (gadis di bawah umur dan perempuan yang tidak memberikan persetujuan sukarela) dengan memasukkan gambar mereka ke alat Generative AI Deepfake dan memerintahkan Deepfake untuk merekayasa gambar tersebut. Para partisipan dapat mengakses layanan itu lewat sebuah Google Form yang beredar luas di media sosial X.

Contoh lain, dalam dampak hak kekayaan intelektual yang berimbas ke ekonomi & bisnis, terjadi pada sebuah kasus yang melibatkan para penulis terkemuka seperti Pramoedya Ananta Toer, Intan Paramaditha, dan Eka Kurniawan pada September 2027. Tanpa izin, buku-buku karya mereka masuk dalam perpustakaan besar yang digunakan oleh perusahaan AI terkemuka seperti Meta untuk melatih sistem AI mereka. 

Varian contoh lainnya, terkait dampak hak asasi & kebebasan sipil, terjadi beberapa kali pada 2022 dan 2023. Sistem tilang elektronik (E-TLE) menindak seseorang atas pelanggaran yang dilakukan oleh orang lain yang memalsukan nomor pelat kendaraannya. Orang tersebut mengklarifikasi bahwa mobil miliknya yang terdaftar dengan nomor pelat asli memiliki warna dan spesifikasi bodi yang berbeda dengan mobil yang tertangkap kamera menggunakan pelat palsu. Orang yang tertangkap oleh sistem tersebut juga merupakan orang yang berbeda dengan orang yang dikenai tilang.

Tim pemantau juga  mengelompokkan insiden-insiden AI ini ke dalam 11 klaster tipe insiden. Di antaranya: akurasi/keandalan (9 kasus), kelalaian/berakibat tindakan kriminal (7 kasus), otentisitas/integritas (7 kasus), keselamatan dan keamanan (2 kasus), aksesibilitas (1 kasus), bisnis/pekerjaan (2 kasus).

Dalam klaster tipe insiden transparansi dan akuntabilitas, misalnya, terjadi pada perusahaan aplikasi transportasi online (hailing app) pada Februari 2023 dan Desember 2024. Satu kasus, para pengemudi dan seorang pelanggan berselisih karena perbedaan tarif harga yang ditampilkan di aplikasi mereka masing-masing. Untuk menghindari konflik lebih lanjut, pelanggan membayar pengemudi lebih besar dari harga di aplikasi dan melaporkan masalah ini ke perusahaan hailing app, tetapi penyelesaiannya belum diumumkan.  Di kasus lain, para mitra pengemudi melaporkan bahwa mereka semakin jarang mendapat pelanggan akibat sistem yang digamifikasi, yaitu pengemudi harus mencapai level tertentu untuk bisa menerima jumlah pelanggan tertentu. Sistem ini memaksa para pengemudi untuk bekerja lebih lama hingga lebih dari 12 jam dalam satu hari.

Selain tipe insiden, ada juga pengelompokan berdasar jenis kebaruan/eksisting insiden, siklus tahapan AI, dan tipe teknologi yang digunakan. Sebanyak 25 kasus insiden AI adalah kasus baru, sementara sisanya 2 kasus berlanjut, dan 2 kasus berulang. Di bagian siklus tahapan AI, paling banyak terjadi insiden AI saat tahap pengaplikasian (19 kasus), kemudian 5 kasus di tahapan model output, dan 4 kasus di tahap pengoleksian data. Di bagian kategori tipe teknologi, tim pemantau menemukan teknologi yang paling banyak digunakan yaitu AI Generatif (15 kasus), menyusul posisi kedua dan ketiga adalah pemrosesan bahasa alami (NLP)/analisis teks (6 kasus), dan pengenalan identitas (5 kasus). 

Aktor-aktor terkait yang bertindak sebagai pengembang, penggelar, maupun pengguna, juga masuk dalam pengelompokan insiden AI. Ada aktor dari perusahaan teknologi besar (big tech) sebanyak 9 kasus, lalu aparat penegak hukum (2 kasus),  perusahaan hailing app (2 kasus), dan perusahaan transportasi darat jarak jauh (2 kasus). 

Terakhir, tim pemantau mengaitkan insiden-insiden AI dengan berbagai regulasi dan kebijakan eksisting yang relevan. Lima regulasi terbanyak, di antaranya: UUD Pasal 28 ayat 1 tentang hak asasi manusia, UU 39/1999 tentang HAM, UU 27/2022 tentang Perlindungan Data Pribadi, UU 1/2024 tentang ITE, dan UU 1/2023 tentang Hukum Pidana (KUHP Baru). 

Secara lengkap, ada sekitar 12 regulasi dan kebijakan eksisting yang relevan yang dapat menjadi tautan hukum untuk menganalisis 29 insiden AI yang terjadi sepanjang 2022-2024. Berikut senarainya:

1. Undang-Undang Dasar Negara Republik Indonesia Tahun 1945 (UUD 1945) Pasal 28D ayat (1)
2. Undang-Undang Nomor 39 Tahun 1999 tentang Hak Asasi Manusia (UU HAM), Pasal 9, 17, 38
3. UU No. 1/2023 tentang Hukum Pidana (KUHP Baru), Pasal 243, 263, 264, 282, 495 
4. UU No. 44 Tahun 2008 tentang Pornografi, Pasal 4, 7, 9, 10
5. UU No. 1/2024 tentang ITE Pasal 27,28, 45
6. UU No. 12/2022 tentang Tindak Pidana Kekerasan Seksual (TPKS), Pasal 4, 5, 14
7. UU No. 27/ 2022 tentang Perlindungan Data Pribadi (PDP), Pasal 10,16, 65, 67
8. UU No. 8/1999 tentang Perlindungan Konsumen Pasal 4 (3) & (8), 17, 
9. UU No. 40/2008 tentang Penghapusan Diskriminasi Ras dan Etnis, Pasal 16
10. UU No. 28/2014 tentang Hak Cipta, Pasal 9, 12
11. Permenristekdikti No. 22/2022 tentang Standar Mutu Buku, Standar Proses dan Kaidah Pemerolehan Naskah, serta Standar Proses dan Kaidah Penerbitan Buku, Pasal 9(6)

Selain aturan-aturan relevan ini, tim pemantau juga melihat adanya celah regulasi yang perlu menjadi perhatian pemerintah untuk mengantisipasi masalah dalam penggunaan AI. Satu kasus terjadi pada Juli 2024, sebuah universitas terkemuka di Indonesia mencurigai sejumlah pendaftar yang diduga menggunakan bantuan AI saat tes masuk universitas. Dalam hal ini, kecurangan di konteks pendidikan belum memiliki tautan hukum yang konkrit di regulasi nasional, sehingga pertanggungjawaban penyelesaiannya hanya didasarkan dengan aturan khusus yang dimiliki oleh masing-masing lembaga pendidikan. 

Secara terperinci, hasil pemantauan media ini dapat dilihat di sini.

Tulisan ini dibuat oleh Marina Nasution, berkolaborasi dengan Siti Desyana, Amry Al Mursalaat, dan Debby Kristin.