Seri 29 Analisis Politik dan Kebijakan Publik.
Dr. Dr. Ir. Mas Wigrantoro Roes Setiyadi SE, SKom, MSi, MPP. Alumni PPNK Angkatan 119 Kolaboratif Kemhannas RI. Founder Mega Mas Abadi Center for Management & Public Policy
Artificial Intelligence (AI) atau kecerdasan artifisial bukan lagi teknologi masa depan. Ia telah menjadi bagian dari kehidupan sehari-hari. Masyarakat menggunakan AI untuk mencari informasi, membuat tulisan, menghasilkan gambar dan video, menerjemahkan bahasa, membantu pekerjaan, belajar, menganalisis data, bahkan mendukung pengambilan keputusan. Pemerintah juga mulai melihat AI sebagai instrumen penting untuk meningkatkan produktivitas, kualitas pelayanan publik, kesehatan, pendidikan, dan perekonomian. Pada September 2026, pemerintah bahkan menekankan gagasan Meaningful AI, yakni AI yang memberikan manfaat nyata bagi masyarakat.
Namun, semakin luas penggunaan AI, semakin besar pula ruang penyalahgunaannya. Pertanyaan pentingnya bukan lagi apakah Indonesia membutuhkan tata kelola AI, melainkan seberapa cepat dan seberapa komprehensif tata kelola tersebut harus dibangun.
AI dapat menghasilkan informasi palsu dengan tingkat kemiripan yang semakin sulit dibedakan dari kenyataan. Teknologi deepfake memungkinkan wajah dan suara seseorang direkayasa. AI juga dapat digunakan untuk penipuan, manipulasi informasi, pemalsuan dokumen, pencurian identitas, pelanggaran privasi, produksi konten seksual tanpa persetujuan, manipulasi opini publik, serangan siber, maupun berbagai bentuk kejahatan baru yang belum sepenuhnya dikenal oleh hukum konvensional.
Persoalannya menjadi lebih serius karena AI bekerja berdasarkan data. Semakin besar data yang tersedia, semakin besar pula kemampuan sistem untuk menghasilkan prediksi atau keputusan. Karena itu, persoalan AI sesungguhnya tidak hanya persoalan teknologi, tetapi juga persoalan kekuasaan atas data, privasi, tanggung jawab, keamanan, dan hak warga negara. Pemerintah sendiri telah menegaskan bahwa perlindungan data pribadi merupakan bagian penting dari tata kelola AI dan Indonesia telah memiliki Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi.
Pertanyaan berikutnya adalah: apakah Indonesia perlu membuat undang-undang khusus tentang AI?
Jawabannya tidak sederhana. Membuat undang-undang baru tidak otomatis berarti masalah selesai. Regulasi yang terlalu cepat, terlalu rinci, dan tidak adaptif justru berpotensi menghambat inovasi. AI berkembang jauh lebih cepat daripada siklus pembentukan undang-undang. Teknologi yang dianggap mutakhir hari ini dapat berubah dalam hitungan bulan. Karena itu, regulasi AI tidak seharusnya hanya berorientasi pada teknologi yang sedang populer, tetapi pada prinsip, risiko, tanggung jawab, dan perlindungan kepentingan publik.
Pemerintah Indonesia tampaknya menyadari persoalan tersebut. Pada 2026, pemerintah menyelesaikan pembahasan rancangan Peraturan Presiden tentang Etika Kecerdasan Artifisial dan Peta Jalan AI Nasional 2026–2029. Pemerintah juga menyatakan bahwa Perpres tersebut akan menjadi tahap awal sebelum penyusunan Undang-Undang AI yang lebih komprehensif.
Pendekatan bertahap tersebut memiliki logika kebijakan yang penting. Negara tidak perlu memilih antara “membebaskan AI” atau “melarang AI”. Yang dibutuhkan adalah tata kelola berbasis risiko. AI yang digunakan untuk membantu membuat desain sederhana tentu tidak dapat diperlakukan sama dengan AI yang digunakan untuk menentukan kelayakan kredit, diagnosis medis, rekrutmen tenaga kerja, penegakan hukum, pendidikan, atau pelayanan publik.
Semakin besar konsekuensi suatu sistem terhadap kehidupan manusia, semakin tinggi pula tuntutan transparansi, pengawasan, audit, dan pertanggungjawabannya.
Dalam konteks tersebut, apabila kelak Indonesia membentuk Undang-Undang AI, substansinya sebaiknya tidak berhenti pada larangan. Undang-undang harus menjawab setidaknya beberapa pertanyaan mendasar: siapa yang bertanggung jawab ketika AI menghasilkan keputusan yang merugikan? Siapa yang bertanggung jawab apabila data pelatihan diperoleh secara melawan hukum? Bagaimana warga dapat menggugat keputusan yang dibuat atau dibantu oleh AI? Kapan penggunaan AI wajib diberitahukan kepada masyarakat? Bagaimana konten sintetis atau deepfake dapat diberi penanda? Bagaimana mekanisme audit terhadap AI berisiko tinggi? Dan bagaimana memastikan manusia tetap memiliki kendali terhadap keputusan yang berdampak besar?
Pertanyaan tentang pertanggungjawaban menjadi semakin penting karena AI telah bergerak dari sekadar memberikan jawaban menuju sistem yang dapat merencanakan dan melakukan tindakan secara lebih mandiri. Pemerintah sendiri mengakui munculnya persoalan baru: ketika AI melakukan suatu tindakan dan tindakan itu salah, siapa yang harus bertanggung jawab?
Di sinilah konsep human oversight menjadi penting. AI tidak boleh menjadi alasan manusia melepaskan tanggung jawab. “AI yang menyatakan demikian” tidak boleh menjadi pembenaran bagi pejabat publik, perusahaan, dokter, bank, sekolah, atau institusi lain untuk menghindari pertanggungjawaban. AI adalah alat bantu pengambilan keputusan, bukan pengganti tanggung jawab manusia.
Prinsip tersebut sejalan dengan rekomendasi UNESCO yang menempatkan martabat manusia, hak asasi, transparansi, keadilan, privasi, keamanan, tanggung jawab, dan pengawasan manusia sebagai prinsip penting tata kelola AI. UNESCO juga menekankan bahwa pengaturan AI membutuhkan pendekatan adaptif dan kolaborasi berbagai pemangku kepentingan.
Dengan demikian, kebutuhan Indonesia bukan semata-mata “undang-undang pencegahan penyalahgunaan AI”, tetapi sebuah ekosistem hukum AI. Undang-undang khusus dapat menjadi salah satu komponennya, sementara aturan sektoral, perlindungan data pribadi, hukum pidana, hukum perdata, perlindungan konsumen, keamanan siber, dan regulasi penyelenggara sistem elektronik tetap memiliki peran.
Ada pula dimensi kelembagaan. Siapa regulator utama AI? Siapa melakukan audit? Siapa menerima pengaduan masyarakat? Siapa melakukan investigasi ketika AI menimbulkan kerugian? Apakah diperlukan lembaga khusus atau cukup memperkuat koordinasi antarlembaga? Tanpa kapasitas pengawasan, undang-undang dapat berubah menjadi dokumen normatif yang bagus tetapi lemah dalam pelaksanaan.
Hal lain yang tidak kalah penting adalah literasi AI. Penyalahgunaan AI tidak selalu terjadi karena teknologi itu sendiri, tetapi karena pengguna tidak memahami batas, risiko, dan konsekuensinya. Karena itu, pendidikan publik mengenai verifikasi informasi, privasi, keamanan digital, hak cipta, deepfake, dan penggunaan AI secara bertanggung jawab harus berjalan bersamaan dengan regulasi.
Indonesia juga harus berhati-hati agar regulasi tidak menciptakan ketakutan terhadap inovasi. AI memiliki potensi besar untuk meningkatkan produktivitas nasional. Jika regulasi terlalu represif, perusahaan rintisan dan peneliti dapat menghadapi biaya kepatuhan yang tinggi. Sebaliknya, jika regulasi terlalu longgar, masyarakat dapat menanggung biaya sosial yang jauh lebih besar.
Karena itu, prinsip dasarnya bukan “regulasi sebanyak mungkin”, melainkan “regulasi secukupnya untuk melindungi manusia dan mendorong inovasi”. Pemerintah sendiri menyatakan bahwa regulasi AI tidak seharusnya dibuat secara reaksioner karena teknologi berkembang cepat dan digunakan dalam berbagai sektor.
Pada akhirnya, Indonesia memang perlu mempersiapkan Undang-Undang AI. Tetapi urgensinya harus ditempatkan dalam kerangka yang lebih luas: membangun tata kelola AI yang aman, transparan, akuntabel, adaptif, dan berorientasi pada manusia.
Tantangan terbesar bukan sekadar bagaimana mencegah AI disalahgunakan. Tantangan yang lebih mendasar adalah memastikan bahwa manusia tidak menyalahgunakan AI, sementara negara tidak menggunakan alasan “pengamanan AI” untuk membatasi inovasi dan hak warga secara berlebihan.
AI harus tetap menjadi alat untuk memperkuat manusia, bukan instrumen untuk menggantikan tanggung jawab manusia. Karena itu, ukuran keberhasilan regulasi AI bukan banyaknya larangan yang dibuat, melainkan sejauh mana hukum mampu menciptakan keseimbangan antara inovasi, keamanan, kebebasan, privasi, dan kepentingan publik.
Jika Indonesia ingin menjadi negara maju pada 2045, maka AI tidak cukup hanya dikuasai secara teknologis. Indonesia juga harus menguasai tata kelolanya. Sebab pada akhirnya, masa depan AI bukan hanya ditentukan oleh seberapa pintar mesinnya, tetapi oleh seberapa bijaksana manusia menggunakannya.*****
Rempoa 16 September 2026