Ketika Algoritma Menguji Konstitusi: Reorganisasi Sistem Hukum Indonesia Menghadapi Artificial Intelligence

Regulasi AI Indonesia dan Tantangan Rule of Law di Era Algoritma

Oleh : Muhammad Nur Haikal, S.H.

Perkembangan artificial intelligence (AI) atau kecerdasan artifisial membawa perubahan besar dalam kehidupan masyarakat, termasuk dalam pengambilan keputusan, pelayanan publik, bisnis, kesehatan, keuangan, dan penegakan hukum. Di sisi lain, penggunaan AI menghadirkan persoalan baru bagi sistem hukum Indonesia.

Pertanyaan utamanya bukan lagi apakah AI dapat digunakan dalam kehidupan hukum, melainkan bagaimana hukum memastikan penggunaan AI tetap tunduk pada prinsip negara hukum dan konstitusi.

Dalam tradisi rule of law, hukum harus menjadi dasar pembatasan kekuasaan sekaligus memberikan kepastian, kesetaraan, dan pertanggungjawaban. Prinsip tersebut juga memiliki landasan konstitusional dalam Pasal 1 ayat (3) UUD 1945 yang menegaskan bahwa Indonesia adalah negara hukum.

AI dan Tantangan Rule of Law

Sistem machine learning dapat menghasilkan keputusan berdasarkan pola data yang kompleks. Dalam beberapa kondisi, proses tersebut sulit dijelaskan secara sederhana sehingga dikenal dengan istilah black box.

Kondisi ini dapat menimbulkan persoalan kepastian hukum. Seseorang yang memperoleh keputusan berdasarkan AI perlu mengetahui alasan dan dasar keputusan tersebut, terutama apabila keputusan itu berdampak terhadap hak atau kepentingannya.

AI juga dapat menghadirkan persoalan kesetaraan di hadapan hukum. Data yang mengandung bias historis berpotensi menghasilkan keputusan yang diskriminatif. Masalahnya, bias algoritmik tidak selalu terlihat secara langsung karena tersembunyi dalam proses pengolahan data.

Persoalan berikutnya adalah akuntabilitas. Pengembangan dan penggunaan AI dapat melibatkan pengembang, penyedia data, penyelenggara sistem, perusahaan, hingga pengguna akhir. Ketika sistem AI menyebabkan kerugian, perlu ditentukan pihak yang secara hukum harus bertanggung jawab.

Risiko tersebut semakin besar ketika AI digunakan oleh pemerintah. Pemanfaatan AI untuk pengawasan, pelayanan publik, penilaian risiko, atau penegakan hukum harus tetap memberikan ruang bagi pengawasan manusia, keberatan, dan mekanisme pemulihan.

Status AI dalam Sistem Hukum Indonesia

Dalam hukum Indonesia saat ini, AI belum berkedudukan sebagai legal person atau subjek hukum mandiri. AI merupakan teknologi yang digunakan oleh manusia maupun badan hukum.

Konsekuensinya, apabila penggunaan AI menyebabkan kerugian, pertanggungjawaban tidak dapat dialihkan kepada algoritma. Penentuan tanggung jawab harus diarahkan kepada manusia atau badan hukum yang memiliki hubungan hukum dengan penggunaan sistem tersebut.

Prinsip ini penting untuk mencegah munculnya liability gap, yaitu kondisi ketika tidak jelas siapa yang harus bertanggung jawab atas keputusan atau tindakan yang dihasilkan AI.

Regulasi AI Indonesia Masih dalam Masa Transisi

Indonesia saat ini berada dalam tahap perkembangan tata kelola AI dari pendekatan soft law menuju regulasi yang lebih mengikat. Salah satu instrumen yang telah diterbitkan adalah Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial. Pedoman tersebut memberikan prinsip etika dalam pemanfaatan AI, tetapi belum membentuk rezim hukum komprehensif dengan mekanisme sanksi sebagaimana undang-undang.

Pemerintah kemudian menyusun Rancangan Peraturan Presiden tentang Etika Kecerdasan Artifisial serta Peta Jalan Kecerdasan Artifisial Nasional 2026–2029. Pada 2026, kedua rancangan tersebut telah melalui proses pembahasan lintas kementerian dan diarahkan menuju tahap penetapan.

Krisis Pembuktian dan Pertanggungjawaban

Salah satu persoalan penting dalam hukum AI adalah kesenjangan antara proses algoritmik dan mekanisme pembuktian hukum.

Dalam perkara perdata, misalnya, korban harus membuktikan adanya perbuatan melawan hukum, kesalahan, kerugian, serta hubungan sebab-akibat. Persoalan menjadi lebih kompleks apabila kerugian muncul dari keputusan AI yang prosesnya sulit dijelaskan.

Kondisi tersebut dikenal sebagai explainability gap.

Oleh karena itu, hukum perlu mendorong adanya transparansi algoritmik, dokumentasi sistem, audit trail, dan mekanisme audit. Instrumen tersebut memungkinkan proses pengambilan keputusan AI ditelusuri apabila terjadi sengketa.

Dalam hukum pidana, persoalan menjadi lebih kompleks karena AI tidak memiliki kehendak dan kesadaran hukum seperti manusia. Pertanggungjawaban karena itu harus tetap diarahkan kepada subjek hukum yang dapat dimintai pertanggungjawaban berdasarkan ketentuan pidana yang berlaku.

Model Regulasi AI: Berbasis Risiko atau Sektoral?

Perkembangan global menunjukkan adanya berbagai model regulasi AI. Uni Eropa, misalnya, menerapkan pendekatan risk-based approach melalui EU AI Act. Sistem AI dikategorikan berdasarkan tingkat risikonya sehingga kewajiban hukum dapat disesuaikan dengan potensi dampaknya.

Indonesia cenderung membangun tata kelola yang menggabungkan kerangka nasional dengan pengaturan sektoral oleh kementerian dan lembaga terkait.

Pendekatan tersebut memberikan fleksibilitas, tetapi juga memiliki risiko fragmentasi regulasi. Perbedaan aturan antar-sektor dapat menimbulkan tumpang tindih, inkonsistensi, atau kekosongan hukum untuk AI yang digunakan lintas bidang. Karena itu, Indonesia membutuhkan prinsip nasional yang dapat menjadi dasar bagi seluruh regulasi sektoral.

Enam Prinsip Regulasi AI Indonesia

Agar perkembangan regulasi AI tetap sesuai dengan prinsip rule of law, setidaknya terdapat enam prinsip yang perlu diperhatikan.

1. Netralitas teknologi. Hukum harus berfokus pada perilaku, risiko, dan akibat hukum, bukan hanya jenis teknologi tertentu.
2. Proporsionalitas berbasis risiko. AI yang berdampak tinggi terhadap hak masyarakat harus memperoleh kewajiban dan pengawasan yang lebih ketat.
3. Akuntabilitas terukur. Sistem AI yang berisiko perlu memiliki dokumentasi, audit trail, transparansi, dan mekanisme pengawasan manusia.
4. Partisipasi dan transparansi. Pembentukan regulasi harus melibatkan pemerintah, akademisi, industri, masyarakat sipil, dan kelompok yang terdampak.
5. Perlindungan hak asasi manusia. Efisiensi teknologi tidak boleh mengurangi hak atas privasi, kesetaraan, kepastian hukum, dan proses hukum yang adil.
6. Kepastian transisi. Peralihan dari pedoman etika menuju regulasi yang mengikat harus disertai aturan peralihan yang jelas.

Artificial intelligence tidak berada di luar jangkauan hukum. Sebaliknya, perkembangan AI menunjukkan bahwa sistem hukum Indonesia harus beradaptasi agar prinsip rule of law tetap efektif di era algoritma.

Tantangan utama bukan hanya bagaimana membuat regulasi AI, tetapi bagaimana memastikan kepastian hukum, kesetaraan, akuntabilitas, dan pembatasan kekuasaan tetap berjalan ketika keputusan semakin banyak dimediasi oleh teknologi.

Indonesia tidak mengalami kekosongan hukum selama regulasi khusus AI belum berlaku karena berbagai peraturan yang telah ada tetap dapat digunakan sesuai dengan objek dan konteks hukumnya. Namun, diperlukan harmonisasi dan penguatan regulasi agar tidak terjadi kesenjangan pertanggungjawaban maupun fragmentasi norma.

Pada akhirnya, AI boleh semakin canggih, tetapi tanggung jawab hukum tidak boleh semakin kabur. Reorganisasi sistem hukum Indonesia harus memastikan bahwa algoritma tetap berada dalam kendali hukum, sementara hukum tetap berorientasi pada perlindungan manusia dan konstitusi.