Oleh: Juneman Abraham

Selama bertahun-tahun, istilah Responsible AI atau “AI yang bertanggung jawab” hanya menggema di ruang-ruang diskusi sebagai slogan etis yang elok, namun sering kali ompong tanpa daya paksa.

Bagaimana jika algoritma AI yang dikembangkan berefek pada pelanggaran privasi, diskriminasi, cognitive hijacking bahkan hoaks masal di tengah masyarakat? Di tengah ruang hampa regulasi, perusahaan pengembang AI kerap berlindung di balik “tameng intelektual”, yakni sebuah narasi yang menyalahkan bias/distorsi algoritma atau halusinasi teknis sebagai kecelakaan yang tak terhindarkan.

Namun, sejak Januari 2026, tameng tersebut, juga regulatory sandbox yang bersifat akomodatif, kini harus berhadapan dengan realitas hukum yang tegas. Berlakunya Kitab Undang-Undang Hukum Pidana (KUHP) Nasional yang baru menjadi titik balik fundamental.

Keterbatasan Regulatory Sandbox

Di satu sisi, pendekatan positif Kementerian Komunikasi dan Digital (Komdigi) dan Kementerian/Lembaga lain (seperti Kemenkes, OJK, dan sebagainya) melalui instrumen regulatory sandbox patut dipuji. Pendekatan ini membuka ruang uji coba inovasi AI dalam lingkungan terkendali.

Kendati begitu, kita harus mengakui juga bahwa pengaturan sandboxing ini bukanlah hard law, melainkan lebih bersifat preventif, pemandu etis, dan fasilitatif. Masalahnya, soft law yang demikian tidak akan mampu “berbuat sesuatu” apabila produk AI yang lulus sandboxing ternyata – amit-amit – di kemudian hari melakukan kejahatan sistematik, lebih-lebih yang direncanakan secara samar, gradual, dan melahirkan bencana kemanusiaan oleh perusahaan pengembangnya.

Dalam konteks tersebut, KUHP Nasional menjadi game changer, tonggak penyeimbang yang memberikan kepastian konsekuensi bagi korporasi pengembang AI. Dengan begitu, responsible AI tidak lagi sebatas menjadi jargon branding dan marketing yang menguntungkan bisnis, melainkan benar-benar harus diimplementasikan.

Mengapa demikian? Melalui Pasal 45 KUHP Nasional, korporasi ditegaskan sebagai subjek hukum pidana. Dalam konteks pengembangan AI, hal ini berimplikasi adanya pergeseran pertanggung jawaban hukum, yakni dari mencari “programmer yang salah” menjadi menjawab “bagaimana kebijakaan perusahaan yang membuka celah risiko itu terjadi”.

Hal ini berarti bahwa teknologi AI yang dikembangkan diposisikan bukan sebagai “barang netral”, melainkan ekstensi atau perpanjangan dari kepentingan badan/lembaga pengembangnya.

Jika sebuah AI generatif memproduksi dan/atau menyebarkan disinformasi atau diskriminasi, kita tidak bisa lagi serta-merta menyalahkan barisan kode algoritmik. KUHP Nasional memperkenalkan penguatan doktrin Corporate Mens Rea (niat korporasi). Jika sebuah perusahaan meluncurkan produk AI tanpa sistem mitigasi risiko yang layak (seperti safety guardrails yang ketat) maka kegagalan sistem tersebut dianggap sebagai cerminan dari kehendak korporasi.

Penegak hukum tidak perlu lagi bersusah-payah membuktikan kesalahan individu (misalnya direktur atau insinyur tertentu) di dalam perusahaan. Cukup dengan membuktikan bahwa sistem AI tersebut menimbulkan kerugian masyarakat akibat kebijakan atau kelalaian korporasi (meskipun, tentu saja, perlu kehati-hatian tinggi dalam menilainya), maka perusahaan tersebut dapat dijadikan tersangka.

Perkembangan ini sebenarnya pukulan atau antitesis bagi motto “move fast and break things” yang dianut sebagian perusahaan teknologi. KUHP Nasional memaksa perusahaan untuk melibatkan sejak dini, dalam sebuah ethics by design, para pengurus dan pekerja di perusahaan AI serta masyarakat calon pengguna.

Jika perusahaan AI tidak sanggup membuktikan adanya budaya kepatuhan dan mitigasi risiko yang ketat, mereka secara otomatis dianggap bersalah. Sanksinya pun bisa berat, dapat berupa denda hingga pencabutan hak mengedarkan model AI kepada publik, bahkan pencabutan izin usaha.

 

Ilustrasi Audit Kebijakan Koporat di balik Program Robot
Ilustrasi Audit Kebijakan Koporat di balik Program Robot

“Paksaan Etis”

Kedaulatan digital kita tidak boleh digantungkan pada janji manis, melainkan harus dijaga oleh hukum yang memagari dengan kuat. Tanpa hard law yang memiliki daya paksa, regulatory sandbox (padanan bahasa Indonesia: wadah uji terlindung) berisiko menjadi sekadar “taman bermain”, dan algorithmic bias menjadi “tameng intelektual” tanpa konsekuensi nyata.

Harus ditegaskan juga bahwa dalam konteks ini, KUHP Nasional (UU No. 1 Tahun 2023) hadir bukan untuk membunuh inovasi, melainkan untuk memberikan pagar pembatas yang jelas. Bahwa inovasi AI yang merugikan publik secara sistemik adalah tindak pidana korporasi. Janganlah disimpangkan oleh siapapun sehingga KUHP baru ini menjadi potensi kriminalisasi inovasi atau juga diwacanakan sebagai penanda bakal gelapnya iklim investasi AI.

Indonesia justru melakukan lompatan besar dalam hal ini, dengan tidak lagi hanya mengukur dan mengatur perilaku perseorangan, melainkan juga perilaku entitas bisnis yang menghasilkan algoritma AI. Perilaku entitas bisnis dipengaruhi oleh keyakinan sosial dan praktik budaya yang dianutnya. Kedua hal inilah pembentuk “hati korporasi”.

“Hati Korporasi”

“Dalamnya laut dapat diukur, dalamnya hati siapa tahu,” demikian peribahasa kita mengatakan. Dengan KUHP Nasional, negara tak lagi perlu lagi menebak isi hati pengembang; bias algoritma tak dapat lagi ditoleransi khususnya jika itu berasal dari hati korporasi yang dingin terhadap risiko sosial.

Inilah momentum perusahaan-perusahaan pengembang AI jujur dengan diri sendiri, membedakan mana galat (error) teknis yang tak terelakkan dan mana kelalaian sistemik yang sengaja dibiarkan (ignorance).

Hanya dengan keberanian mengakui celah tersebut (dan memperbaikinya sebelum menjadi perkara), responsible AI akan bertransformasi dari sekadar jargon etis menjadi sebuah kesejatian praktik sehari-hari.

Pada akhirnya, segenap perkembangan ini akan mendukung iklim cerah pengembangan dan investasi AI yang bertanggung jawab di negeri yang kita cintai.

Penulis:

Juneman Abraham merupakan Profesor Psikologi Sosial dan Peneliti Psikoinformatika pada Universitas Bina Nusantara

Republished from Retizen