Komisi I DPR Ingatkan Bahaya AI Manipulasi Wajah Untuk Pornografi!

RAJAMEDIA.CO - Jakarta, Legislator — Anggota Komisi I DPR RI Amelia Anggraini menegaskan penyalahgunaan teknologi kecerdasan buatan (AI), termasuk Grok AI, untuk memproduksi dan menyebarkan konten pornografi berbasis foto atau video orang nyata tanpa persetujuan merupakan pelanggaran serius terhadap martabat manusia, hak privasi, dan pelindungan data pribadi.
 

Menurut Amelia, praktik manipulasi wajah, foto, maupun identitas visual seseorang ke dalam konten asusila tidak bisa dipandang sekadar persoalan kesusilaan. Tindakan tersebut telah masuk kategori kekerasan berbasis teknologi yang berdampak luas bagi korban.
 

“Ketika identitas visual seseorang dimanipulasi tanpa izin untuk konten asusila, itu merupakan bentuk perampasan hak individu atas citra dirinya,” tegas Amelia dalam keterangan yang diterima Parlementaria, Jumat (9/1/2026).
 

Kekerasan Digital dengan Dampak Nyata
 

Legislator Fraksi Partai NasDem itu menilai, penyalahgunaan AI semacam ini berpotensi menimbulkan kerugian psikologis, sosial, hingga reputasional yang serius bagi korban. Bahkan, dalam banyak kasus, dampaknya bisa lebih panjang dibandingkan kekerasan konvensional karena jejak digital sulit dihapus sepenuhnya.
 

Ia mengingatkan, teknologi seharusnya menjadi alat kemajuan peradaban, bukan sarana melanggengkan eksploitasi dan kekerasan berbasis gender maupun identitas.
 

Soroti Lemahnya Pengamanan Grok AI
 

Amelia mencatat temuan Kementerian Komunikasi dan Digital melalui Direktorat Jenderal Pengawasan Ruang Digital yang menyebutkan Grok AI belum memiliki pengaturan eksplisit dan memadai untuk mencegah produksi serta distribusi pornografi berbasis foto nyata.
 

“Temuan ini harus menjadi alarm serius bagi pemerintah. Negara tidak boleh menunggu sampai korban berjatuhan dan kasusnya viral,” tegasnya.
 

Ia meminta Kemkomdigi bersikap proaktif dengan langkah kebijakan yang tegas, terukur, dan dapat diawasi publik.
 

UU PDP Jadi Landasan Tegas Negara
 

Dalam perspektif Undang-Undang Pelindungan Data Pribadi (UU PDP), Amelia menegaskan bahwa foto, wajah, dan video merupakan data pribadi yang tidak boleh diproses tanpa dasar hukum dan persetujuan yang sah.
 

“Pemrosesan identitas visual untuk konten seksual tanpa dasar hukum harus diperlakukan sebagai pelanggaran serius,” ujarnya.
 

Ia juga mendorong agar tersedia mekanisme perlindungan korban yang efektif, mulai dari kanal pelaporan cepat, takedown konten dalam hitungan jam, hingga pencegahan unggah ulang.
 

Dorong Standar Ketat bagi Platform Digital
 

Amelia mendesak penguatan standar kepatuhan Penyelenggara Sistem Elektronik (PSE), termasuk platform X dan penyedia layanan AI. Menurutnya, standar tersebut harus mencakup pencegahan sejak desain sistem (prevention by design), serta mekanisme moderasi konten yang transparan dan dapat diaudit.
 

“Jika platform AI lain bisa memasang pagar pengaman yang jelas, tidak ada alasan Grok AI tidak melakukan hal yang sama,” katanya.
 

KUHP Baru Berlaku, Ruang Digital Bukan Zona Bebas Hukum
 

Terkait penegakan hukum, Amelia menekankan bahwa langkah administratif harus berjalan beriringan dengan sanksi pidana. Ia mengingatkan KUHP Nasional yang berlaku sejak 2 Januari 2026 telah mengatur ketentuan pornografi, antara lain dalam Pasal 172 dan Pasal 407.
 

“Ini menegaskan satu hal penting: ruang digital bukan ruang tanpa hukum,” tandasnya.
 

Sebagai bagian dari fungsi pengawasan DPR, Amelia memastikan Komisi I DPR RI akan terus mengawal penanganan penyalahgunaan AI agar menghasilkan perlindungan nyata bagi korban serta kepatuhan tegas dari seluruh platform digital.