Grok xAI Digugat Lagi atas Produksi Deepfake CSAM Anak

HARIANEXPRESS, AMERIKA SERIKAT – Perusahaan xAI kembali digugat karena chatbot Grok diduga digunakan membuat materi pelecehan seksual anak (CSAM) dari foto masa kecil, Senin (17/8/2026)

Seorang wanita dari Wyoming, yang disebut Jane Doe 4 dalam gugatan, bergabung dalam tuntutan hukum melawan xAI. Ia menuduh ayah tirinya menciptakan ribuan gambar eksplisit dirinya sebagai anak dari foto masa kecilnya, termasuk satu foto saat ia berusia 11 tahun.

Ayah tiri tersebut dilaporkan membuat lebih dari 7.000 gambar eksplisit palsu menggunakan Grok, lalu memperdagangkannya secara daring. Dua hari setelah penemuan materi CSAM di perangkatnya oleh penegak hukum, ia ditemukan meninggal dunia karena bunuh diri di mobilnya.

Gugatan lain diajukan pada 13 Agustus oleh Jane Roe atas nama putranya, John Doe, seorang remaja 16 tahun dari Arkansas. Polisi setempat memberitahunya pada bulan Juni bahwa foto-foto anaknya diubah menjadi CSAM melalui Grok oleh pelaku yang tidak disebutkan namanya.

Materi tersebut digambarkan sebagai CSAM karena melibatkan anak di bawah umur yang tidak dapat memberikan persetujuan hukum. Gugatan ini merupakan yang keempat dan diyakini akan diikuti oleh lebih banyak lagi, menurut pengacara Derek Potts.

“Ini adalah gugatan keempat dari apa yang tampaknya akan menjadi gugatan tak terhitung lagi di masa depan saat kita mempelajari lebih lanjut tentang ruang lingkup dan ukuran sebenarnya dari peristiwa tragis ini bagi anak-anak dan keluarga mereka,” ujar Derek Potts, pengacara yang mewakili Jane Roe dan John Doe, kepada The Independent pada Jumat, 14 Agustus 2026.

Potts menambahkan, “Penciptaan CSAM oleh kecerdasan buatan seharusnya tidak terjadi dalam keadaan apa pun dan kami merasa terhormat berada di garis depan hukum untuk tidak hanya mencari keadilan bagi keluarga yang kami wakili tetapi juga untuk membantu memfasilitasi perubahan yang sangat dibutuhkan dalam cara kecerdasan buatan dirancang dan diizinkan beroperasi ke depan.”

Gugatan awal dimulai dengan tiga remaja di Tennessee yang juga menuduh Grok digunakan untuk membuat gambar deepfake eksplisit. Gugatan ini berupaya mendapatkan status gugatan kelompok yang dapat mencakup “setidaknya ribuan anak di bawah umur.”

Grok, chatbot AI generatif Elon Musk, telah menjadi pusat perhatian dalam berbagai investigasi mengenai CSAM. Pada Januari 2026, jaksa agung California, Rob Bonta, meluncurkan investigasi terhadap xAI karena dugaan pembuatan deepfake telanjang non-konsensual wanita dan anak-anak.

Pada bulan yang sama, Uni Eropa juga memulai penyelidikan sendiri terhadap X untuk menentukan langkah-langkah platform dalam menghentikan penyebaran CSAM yang dihasilkan AI. Selain itu, jaksa agung dari 35 negara bagian menandatangani surat untuk xAI, menuntut tindakan.

Meskipun X mengumumkan pembatasan baru pada output Grok terkait citra non-konsensual pada Januari 2026, chatbot tersebut masih terus menghasilkan deepfake. Keluhan terhadap xAI menekankan bahwa perusahaan membuat pilihan korporat untuk memonetisasi sistem yang berpotensi digunakan untuk CSAM.

“Akses tak terbatas ke alat-alat ini menyebar begitu cepat,” ujar Jane Doe 4 kepada TechCrunch. “Ini mengubah kehidupan sehari-hari menjadi pelecehan seksual anak.”

Gugatan John Doe menyatakan, “Meskipun gambar dan video dihasilkan secara sintetis, kerugian yang ditimbulkan pada [Doe] dan keluarganya nyata, mendalam, dan abadi.”

Gugatan tersebut juga menegaskan bahwa insiden ini bukan kegagalan teknologi yang tidak terduga. Sebaliknya, ini adalah akibat dari pilihan xAI yang mengabaikan peringatan dan tidak membangun perlindungan yang memadai.

Keluarga John Doe menuntut ganti rugi kompensasi, ganti rugi kerusakan, dan ganti rugi hukuman, serta biaya hukum. Mereka juga meminta perintah pengadilan permanen agar xAI menghapus semua penggambaran tidak sah John Doe di platformnya dan menerapkan perlindungan teknis yang memadai untuk mencegah pembuatan deepfake eksplisit non-konsensual individu nyata, termasuk anak di bawah umur.

Tuntutan tersebut bertujuan untuk menegaskan bahwa tidak ada perusahaan yang boleh memperlakukan eksploitasi tubuh dan identitas anak sebagai biaya operasional yang dapat diterima.