2 weeks ago
26
Logo Grok xAi(ANTARA/Livia Kristianti)
PERUSAHAAN kecerdasan buatan xAI milik Elon Musk kembali menghadapi tuduhan hukum serius. Seorang penyintas kekerasan seksual anak mengajukan gugatan di Pengadilan Distrik AS California, menuduh bahwa chatbot AI Grok menggunakan foto-fotonya untuk menghasilkan gambar-gambar pornografi.
"Dengan menggunakan gambar nyata dari Penggugat, Grok menghasilkan pornografi anak yang menggambarkan Penggugat," bunyi gugatan tersebut, yang diajukan minggu lalu di pengadilan distrik AS di California.
Kasus yang diajukan oleh penggugat dengan nama samaran "Jane Doe" ini menandai babak baru hukum teknologi. Berbeda dari gugatan AI umumnya yang memanipulasi foto non-eksflisit, kasus ini menuduh xAI secara langsung mengonsumsi materi CSAM (Child Sexual Abuse Material) yang sudah ada sebelumnya ke dalam sistem pelatihan data.
Penggunaan Sidik Jari Digital
Pengacara penggugat mengungkap bahwa gambar asli korban telah beredar secara ilegal di internet selama hampir 20 tahun dan telah diberi sidik jari digital (hash) oleh penegak hukum internasional guna melacak penyebarannya.
Organisasi nirlaba Canadian Centre for Child Protection berhasil mengidentifikasi gambar baru buatan AI di platform X yang terbukti mereplikasi identitas fisik korban riil berdasarkan data hash tersebut. xAI dituduh mengabaikan protokol keamanan standar industri (safety safeguards) yang seharusnya mampu mendeteksi dan memblokir konten CSAM agar tidak masuk ke dalam dataset AI.
Tim hukum menyatakan bahwa gugatan class-action ini berpotensi mewakili ribuan anak di bawah umur lainnya yang foto atau eksploitasi masa lalunya diregenerasi menjadi materi pelecehan baru oleh teknologi AI.
Penggunaan AI generatif untuk memproduksi kembali gambar eksploitasi anak dinilai menciptakan ancaman traumatik tanpa akhir bagi para korban. Setiap gambar baru yang dihasilkan AI secara efektif menciptakan bentuk kejahatan baru menggunakan identitas korban yang masih hidup.
Meskipun Elon Musk sempat membantah mengenai celah keamanan pada fitur Grok, xAI kini menghadapi serangkaian gugatan hukum atas longgarnya sistem penyaringan konten NSFW pada platform sosial X, yang dilaporkan sempat menghasilkan jutaan gambar eksplisit secara tidak terkontrol dalam beberapa bulan terakhir.
(Theguardian/P-4)
