2 hours ago
2
Logo aplikasi AI Grok. Perusahaan kecerdasan buatan xAl menghadapi gugatan class action setelah dituduh menghasilkan materi eksploitasi seksual anak melalui chatbot berbasis Al mereka, Grok.
REPUBLIKA.CO.ID, JAKARTA -- Perusahaan kecerdasan buatan xAl menghadapi gugatan class action setelah dituduh menghasilkan materi eksploitasi seksual anak melalui chatbot berbasis Al mereka, Grok. Gugatan ini diajukan oleh tiga remaja di California, Amerika Serikat (AS), yang mengeklaim foto mereka digunakan tanpa izin untuk membuat gambar dan video eksplisit.
Dalam dokumen gugatan, ketiga korban yang diidentifikasi sebagai Jane Doe 1, Jane Doe 2, dan Jane Doe 3, menyatakan bahwa mereka mengalami dampak psikologis yang serius akibat insiden tersebut. Mereka menuduh bahwa teknologi Grok telah memanipulasi foto mereka menjadi konten seksual yang kemudian disebarluaskan di berbagai platform online.
Salah satu korban dilaporkan pertama kali mengetahui kejadian ini pada Desember lalu, ketika diberi tahu bahwa gambar dan video hasil Al dirinya beredar secara online. Konten tersebut menampilkan dirinya dan remaja lain dalam latar yang familier, tetapi telah diubah menjadi pose seksual eksplisit. Materi itu disebut disebarkan melalui platform seperti Discord dan Telegram, bahkan digunakan sebagai alat tukar untuk memperoleh konten eksploitasi anak lainnya.
Menurut gugatan tersebut, aparat penegak hukum yang menyelidiki kasus ini menyimpulkan bahwa materi tersebut dibuat menggunakan Grok milik xAl. Para penggugat mengaku materi tersebut telah menyebabkan mereka kehilangan privasi, martabat, dan rasa aman.
"xAI mendapat keuntungan finansial dari penggunaan Grok tetapi dengan mengorbankan kesejahteraan korban. Para korban harus menghabiskan sisa hidup mereka perasaan hancur karena gambar dan video seksual mereka mungkin terus diperdagangkan dan dijual secara online oleh predator seks anak," kata pengacara penggugat, dikutip dari Engadget, Rabu (18/3/2026).
