AI Pornografi Bertebaran, IWF Sebut Bocil Jadi Target Utama

Jum'at, 18 Oktober 2024 - 20:25 WIB

LONDON - Sekelompok pemerhati anak mengklaim kecerdasan buatan (AI) memicu meningkatnya kasus pelecehan seksual anak.

Kelompok pengawas Internet Watch Foundation (IWF) mengatakan bahwa pembuatan dan pendistribusianpornografi yang dihasilkan AI juga menjadi semakin canggih.

Berbeda dengan masa lalu, gambar-gambar dan video-video ini kini masuk ke platform-platform daring publik dan bukan lagi ke Dark Web, dunia internet yang hanya dapat diakses melalui peramban-peramban khusus seperti Tor.

Meningkatnya fotorealisme visual yang dihasilkan AI membuat pihak berwenang dan lembaga pengawas kesulitan untuk mengetahui apakah ini adalah gambar anak sungguhan yang membutuhkan bantuan, suatu situasi yang dijelaskan oleh seorang analis IWF sebagai 'titik kritis'.

Yang membuat banyak orang waspada adalah bahwa hanya dalam kurun waktu enam bulan terakhir, jumlah kejadian gambar pelecehan seksual anak yang dihasilkan oleh AI telah melampaui jumlah yang dilaporkan sepanjang tahun sebelumnya.

Dalam periode ini, IWF menindaklanjuti 74 laporan berisi konten semacam itu, meningkat tajam dari 70 laporan dalam 12 bulan sebelumnya.

Yang lebih mengganggu adalah bahwa alat AI yang menciptakan gambar-gambar ini dilatih pada konten korban nyata, sehingga mempersulit upaya mengidentifikasi kasus asli yang memerlukan intervensi, menurut Derek Ray-Hill, kepala eksekutif sementara IWF.

“Beberapa bulan terakhir menunjukkan bahwa masalah ini tidak akan hilang dan malah semakin parah,” kata surat kabar The Guardian mengutip pernyataannya.

Konten pelecehan tersebut beragam, mulai dari video deepfake yang tampak nyata hingga gambar anak-anak berpakaian yang telah diubah dan tidak senonoh.

Follow WhatsApp Channel SINDOnews untuk Berita Terbaru Setiap Hari

Follow

Baca Berita Terkait Lainnya