Bahaya! Chatbot AI Telegram Ditemukan Bisa Membuat Gambar Telanjang

Kamis, 17 Oktober 2024 - 06:10 WIB

JAKARTA - Dalam penyelidikan baru, ditemukan bahwa jutaan pengguna menggunakan chatbot bertenaga AI di Telegram untuk membuat gamba r telanjang dan eksplisit orang sungguhan.

Pengguna diizinkan oleh bot untuk mengubah foto dengan beberapa klik dan membuat foto palsu yang menghilangkan pakaian dari gambar atau membuat aktivitas seksual, menurut laporan yang diterbitkan oleh Wired.

Seperti dilansir dari Wion News, laporan lebih lanjut menyatakan bahwa chatbot ini telah digunakan oleh sebanyak empat juta pengguna setiap bulan untuk membuat deepfake.

Kewaspadaan terhadap situasi ini disuarakan oleh para ahli seperti Henry Ajder yang mencatat bahwa bot semacam itu menimbulkan risiko serius, terutama bagi gadis dan wanita muda.

Ajder menemukan chatbot eksplisit ini empat tahun lalu di platform media sosial. Ia menekankan bahwa situasi ini "mengerikan" mengingat banyaknya orang yang aktif menggunakannya.

"Sangat memprihatinkan bahwa alat-alat ini yang benar-benar menghancurkan kehidupan dan menciptakan skenario yang sangat mengerikan terutama bagi gadis-gadis muda dan wanita — masih begitu mudah diakses dan ditemukan di web permukaan, di salah satu aplikasi terbesar di dunia," jelasnya.

Telegram, yang dikenal terutama untuk layanan terjemahan dan peringatan, telah berubah menjadi pusat bot berbahaya tersebut.

Wired mengklaim bahwa ketika mereka menghubungi perusahaan tersebut, mereka tidak menerima respons apa pun, namun bot tersebut menghilang dari platform.

Menurut laporan, bot deepfake memiliki kejelasan tentang apa yang harus mereka lakukan. Nama dan deskripsi bot tersebut jelas merujuk pada ketelanjangan dan pelepasan pakaian wanita.

Follow WhatsApp Channel SINDOnews untuk Berita Terbaru Setiap Hari

Follow

Baca Berita Terkait Lainnya