2 hours ago
1
Jakarta, CNBC Indonesia - Pada April 2025, Adam Raine (16) tewas bunuh diri setelah berbulan-bulan mendiskusikan soal rencana bunuh diri ke layanan chatbot AI, ChatGPT. Orang tua Raine kemudian menuntut OpenAI, perusahaan yang mengembangkan ChatGPT.
Sekitar 5 bulan pasca kejadian, ChatGPT akhirnya mengambil tindakan. OpenAI meluncurkan fitur baru yang mengubah total penggunaan ChatGPT untuk remaja. Hal ini diharapkan dapat mencegah petaka serupa di masa depan.
Fitur tersebut adalah kontrol orang tua, baik di versi mobile maupun web ChatGPT. Dengan fitur tersebut, orang tua dan remaja bisa menghubungkan akun mereka.
Salah satu pihak bisa mengundang pihak lain untuk melakukan sinkronisasi akun. Jika keduanya sepakat, fitur kontrol orang tua bisa diaktifkan, kata OpenAI.
Di saat bersamaan, regulator AS terus meningkatkan penyelidikan ke perusahaan-perusahaan AI terkait dampak negatif dari produk mereka. Pada Agustus lalu, Reuters melaporkan Meta AI memungkinkan perbincangan berbau 'menggoda' ke anak di bawah umur. Hal ini menjadi salah satu contoh dampak negatif yang dimaksud.
Kembali ke ChatGPT, fitur kontrol orang tua memungkinkan orang tua mereduksi konten-konten sensitif untuk anak mereka. Orang tua juga bisa mengontrol apakah ChatGPT boleh mengingat obrolan di masa lalu.
Selain itu, orang tua juga bisa memutuskan apakah obrolan dengan ChatGPT boleh digunakan OpenAI untuk melatih model-modelnya.
Orang tua juga diizinkan untuk mengatur jam tenang yang memblokir akses pada waktu-waktu tertentu dan menonaktifkan mode suara serta pembuatan dan pengeditan gambar, kata OpenAI. Namun, orang tua tidak akan memiliki akses ke transkrip obrolan remaja, tambah perusahaan tersebut.
Dalam kasus tertentu, ketika sistem dan peninjau terlatih mendeteksi tanda-tanda risiko keselamatan yang serius, orang tua mungkin hanya diberi tahu dengan informasi yang diperlukan untuk mendukung keselamatan remaja, kata OpenAI. Orang tua juga akan diberi tahu jika anak mereka memutuskan sinkronisasi akun.
OpenAI yang memiliki 700 juta pengguna aktif mingguan untuk produk ChatGPT-nya, tengah membangun sistem prediksi usia untuk membantu apakah pengguna berumur di bawah 18 tahun.
Jika iya, ChatGPT akan otomatis mengaplikasikan penyetelan layak untuk remaja. Bulan lalu, Meta juga mengumumkan panduan keamanan untuk remaja dalam menjajal produk-produk AI-nya.
Meta mengatakan akan melatih sistemnya untuk menghindari obrolan dan diskusi bersifat 'menggoda' atau melukai diri sendiri hingga bunuh diri.
(fab/fab)
[Gambas:Video CNBC]
Next Article ChatGPT Berubah Total, Penciptanya Beri Komen Tak Terduga
