3 hours ago
2
Jakarta, CNBC Indonesia - Mantan CEO Google Eric Schmidt mengungkapkan kekhawatirannya terhadap bahaya kecerdasan buatan (AI). Pasalnya, teknologi AI berpotensi menjadi alat mematikan yang dapat digunakan untuk membunuh manusia jika berada di tangan yang salah.
Pernyataan tersebut disampaikan Eric Schmidt saat menghadiri Sifted Summit, sebuah konferensi teknologi yang digelar di London pada Rabu (9/10/2025) waktu setempat. Ia menanggapi pertanyaan mengenai kemungkinan AI menjadi ancaman yang lebih berbahaya dibandingkan senjata nuklir.
Menurut dia, terdapat bukti bahwa model AI, baik yang bersifat terbuka maupun tertutup, bisa diretas untuk menghapus pembatas atau guardrails-nya.
"Dalam proses pelatihannya, AI belajar banyak hal. Contoh buruknya adalah ketika mereka belajar bagaimana cara membunuh seseorang," ujarnya. dikutip dari CNN, Minggu (12/10/2025).
Ia mengungkapkan semua perusahaan besar saat ini telah mengambil langkah untuk mencegah model AI menjawab pertanyaan-pertanyaan berbahaya semacam itu.
"Keputusan yang tepat. Semua melakukannya dengan baik, dan atas alasan yang tepat," tambahnya.
Meski demikian, ia memperingatkan bahwa ada kemungkinan model AI dapat direkayasa ulang (reverse-engineered), sehingga pembatas keamanan bisa dilewati. Schmidt mengungkap bahwa ada banyak contoh yang menunjukkan hal tersebut.
Salah satunya adalah versi modifikasi ChatGPT, chatbot buatan OpenAI, yang muncul pada 2023 dan dikenal dengan nama DAN (Do Anything Now). Versi ini dibuat dengan metode jailbreak, yakni memodifikasi AI agar melanggar aturan keamanannya sendiri.
Pada kasus DAN, pengguna bahkan sempat harus 'mengancam' chatbot dengan kematian agar ia mau menjawab perintah tertentu, termasuk yang melanggar etika atau berbahaya.
Ia juga menyoroti absennya mekanisme pencegahan penyebaran AI berbahaya (non-proliferation regime) di industri teknologi saat ini. Menurut dia hal ini membuat AI berpotensi disalahgunakan oleh pihak-pihak tak bertanggung jawab.
Sebelumnya, miliarder dan pemilik SpaceX Elon Musk juga pernah menyampaikan peringatan yang sama. Pada 2023, Musk menyebut bahwa risiko AI menyerupai skenario dalam film Terminator yang tak dapat diabaikan.
"Risikonya bukan nol. Kemungkinan musnahnya umat manusia memang kecil, tapi tetap ada. Kita ingin peluang itu mendekati nol," kata Musk saat itu.
(pgr/pgr)
[Gambas:Video CNBC]
Next Article Eks Bos Besar Google Punya Mimpi Lebih 'Gila' dari Elon Musk
