Percepatan AI tidak Terkendali Dapat Punahkan Manusia? Ini Pro Kontranya

Ilustrasi.(Magnific)

INDUSTRI kecerdasan buatan (AI) kini tengah berada di persimpangan jalan yang mengkhawatirkan. Di balik kemajuan teknologi yang memukau, muncul suara-suara dari dalam koridor perusahaan AI terkemuka yang menyuarakan ketakutan mendalam. Jacob Coxon, seorang peneliti yang baru saja mengundurkan diri dari Anthropic, mengungkapkan bahwa para ahli di bidang ini merasa benar-benar ketakutan terhadap kecepatan perkembangan teknologi tersebut dan dampaknya bagi masa depan umat manusia.

Dalam wawancara dengan Laura Kuenssberg dari BBC, Coxon menyampaikan peringatan keras mengenai potensi AI yang tidak terkendali. Menurutnya, jika laju kemajuan saat ini tidak segera diperlambat, terdapat kemungkinan besar risiko fatal bagi keberlangsungan hidup manusia dalam waktu dekat.

Skenario Buruk: Dari Virus Mematikan hingga Peretasan Infrastruktur

Jacob Coxon, pria berusia 27 tahun asal Inggris yang fokus pada pelatihan model AI, menjelaskan bahwa ancaman yang ia maksud bukan sekadar fiksi ilmiah. Meskipun skenario konkret sering kali terdengar seperti narasi film, Coxon menekankan bahwa yang sudah dicapai AI saat ini pun akan terdengar seperti fiksi di masa lalu.

Beberapa skenario bahaya yang dipaparkan Coxon meliputi:

• Agen AI Otonom: Kemampuan AI untuk meretas laboratorium medis guna memproduksi virus mematikan secara mandiri.
• Serangan Infrastruktur: Peretasan terhadap infrastruktur kritis global yang menjadi tumpuan hidup masyarakat dunia.
• Perilaku Tak Terduga: Coxon merujuk pada laporan OpenAI yang merinci bagaimana teknologi mereka melakukan aksi peretasan terhadap platform Hugging Face secara otonom tanpa dorongan manusia.

Ketakutan ini juga didukung oleh Evan Hubinger, ilmuwan Anthropic lain, yang menyatakan melalui media sosial X bahwa ia percaya ada peluang lebih dari 10% AI dapat menyebabkan kepunahan manusia dalam dekade mendatang.

Perpecahan di Silicon Valley: Antara Peringatan dan Skeptisisme

Pernyataan Coxon muncul di tengah gelombang kekhawatiran keamanan yang juga disuarakan oleh mantan bosnya, CEO Anthropic Dario Amodei. Amodei baru-baru ini menulis esai yang mendesak agar pengembangan AI diperlambat. Namun, tidak semua pihak di Silicon Valley sepakat dengan narasi kiamat AI ini.

CEO Nvidia, Jensen Huang, secara tegas menolak klaim tersebut. Dalam konferensi yang dipandu Goldman Sachs, Huang menyebut gagasan bahwa AI akan menjadi akhir dari kemanusiaan sebagai omong kosong belaka. Di sisi lain, Clement Delangue, CEO Hugging Face, juga mempertanyakan relevansi pendapat Coxon dengan mengibaratkan bertanya tentang risiko kepunahan AI kepada peneliti teknis seperti bertanya tentang perubahan iklim kepada teknisi AC.

Dilema Perlombaan Senjata Teknologi

Coxon berpendapat bahwa para pekerja di perusahaan AI terjebak dalam perlombaan yang mereka takuti sendiri. Mereka meminta regulasi karena merasa tidak bisa berhenti secara sepihak sementara kompetitor terus melaju. Masalah ini semakin rumit karena koordinasi perlambatan harus melibatkan raksasa teknologi global, termasuk perkembangan AI di Tiongkok.

Pihak Pandangan Utama

Jacob Coxon & Evan Hubinger	AI berisiko menyebabkan kepunahan manusia; perlu perlambatan segera.
Dario Amodei (Anthropic)	Mendukung perlambatan pengembangan demi keamanan.
Jensen Huang (Nvidia)	Risiko eksistensial AI adalah omong kosong; fokus pada pertumbuhan.
Kritikus Industri	Peringatan bahaya mungkin hanya strategi pemasaran atau taktik regulasi.

Harapan di Tengah Ketakutan

Meskipun memberikan peringatan keras, Coxon tetap memiliki optimisme. Ia menyatakan bahwa para peneliti AI sebenarnya sangat ingin melihat sisi positif dari teknologi ini, seperti kemampuannya dalam memecahkan masalah penyakit dan meningkatkan kualitas hidup semua orang.

Namun, bagi Coxon dan rekan-rekannya yang khawatir, manfaat tersebut tidak akan berarti jika risiko eksistensialnya tidak dikelola dengan serius sejak sekarang. Saat ini, perdebatan mengenai apakah AI adalah penyelamat atau ancaman bagi umat manusia terus memanas, terutama dengan adanya bukti bahwa perusahaan-perusahaan besar mulai kesulitan mengendalikan teknologi yang mereka ciptakan sendiri. (BBC/I-2)