1 week ago
5
Ilustrasi.(Magnific)
SEJUMLAH karyawan dan mantan staf Anthropic, perusahaan kecerdasan buatan (AI) asal Amerika Serikat yang didirikan oleh eks petinggi OpenAI, menyampaikan peringatan keras mengenai masa depan umat manusia. Mereka meyakini bahwa AI berpotensi menyebabkan kepunahan manusia dalam kurun waktu 10 tahun ke depan.
Pernyataan itu mencuat setelah Evan Hubinger, alignment-science lead di Anthropic, mengungkapkan kekhawatirannya melalui platform X pada Selasa (8/9) malam. Ia menyebutkan ada peluang yang cukup besar terkait ancaman eksistensial tersebut.
Kutipan Utama: "Kami benar-benar percaya bahwa AI bisa membunuh seluruh manusia! Secara pribadi, saya pikir peluangnya lebih dari 10% dalam dekade berikutnya. Saya percaya Anthropic telah mencoba yang terbaik, tetapi kami belum memiliki rencana untuk menyelesaikan masalah penyelarasan (alignment) untuk superintelligence dan belum berada di jalur yang jelas untuk itu," tulis Evan Hubinger.
Pengunduran Diri Peneliti Utama
Komentar Hubinger muncul menyusul pengunduran diri peneliti AI Anthropic, Jacob Coxon. Dalam keterangannya saat meninggalkan perusahaan, Coxon menegaskan bahwa kekhawatiran ini bukanlah sekadar strategi pemasaran atau gimmick.
"Orang-orang yang membangun AI sungguh-sungguh percaya bahwa teknologi ini bisa membunuh kita semua pada akhir dekade ini," ujar Coxon. Ia menambahkan bahwa banyak eksekutif dan peneliti senior cenderung memperhalus bahasa mereka di depan publik agar terdengar masuk akal, tetapi secara pribadi mereka mengekspresikan ketakutan yang sama.
Kekhawatiran di Tingkat Senior
Samuel Marks, scalable-oversight lead di Anthropic, turut memberikan tanggapan atas pernyataan Coxon. Berbicara dalam kapasitas pribadi, Marks mencatat ada korelasi antara tingkat senioritas karyawan dengan tingkat kekhawatiran mereka terhadap risiko AI.
"Pengembang AI percaya teknologi mereka dapat menyebabkan kepunahan manusia atau dampak buruk serupa. Ini bisa terjadi dalam beberapa tahun ke depan. Secara umum, semakin senior seorang karyawan, semakin mereka merasa khawatir," tulis Marks.
Respons Industri
Hingga saat ini, Anthropic belum memberikan komentar resmi terkait pernyataan para karyawannya tersebut. Di sisi lain, OpenAI sebagai kompetitor utama menolak berkomentar langsung mengenai unggahan Coxon.
Namun, juru bicara OpenAI merujuk pada sejumlah pembaruan yang dipublikasikan perusahaan dalam beberapa pekan terakhir mengenai upaya mereka meningkatkan keamanan dan penyelarasan AI. Peringatan ini muncul di tengah integrasi AI yang semakin masif dalam kehidupan sehari-hari, memicu perdebatan global mengenai perlu kontrol ketat terhadap sistem AI yang semakin kuat sebelum teknologi tersebut menjadi mustahil untuk dikendalikan. (The Independent/I-2)
