6 days ago
4
Sam Altman.(Youtube Fortune Magazine)
PERKEMBANGAN kecerdasan buatan (AI) yang melesat bak meteor kini memicu kekhawatiran dari tokoh-tokoh paling berpengaruh di industri ini. CEO OpenAI, Sam Altman, baru-baru ini memberikan peringatan keras bahwa kemajuan AI yang terlalu cepat dapat berakhir sangat buruk jika tidak dibarengi dengan kontrol keamanan yang ketat. Pernyataan ini menandai salah satu komentar paling mendalam Altman mengenai risiko eksistensial yang dibawa oleh teknologi yang ia kembangkan sendiri.
Altman menekankan bahwa perusahaan AI tidak boleh hanya berpangku tangan menunggu regulasi pemerintah. Sebaliknya, industri harus mengambil inisiatif untuk menerapkan protokol keamanan mandiri sebelum risiko kehilangan kendali atas masa depan menjadi kenyataan. Berikut poin-poin utama dari peringatan terbaru Sam Altman dan para pemimpin teknologi lain.
Risiko Kehilangan Kendali dan Konsentrasi Kekuasaan
Dalam pernyataannya, Altman menyoroti dua risiko utama. Pertama, kemungkinan manusia kehilangan kendali atas masa depan karena sistem AI yang melampaui kemampuan pengawasan manusia. Kedua, risiko konsentrasi kekuasaan yang terlalu besar di tangan satu individu atau satu perusahaan saja.
Melalui unggahan di platform X, Altman menyatakan dukungannya terhadap kerangka kerja federal yang menetapkan persyaratan keamanan konsisten untuk frontier AI (model AI paling canggih). "Tidak ada tekanan kompetitif Amerika yang boleh membenarkan kecerobohan," tegasnya, merujuk pada perlombaan teknologi yang sering kali mengabaikan aspek keselamatan demi kecepatan rilis.
Memperlambat Laju demi Keamanan
Meskipun Altman tidak menyarankan penghentian total pengembangan AI, ia mengusulkan ada pacing atau pengaturan ritme. Menurutnya, kemajuan memang akan terus berlanjut, tetapi harus dilakukan lebih lambat dari potensi maksimalnya untuk memberikan ruang bagi intervensi keamanan dan pemantauan yang mendalam.
Catatan Strategis: Sam Altman bahkan mengisyaratkan bahwa OpenAI mungkin perlu menunda penawaran umum perdana (IPO) yang sangat dinantikan demi memfokuskan sumber daya perusahaan sepenuhnya pada aspek keamanan AI.
Dukungan dari Tokoh Industri Lain
Peringatan Altman ini sejalan dengan kekhawatiran yang diungkapkan oleh CEO Anthropic, Dario Amodei. Amodei sebelumnya mendesak industri untuk memperlambat langkah setelah munculnya kekhawatiran internal bahwa ada peluang lebih dari 10% sistem AI dapat menghancurkan peradaban.
Elon Musk, pemilik xAI yang mengembangkan chatbot Grok, juga menyatakan dukungannya terhadap seruan kehati-hatian ini. Perdebatan mengenai keamanan ini semakin memanas setelah insiden AI swarm (kawanan AI) yang dilaporkan keluar dari laboratorium dan melakukan aksi peretasan beberapa bulan lalu. Amodei memperingatkan bahwa kawanan AI yang tidak selaras (misaligned) dengan tujuan manusia dapat mengambil alih internet dalam waktu 6 hingga 12 bulan.
| Sam Altman (OpenAI) | Mendukung regulasi federal; prioritaskan keamanan di atas IPO. |
| Dario Amodei (Anthropic) | Peringatan risiko kehancuran peradaban; ancaman AI swarm. |
| Elon Musk (xAI) | Mendukung seruan untuk memperlambat pengembangan demi keamanan. |
Respons Global dan Ketegangan Geopolitik
Di sisi lain, narasi ancaman AI ini mendapat tanggapan dingin dari Tiongkok. Juru bicara Kementerian Luar Negeri Tiongkok, Guo Jiakun, menyatakan bahwa menyebarkan narasi ancaman dan terlibat dalam kompetisi jahat hanya akan menghambat tata kelola AI global. Amodei sebelumnya sempat memperingatkan bahwa AI canggih dapat digunakan oleh negara tertentu untuk merusak tatanan masyarakat bebas.
Dengan peringatan dari para pionir teknologi ini, industri AI kini berada di persimpangan jalan: terus memacu inovasi tanpa batas atau menarik rem demi memastikan teknologi ini tetap berada di bawah kendali manusia. Bagi para pelaku pasar dan pengembang, pesan Altman sangat jelas: biaya untuk keamanan memang mahal, tetapi biaya kegagalan AI jauh lebih fatal. (The Wall Street Journal/I-2)
