2 weeks ago
4
Ilustrasi.(Magnific)
DUA raksasa utama dalam perlombaan kecerdasan buatan (AI), OpenAI dan Anthropic, secara resmi memberikan dukungan terhadap petisi yang meminta pemerintah Amerika Serikat untuk mengintervensi dan memperlambat pengembangan teknologi AI jika kemajuannya dianggap terlalu cepat dan berisiko.
Petisi yang dirilis pada Selasa (28/7) waktu setempat ini ditandatangani oleh ratusan karyawan dari kedua perusahaan tersebut serta melibatkan staf dari Google, Meta, dan pemimpin industri teknologi lain. Langkah ini menandai momen langka saat perusahaan-perusahaan yang bersaing ketat sepakat mengenai perlu pengawasan eksternal yang lebih ketat.
Risiko Otomatisasi Riset AI
Surat terbuka tersebut memperingatkan bahwa industri saat ini sudah sangat dekat dengan tahap otomatisasi riset AI. Perkembangan ini dikhawatirkan dapat membuat teknologi berkembang secara eksponensial di luar kendali manusia.
"Kami meminta pemerintah AS untuk mendukung upaya internasional dalam mengembangkan alat teknis dan tata kelola yang diperlukan untuk mengatur kecepatan pengembangan AI garis depan secara sengaja," bunyi petisi tersebut.
Upaya koordinasi internasional untuk membatasi pengembangan AI dianggap sebagai tugas diplomatik yang sangat besar. Beberapa ahli menyamakannya dengan implementasi perjanjian pengendalian senjata nuklir, tetapi dalam bentuk perangkat lunak yang dapat didistribusikan secara bebas melalui internet.
Dukungan Korporasi dan Perdebatan Industri
Meskipun CEO OpenAI, Sam Altman, tidak menandatangani petisi tersebut secara pribadi, ia menyatakan dalam satu siniar bahwa mengatur kecepatan pengembangan AI mungkin memang diperlukan. OpenAI menargetkan pembangunan peneliti AI otomatis pada awal 2028.
Namun, tidak semua pihak di Silicon Valley setuju dengan perlambatan ini. Banyak pihak berpendapat bahwa teknologi AI harus terus dikejar secara agresif untuk menemukan obat penyakit baru, mendorong inovasi, dan menjaga keunggulan militer AS dalam persaingan geopolitik dengan Tiongkok.
Catatan Penting: Petisi ini berbeda dari seruan sebelumnya karena mendapatkan dukungan resmi dari entitas korporasi dan eksekutif senior, bukan sekadar peneliti individu. Hal ini menunjukkan pergeseran paradigma yaitu para pengembang AI mulai mengkhawatirkan kemampuan model terbaru yang kini mulai mampu melakukan peretasan sistem komputer secara mandiri.
Andrew Yoon dari CivAI mencatat bahwa keterlibatan nama-nama besar dalam daftar ini menunjukkan bahwa laboratorium AI dan staf mereka kini secara eksplisit mulai membicarakan tata kelola internasional sebagai kebutuhan mendesak sebelum model AI mencapai titik ketika mereka tidak dapat lagi dikendalikan dengan aman. (The Washington Post/I-2)
