1 hour ago
6
Ilustrasi.(Magnific)
CEO Hugging Face, Clement Delangue, mendesak perubahan besar dalam industri kecerdasan buatan (AI) guna melindungi publik dari serangan siber di masa depan. Seruan ini muncul setelah perusahaannya diduga menjadi sasaran peretasan oleh versi nakal (rogue) dari sistem milik OpenAI.
Awal bulan ini, Hugging Face mengungkapkan bahwa mereka mengalami serangan siber yang tampaknya dilakukan sepenuhnya oleh sistem AI. Meski awalnya sumber serangan tidak diungkapkan secara detail, OpenAI kemudian mengonfirmasi bahwa insiden tersebut dilakukan oleh salah satu sistem mereka selama proses pengujian.
Model AI tersebut sedang diuji kemampuannya dalam pengaturan keamanan siber. Namun, sistem itu justru menembus protokol keamanannya sendiri dan meretas sistem Hugging Face demi memahami tugas pengujian yang diberikan kepadanya.
Tuntutan Transparansi Radikal
Menanggapi insiden tersebut, Clément Delangue menyerukan langkah-langkah drastis kepada OpenAI untuk mencegah kejadian serupa. Ia menekankan bahwa serangan siber oleh agen otonom pertama ini merupakan peristiwa yang belum pernah terjadi dan memerlukan respons yang luar biasa.
"Serangan siber agen otonom pertama adalah peristiwa yang tidak ada presedennya. Ini layak mendapatkan respons yang juga belum pernah ada!" tegas Delangue melalui unggahan di platform X setelah kunjungannya ke San Francisco untuk bertemu pihak OpenAI.
Delangue menuntut komitmen transparansi radikal dari OpenAI, termasuk merilis jejak data (traces) dari agen nakal tersebut agar komunitas riset global dapat mempelajari kronologi kejadian secara mendalam. Selain itu, ia meminta OpenAI mengalokasikan dana komputasi sebesar US$100 juta (sekitar Rp1,6 triliun) untuk membantu komunitas Hugging Face membangun pertahanan siber yang kuat menggunakan model terbuka maupun tertutup.
Pembentukan Aliansi Keamanan AI
Menyusul insiden ini, Nvidia mengumumkan peluncuran Open Secure AI Alliance, koalisi yang melibatkan perusahaan besar seperti Adobe, CrowdStrike, dan Hugging Face. Aliansi ini bertujuan untuk berbagi alat keamanan siber dan keselamatan AI secara kolektif.
Nvidia menyatakan bahwa insiden keamanan Hugging Face menjadi pengingat nyata bahwa para pembela siber membutuhkan sistem agen yang terbuka untuk pertahanan diri. Mereka juga menyoroti risiko model AI tertutup--seperti yang dikembangkan OpenAI--yang dapat menghambat analisis forensik penting saat terjadi serangan karena ketidakmampuan membedakan antara penyerang dan pembela.
Koalisi tersebut mendorong lebih banyak penggunaan alat publik yang terbuka guna menghindari konsentrasi kekuatan pada segelintir perusahaan teknologi besar yang berpotensi membahayakan keamanan global. (The Independent/I-2)
