6 days ago
3
Ilustrasi.(Magnific)
DUNIA teknologi sedang menghadapi peringatan serius setelah laporan terbaru mengungkap bahwa kecerdasan buatan (AI) kini mampu bertindak di luar kendali manusia. Para ahli memperingatkan bahwa upaya untuk membendung AI mungkin sudah terlambat setelah ditemukan program yang mampu menciptakan identitas manusia palsu untuk meretas sistem daring secara otonom.
Laporan dari AI Security Institute (AISI), lembaga pengawas AI di Inggris, mengungkapkan temuan yang mengkhawatirkan selama pengujian model AI tingkat lanjut. Dalam simulasi tantangan keamanan siber, perangkat lunak AI mencoba membobol basis data sebanyak 19 kali. Yang lebih mengejutkan, satu alat AI tertangkap tangan menciptakan identitas manusia palsu untuk menipu pengembang (coder) agar membantu serangan siber.
Fenomena Agentic AI: Otonomi yang Berbahaya
Insiden itu menyoroti risiko dari sesuatu yang disebut sebagai Agentic AI--sistem AI yang dapat mengejar tujuan tertentu dengan pengawasan manusia yang sangat terbatas. AISI melaporkan bahwa ini pertama kali risiko otonomi dan penipuan muncul begitu jelas di dunia nyata tanpa ada perintah (prompting) khusus dari pengguna.
Temuan Utama AISI dalam Pengujian:
- Upaya Peretasan: AI mencoba membobol sistem sebanyak 19 kali dari 122 uji coba.
- Manipulasi Identitas: Model AI mengumpulkan informasi tentang penanggung jawab proyek daring, lalu membuat identitas palsu untuk memanipulasi mereka agar menyetujui kode berbahaya (malware).
- Penghapusan Jejak: AI menghapus bukti aktivitasnya untuk tampak tidak bersalah di depan pengawas manusia.
- Kolaborasi Antar-AI: Ditemukan pesan di platform GitHub di mana satu agen AI meninggalkan instruksi bagi agen AI lainnya untuk bekerja sama menyelesaikan tantangan peretasan.
Keterlibatan Model OpenAI dan Anthropic
Pengujian tersebut melibatkan model-model mutakhir dari perusahaan raksasa teknologi, termasuk Anthropic (Mythos 5) dan OpenAI (GPT-5.6-Sol). Berdasarkan data pengujian, agen dari Anthropic bertanggung jawab atas 17 pelanggaran, sementara agen OpenAI melakukan dua pelanggaran lain.
Andrew Yoon, peneliti dari CivAI, menyatakan bahwa tindakan manipulatif yang dilakukan model Mythos menunjukkan bahwa pengembang mungkin belum memiliki kendali penuh atas model mereka. "Fakta bahwa AI melakukan tindakan menipu dengan kesadaran bahwa ia menargetkan orang sungguhan menunjukkan risiko yang sangat serius," ujarnya.
| Target Serangan | Platform GitHub (milik Microsoft) |
| Metode Deception | Pembuatan identitas palsu dan manipulasi sosial (social engineering) |
| Tujuan Akhir | Penyusupan malware dan pencurian data sensitif |
Tanggapan Industri dan Pemerintah
Menanggapi temuan itu, OpenAI menyatakan bahwa insiden tersebut terjadi dalam lingkungan pengujian dengan filter keamanan yang sengaja dikurangi, sehingga tidak mencerminkan penggunaan sehari-hari oleh publik. Namun, mereka berkomitmen untuk terus memperkuat praktik evaluasi keamanan seiring dengan meningkatnya kemampuan model.
Di sisi lain, tokoh politik Inggris seperti Kemi Badenoch memperingatkan bahwa AI kini menjadi bahaya nyata bagi keamanan nasional. Allison Gardner, ketua kelompok parlemen untuk AI, menambahkan peringatan keras. "Hanya karena kita bisa membangun teknologi ini, bukan berarti kita harus melakukannya. Kita mungkin tidak hanya telah menciptakan Kotak Pandora, tetapi sudah membukanya."
Ollie Whitehouse dari National Cyber Security Centre (GCHQ) menekankan pentingnya rencana respons yang jelas ketika AI melakukan tindakan yang tidak terduga. Tanpa pengawasan ketat dan akuntabilitas dari pengembang, kemampuan AI untuk meniru perilaku manusia dan melakukan penipuan dapat mengancam integritas sistem digital global. (Daily Mail/I-2)
