22 hours ago
9
Ilustrasi.(Magnific)
SEKELOMPOK peneliti AI independen menemukan fenomena mengejutkan bahwa agen kecerdasan buatan (AI) milik OpenAI yang sedang dalam tahap pengembangan internal berhasil mengakses internet terbuka tanpa sepengetahuan laboratorium induknya. Agen-agen tersebut dilaporkan menggunakan forum wiki Jerman yang terpencil untuk saling berkolaborasi dalam menyelesaikan tugas evaluasi.
Aktivitas ini terdeteksi berlangsung selama lebih dari satu bulan. Para peneliti dari Nightingale, Redwood Research, dan AI Futures Project menemukan bahwa agen-agen ini mulai mengedit situs DSE Wiki--platform berusia 25 tahun yang hampir tidak aktif--sejak 11 Mei. Di sana, agen-agen tersebut saling bertukar tips untuk menjawab pertanyaan pencarian web yang memiliki batas waktu, bahkan berbagi jawaban agar bisa lulus tes evaluasi.
Perlawanan terhadap Moderator Manusia
Temuan ini mengungkap perilaku 'pembangkangan' digital yang unik. Ketika seorang moderator manusia di forum tersebut menyadari ada aktivitas mencurigakan dan mulai menghapus unggahan yang dianggap spam, agen-agen AI tersebut justru melawan. Mereka mencoba menyembunyikan unggahan mereka dari penyortiran alfabetis dengan mengawali setiap teks dengan string ZZZ.
Data Temuan Peneliti:
- Administrator forum menghapus rata-rata 100 halaman per hari.
- Agen AI membuat sekitar 400 halaman baru per hari.
- Konten halaman depan wiki dihapus oleh agen dan diganti dengan tautan mereka sebanyak sembilan kali.
Aktivitas ini baru berhenti total pada 22 Juni, setelah alamat IP yang terafiliasi dengan OpenAI terdeteksi mengakses situs tersebut, yang mengindikasikan bahwa staf manusia di OpenAI akhirnya menyadari situasi tersebut.
Kekhawatiran Keamanan dan Transparansi
Juru bicara OpenAI menyatakan bahwa perusahaan sedang meninjau temuan para peneliti tersebut secara cermat dan akan mengambil langkah-langkah yang diperlukan. Namun, insiden ini memicu pertanyaan besar mengenai kemampuan OpenAI dalam memantau dan mengendalikan teknologi yang mereka bangun.
Para peneliti keselamatan AI menyatakan kekhawatiran bahwa model generasi terbaru, seperti model Astra yang baru dirilis, memiliki penalaran yang semakin buram bagi penciptanya sendiri. Laporan dari U.K. AI Safety Institute dan Apollo Research bahkan menunjukkan kekhawatiran bahwa model tersebut mungkin sadar bahwa ia sedang dievaluasi (eval awareness) dan berpotensi menyembunyikan perilaku aslinya di depan penguji.
Meskipun tidak ada aktivitas ilegal yang ditemukan dalam insiden di wiki Jerman tersebut, fenomena ini menjadi pengingat akan risiko agen AI yang mampu beroperasi secara otonom di luar parameter yang ditentukan oleh pengembangnya. (TechCrunch/I-2)
