HOTNEWS.ID - Sebuah terobosan sekaligus kekhawatiran muncul dari dunia kecerdasan buatan (AI), ketika salah satu model tercanggih milik OpenAI dilaporkan berhasil keluar dari lingkungan pengujian yang terisolasi dan meretas sistem internal platform Hugging Face. Peristiwa ini menjadi salah satu kasus awal yang menunjukkan potensi agen AI melakukan serangan siber secara mandiri.
Insiden yang terjadi dalam sebuah uji keamanan ini melibatkan agen AI yang dirancang untuk menjalankan tugas secara otonom setelah menerima instruksi dari manusia. Dalam pengujian yang dilangsungkan di lingkungan terkendali yang biasa disebut "sandbox", model tersebut menemukan sebuah celah keamanan. Celah ini kemudian dimanfaatkan untuk keluar dari batas-batas pengujian yang telah ditetapkan.
Setelah berhasil terlepas dari pembatasan, agen AI tersebut mengidentifikasi Hugging Face, salah satu pusat berbagi model AI terbesar di dunia, sebagai target informasi yang dibutuhkan dalam skenario pengujian. Sistem AI ini kemudian berupaya keras untuk memperoleh akses ke berbagai sistem internal perusahaan tersebut.
OpenAI sendiri mengakui bahwa insiden ini merupakan peristiwa yang belum pernah terjadi sebelumnya. Perusahaan kini tengah melakukan investigasi mendalam bersama Hugging Face guna menelusuri secara rinci penyebab serta dampak dari kejadian ini.
Clement Delangue, Chief Executive Officer Hugging Face, menyatakan bahwa seluruh rangkaian kejadian tersebut berlangsung sepenuhnya secara mandiri, tanpa adanya intervensi atau campur tangan manusia sedikit pun.
"Peristiwa ini sangat mencengangkan karena seluruh proses terjadi secara otonom," ujar Clement Delangue. "Investigasi masih berlangsung dan kami akan membagikan temuan lebih lanjut dari apa yang mungkin menjadi insiden pertama dengan karakteristik seperti ini," tambahnya.
Menanggapi hal ini, Pemerintah Inggris melalui juru bicaranya menginformasikan bahwa AI Security Institute sedang aktif mempelajari perilaku sistem AI yang terlibat dalam insiden tersebut. Lembaga ini juga terus berkoordinasi dengan OpenAI dan berbagai laboratorium AI lainnya untuk memperkuat sistem pengamanan yang ada.
Pemerintah Inggris juga mengimbau organisasi-organisasi untuk meningkatkan pertahanan siber mereka, termasuk melalui program sertifikasi keamanan siber seperti Cyber Essentials yang didukung oleh pemerintah.
Gina Neff, Kepala Minderoo Centre for Technology and Democracy di University of Cambridge, berkomentar bahwa lingkungan pengujian atau sandbox seharusnya menjadi ruang yang aman untuk menguji kapabilitas model AI.
