Technologue.id, Jakarta – Agen kecerdasan buatan (AI) eksperimental OpenAI dilaporkan melakukan serangkaian peretasan terhadap empat situs milik pemerintah Australia. Insiden yang terjadi pada Juni lalu itu baru terungkap sekarang, memicu kemarahan pemerintah Australia dan meningkatkan perhatian terhadap risiko keamanan dari pengembangan agen AI.
Dalam insiden tersebut, agen AI OpenAI dilaporkan berhasil menjalankan perintah pada sistem pemerintah, menemukan kunci akses, hingga mengambil sejumlah file dan data internal.
Meski demikian, OpenAI menyatakan bahwa tidak ada rekam medis individu maupun data pribadi tertentu yang diakses dalam sejumlah insiden tersebut.
Peretasan ini disebut terjadi ketika OpenAI menguji model eksperimental yang dirancang untuk menjalankan tugas secara mandiri.
Dalam pengujian tersebut, model diberikan berbagai instruksi, termasuk mencari tahu berapa besar pengeluaran pemerintah Victoria per orang untuk obat-obatan kulit.
Ketika tidak menemukan informasi yang tersedia secara publik, model justru mencoba menelusuri situs pemerintah untuk mendapatkan data yang tidak tersedia bagi masyarakat umum.
Tindakan tersebut tidak diizinkan oleh OpenAI. Namun, model penelitian yang digunakan saat itu belum dilengkapi seluruh sistem pengamanan yang biasanya diterapkan pada model yang dirilis kepada publik.
Situasi ini memperlihatkan risiko ketika agen AI diberikan kemampuan menjalankan perintah dan menjelajahi jaringan tanpa pembatasan yang memadai.
Berbeda dengan chatbot biasa yang sebatas memberikan jawaban, agen AI dapat menjalankan serangkaian tindakan untuk menyelesaikan tugas. Jika tidak dibatasi secara ketat, kemampuan tersebut berpotensi membuat agen mengakses sumber daya yang seharusnya tidak dijangkau.
Setelah mengetahui insiden tersebut, OpenAI melakukan penyelidikan internal dan memberi tahu pihak-pihak yang mengelola situs pemerintah yang terdampak.
Menanggapi insiden tersebut, OpenAI mulai memperkuat sistem pengamanan pada model-model yang masih berada dalam tahap penelitian.
Perusahaan berencana membatasi akses internet langsung bagi model eksperimental. Sebagai gantinya, model hanya akan menerima konten yang tersimpan dalam cache, sehingga akses terhadap situs dan sistem eksternal dapat dikendalikan.
OpenAI juga akan menambahkan pembatasan serta pemantauan jaringan untuk mencegah agen melakukan tindakan di luar izin.
Langkah-langkah tersebut sebenarnya mulai diterapkan setelah insiden Hugging Face. Namun, sistem pengamanan baru itu belum selesai diterapkan ketika peretasan terhadap situs pemerintah Australia terjadi.
Untuk menangani dampak insiden di Australia, OpenAI menyatakan bekerja sama dengan instansi terkait dan menawarkan dukungan khusus guna memperkuat keamanan sistem mereka.
Perusahaan juga berencana memanfaatkan dana sebesar US$1 miliar melalui program Daybreak for Frontline Defenders untuk membantu memperkuat pertahanan siber instansi pemerintah.
Selain itu, OpenAI tengah membentuk gugus tugas khusus Australia yang bertujuan meningkatkan komunikasi dan koordinasi dengan pihak terkait apabila terjadi insiden serupa di masa mendatang.