Tasimalayahitz.com, Jakarta – OpenAI memperkenalkan sistem kecerdasan buatan (Artificial Intelligence/AI) internal bernama GPT-Red yang dirancang khusus untuk menguji keamanan model AI miliknya sendiri. Teknologi ini dikembangkan sebagai bagian dari upaya memperkuat sistem keamanan AI dengan menemukan celah sebelum dimanfaatkan oleh pihak yang tidak bertanggung jawab. Kamis (16/7)
Dikutip dari Kompas.com, GPT-Red berfungsi sebagai alat red teaming, yaitu metode pengujian keamanan yang biasanya dilakukan oleh tim keamanan siber untuk mencari kelemahan suatu sistem. Berbeda dari metode konvensional, GPT-Red menjalankan proses tersebut secara otomatis menggunakan AI sehingga mampu melakukan ribuan percobaan serangan dalam waktu yang jauh lebih singkat dibandingkan penguji manusia.
Dalam proses pengujiannya, GPT-Red mengirimkan berbagai prompt kepada model AI target, kemudian menganalisis respons yang diberikan. Jika belum berhasil menemukan celah keamanan, sistem akan mengubah strategi serangan dan mengulangi proses hingga memperoleh hasil yang diinginkan.
OpenAI menjelaskan bahwa GPT-Red dilatih menggunakan metode reinforcement learning self-play, yaitu teknik yang mempertemukan AI penyerang dengan AI bertahan dalam berbagai simulasi keamanan. AI penyerang memperoleh penghargaan ketika berhasil mengeksploitasi sistem, sedangkan AI bertahan mendapatkan penghargaan apabila mampu menggagalkan serangan. Proses tersebut dilakukan berulang kali sehingga kemampuan kedua model terus meningkat.
Berdasarkan hasil pengujian internal, GPT-Red mampu menemukan celah keamanan dengan tingkat keberhasilan mencapai 84 persen, jauh lebih tinggi dibandingkan tim penguji manusia yang hanya mencapai 13 persen. Selain itu, OpenAI mengklaim sistem ini berhasil menurunkan tingkat keberhasilan berbagai bentuk serangan, termasuk prompt injection dan fake chain-of-thought, terhadap model AI terbaru mereka.
GPT-Red juga diuji pada sejumlah agen AI. Dalam salah satu simulasi, sistem tersebut berhasil mengambil alih agen mesin penjual otomatis virtual bernama Vendy, mengubah harga produk, hingga membatalkan pesanan. Selain itu, GPT-Red juga mampu memanipulasi agen AI berbasis command line yang digunakan untuk membantu proses pemrograman.
Peneliti OpenAI, Dylan Hunn, mengatakan GPT-Red memiliki kemampuan yang sangat baik dalam menemukan metode serangan yang efektif dibandingkan proses red teaming yang dilakukan manusia. Sementara itu, peneliti OpenAI lainnya, Nikhil Kandpal, menilai risiko keamanan akan terus meningkat seiring berkembangnya AI yang semakin otonom sehingga pengujian keamanan menjadi semakin penting.
Meski memiliki kemampuan tinggi, OpenAI menegaskan bahwa GPT-Red tidak akan dirilis kepada publik. Model ini hanya digunakan secara internal agar kemampuannya tidak dimanfaatkan untuk tujuan yang merugikan. Hasil pengujian GPT-Red selanjutnya digunakan untuk meningkatkan keamanan model AI OpenAI melalui proses pelatihan lanjutan.
OpenAI juga mengakui GPT-Red masih memiliki beberapa keterbatasan, seperti belum optimal dalam menghadapi serangan percakapan bertahap (multi-turn conversation) maupun serangan prompt injection berbasis gambar. Oleh karena itu, perusahaan menegaskan bahwa pengujian keamanan oleh manusia tetap dibutuhkan untuk melengkapi kemampuan sistem AI tersebut.
Peluncuran GPT-Red dilakukan beberapa pekan setelah OpenAI merilis GPT-5.6 sebagai model AI terbarunya. Kehadiran GPT-Red menunjukkan komitmen perusahaan dalam meningkatkan keamanan AI di tengah semakin luasnya penggunaan agen AI yang mampu menjalankan berbagai tugas secara mandiri.
