OpenAI baru saja memperkenalkan sistem kecerdasan buatan (AI) baru yang dinamakan GPT-Red. Tujuan dari pengembangan model ini adalah untuk meningkatkan keamanan AI buatan OpenAI dengan cara yang inovatif. GPT-Red dirancang untuk 'menyerang' AI lainnya yang juga dibuat oleh OpenAI, guna mendeteksi dan menemukan celah keamanan sebelum celah tersebut disalahgunakan oleh pihak luar.
Pengenalan GPT-Red
GPT-Red merupakan alat red teaming yang digunakan untuk menguji berbagai kelemahan dalam sistem. Red teaming adalah proses yang biasa dilakukan oleh tim keamanan siber untuk mengeksplorasi dan mencari kelemahan pada suatu sistem. Namun, GPT-Red melakukan tugas ini secara otomatis menggunakan AI, yang memungkinkan untuk melancarkan serangan dalam skala yang jauh lebih besar dibandingkan pengujian manual oleh manusia.
Metode Pengujian yang Efisien
Dalam pengujian yang dilakukan, GPT-Red mengirimkan berbagai prompt ke model AI target dan menganalisis respons yang diberikan. Jika usaha pertama tidak berhasil, GPT-Red dapat mengubah strategi dan mencoba lagi hingga mendapatkan hasil yang diinginkan. Metode ini memberikan fleksibilitas yang tinggi dalam menemukan celah keamanan.
Reinforcement Learning Self-Play
OpenAI menjelaskan bahwa GPT-Red dilatih menggunakan teknik yang dikenal sebagai reinforcement learning self-play. Teknik ini melibatkan pertarungan antara AI penyerang dan AI bertahan dalam berbagai skenario. Di sini, model penyerang akan mendapatkan 'hadiah' setiap kali berhasil mengeksploitasi sistem, sementara model bertahan mendapatkan imbalan jika mampu menggagalkan serangan tersebut. Proses ini yang diulang terus-menerus membuat kemampuan kedua model meningkat secara bertahap.
Keberhasilan GPT-Red dalam Pengujian
OpenAI mengklaim bahwa GPT-Red mampu menemukan celah keamanan dengan tingkat keberhasilan yang jauh lebih tinggi dibandingkan tim keamanan manusia. Dalam pengujian internal, GPT-Red berhasil mengeksploitasi 84 persen skenario yang diuji, sementara manusia hanya mencatat tingkat keberhasilan sebesar 13 persen. Ini menunjukkan bahwa penggunaan GPT-Red sangat efektif dalam mengidentifikasi potensi masalah keamanan.
Selain itu, GPT-Red juga menunjukkan peningkatan signifikan dalam mengatasi jenis serangan tertentu. Jenis serangan prompt injection dan fake chain-of-thought yang sebelumnya mampu menembus model GPT-5.1 dengan tingkat keberhasilan lebih dari 95 persen kini hanya mencatat kurang dari 10 persen terhadap GPT-5.6.
OpenAI juga melakukan pengujian terhadap GPT-Red dengan sejumlah agen AI lainnya. Dalam salah satu pengujian, sistem ini berhasil mengambil alih agen mesin penjual otomatis virtual yang bernama Vendy, termasuk mengubah harga produk dan membatalkan pesanan. Selain itu, GPT-Red juga dapat memanipulasi agen AI berbasis command line yang digunakan dalam proses pemrograman.
Dylan Hunn, seorang peneliti di OpenAI, mengatakan, "Dibandingkan dengan tim red teaming manusia, model ini sangat, sangat baik dalam menemukan apa yang benar-benar berhasil." Dengan kemampuan yang ditawarkan oleh GPT-Red, OpenAI berkomitmen untuk terus meningkatkan keamanan produknya dan melindungi pengguna dari potensi ancaman yang ada.
Sumber: https://tekno.kompas.com/read/2026/07/16/17040067/openai-kenalkan-gpt-red-senjata-untuk-melawan-ai-nya-sendiri
