Mengenal GPT-Red, Pasukan Hacker Rahasia Buatan OpenAI

Bayangkan ada AI yang tugasnya bukan membantu pengguna, melainkan mencoba meretas AI lain. Itulah gambaran singkat apa itu GPT-Red, sistem red-teaming otomatis terbaru OpenAI yang diperkenalkan pada Juli 2026. Artikel ini akan membahas cara kerjanya, alasan pengembangannya, hingga dampaknya terhadap keamanan model AI generasi terbaru.

Apa Itu GPT-Red?

Kalau mendengar nama GPT, mungkin yang terbayang adalah chatbot seperti ChatGPT yang siap membantu menjawab pertanyaan atau membuat kode. Namun, GPT-Red punya tugas yang sangat berbeda.

GPT-Red adalah Red Team AI OpenAI yang dirancang khusus untuk menguji dan menyerang model AI buatan OpenAI sendiri. Tujuannya bukan membantu pengguna, melainkan menemukan celah keamanan chatbot AI sebelum dimanfaatkan oleh pihak yang tidak bertanggung jawab. Ibarat ethical hacker di dunia siber, GPT-Red bertugas “menguji pertahanan” AI agar semakin kuat.

Cara kerjanya pun cukup unik. GPT-Red terus mengirim berbagai skenario serangan, mengamati respons model target, lalu mencari pola kelemahan yang bisa dieksploitasi. 

Baca Juga: Begini Cara AI Menemukan Bug di Website Kamu, Wajib Tahu!

Salah satu fokus utamanya adalah prompt injection, yaitu teknik menyisipkan instruksi berbahaya ke dalam email, website, dokumen, atau output aplikasi yang kemudian dibaca AI. Jika berhasil, AI bisa saja menjalankan perintah yang tidak pernah diminta pengguna.

Perlu dipahami bahwa GPT-Red bukan produk yang tersedia untuk publik. OpenAI menyebut model ini hanya digunakan sebagai alat internal karena memiliki kemampuan ofensif yang sengaja dikembangkan untuk kepentingan riset keamanan AI. 

Hasil pengujiannya kemudian dimanfaatkan untuk melatih model yang lebih tangguh, termasuk GPT-5.6. Jadi, meski belum bisa diakses secara umum, GPT-Red memberi gambaran bagaimana OpenAI membangun LLM security agar model AI berikutnya semakin tahan terhadap berbagai teknik serangan.

Baca Juga: Makin Aman! Ini Cara AI Google Drive Deteksi Ransomware

Kenapa OpenAI Perlu Menciptakan “AI Hacker” Sendiri?

Semakin canggih model AI, semakin besar pula tantangan untuk menjaganya tetap aman. Masalahnya, perkembangan AI saat ini jauh lebih cepat dibanding proses pengujian manual. 

Karena itulah OpenAI mengembangkan AI hacker internal OpenAI yang mampu menjalankan ribuan skenario serangan secara otomatis untuk memperkuat sistem keamanan AI.

Masalah Prompt Injection yang Makin Kompleks

Salah satu ancaman terbesar saat ini adalah prompt injection, yaitu teknik menyisipkan instruksi berbahaya ke dalam website, email, dokumen, atau output aplikasi yang dibaca AI.

Jika model gagal membedakan instruksi asli dengan instruksi tersembunyi, AI bisa saja membocorkan data, mengirim API key, atau menjalankan tindakan yang tidak diinginkan. 

Semakin banyak tool dan data yang diakses AI, semakin besar pula potensi celah keamanan chatbot AI.

Red-Teaming Manual Tak Lagi Mampu Mengejar Perkembangan AI

Pengujian oleh peneliti keamanan tetap penting, tetapi jumlah skenario yang bisa diuji manusia sangat terbatas. Sementara itu, model AI terus berkembang dengan jutaan kemungkinan interaksi. 

Melalui GPT-Red, OpenAI dapat mengotomatisasi proses Red Team AI OpenAI sehingga ribuan serangan bisa dijalankan sekaligus dan hasilnya langsung dimanfaatkan untuk meningkatkan LLM security.

Agentic AI Memperluas Permukaan Serangan

Kini AI tidak hanya menjawab pertanyaan, tetapi juga bisa membuka browser, membaca email, menjalankan tool, hingga mengakses API. Kemampuan ini membuat AI semakin bermanfaat, sekaligus memperluas peluang serangan. 

Karena itulah GPT-Red dikembangkan agar OpenAI dapat menemukan dan menutup celah tersebut sebelum model digunakan oleh publik.

Cara Kerja GPT-Red

Yang membuat GPT-Red menarik bukan hanya kemampuannya menyerang model AI, tetapi juga cara belajarnya yang terus berkembang. Yuk, kita bedah bagaimana GPT-Red dilatih OpenAI dan bekerja menangkal serangan hacker.

Self-Play Reinforcement Learning

OpenAI melatih GPT-Red dengan self-play reinforcement learning, yaitu pendekatan di mana AI belajar dengan “bertanding” melawan AI lain sehingga kemampuan menyerang dan bertahan meningkat secara bersamaan.

Bayangkan dua AI bermain catur tanpa henti. Semakin sering bertanding, semakin pintar strategi yang mereka miliki. Konsep inilah yang diterapkan pada GPT-Red. 

Model ini terus mencoba berbagai teknik prompt injection untuk mencapai target tertentu, seperti mencuri API key, mengambil file internal, atau memicu tindakan tanpa izin. Setiap serangan yang berhasil akan menjadi bahan pembelajaran agar serangan berikutnya semakin efektif.

Attacker dan Defender Dilatih Bersamaan

Menariknya, bukan hanya GPT-Red yang belajar. Di sisi lain, OpenAI juga melatih model AI yang berperan sebagai defender. 

Ketika GPT-Red menemukan celah baru, model defender akan dilatih untuk mengenali dan menolaknya tanpa mengganggu permintaan pengguna yang sah. Siklus ini membuat proses peningkatan LLM security berlangsung jauh lebih cepat dibanding pengujian manual.

Skala Komputasi yang Sangat Besar

Untuk melatih sistem ini, OpenAI menggunakan komputasi setara ratusan ribu GPU hours dan berbagai lingkungan simulasi yang menyerupai kondisi nyata, mulai dari email, website, hingga tool eksternal. 

Hasilnya, GPT-Red diklaim mampu menemukan celah pada hampir seluruh model yang diuji, termasuk GPT-5.5, sebelum temuannya digunakan untuk memperkuat GPT-5.6.

Seberapa Kuat GPT-Red Dibanding Tim Hacker Manusia?

Pertanyaan berikutnya: Apakah AI benar-benar bisa mengalahkan peneliti keamanan manusia?

Berdasarkan hasil pengujian OpenAI, jawabannya: pada beberapa skenario tertentu, iya.

Dalam salah satu benchmark indirect prompt injection yang belum pernah dilihat sebelumnya oleh kedua pihak, GPT-Red berhasil membuat serangan yang sukses pada 84% skenario, sementara tim red-teaming manusia hanya mencapai 13%.

Perbedaannya bukan sekadar tipis, tetapi menunjukkan bahwa otomatisasi memungkinkan AI mengeksplorasi jauh lebih banyak variasi serangan dalam waktu yang sama.

OpenAI juga menguji GPT-Red pada mesin penjual otomatis berbasis AI di kantornya. Setelah berlatih di lingkungan simulasi, GPT-Red berhasil:

• menurunkan harga produk mahal menjadi hanya US$0,50,
• memesan produk baru bernilai lebih dari US$100 lalu menjualnya seharga US$0,50,
• serta membatalkan pesanan pelanggan lain.

Pengujian lain dilakukan terhadap agen pengembang berbasis Codex CLI. Dibanding model GPT-5.5 yang hanya diberi prompt biasa, GPT-Red mampu memperoleh data sensitif pada lebih banyak skenario sekaligus menggunakan token yang lebih sedikit.

Temuan lain yang cukup menarik adalah munculnya teknik baru bernama Fake Chain-of-Thought Attack.

Alih-alih menyisipkan instruksi secara langsung, GPT-Red memasukkan proses penalaran palsu sehingga model target mengira instruksi tersebut telah diverifikasi sebelumnya.

Pada GPT-5.1, teknik ini berhasil lebih dari 95% percobaan. Setelah GPT-5.6 dilatih menggunakan data dari GPT-Red, tingkat keberhasilannya turun menjadi kurang dari 10%.

Ini menunjukkan bahwa AI bukan hanya mampu menemukan kelemahan lama, tetapi juga dapat menciptakan kelas serangan baru yang sebelumnya belum pernah diidentifikasi.

Apa Dampaknya untuk GPT-5.6?

Semua serangan yang berhasil ditemukan GPT-Red tidak berhenti sebagai laporan keamanan. Justru, temuan tersebut dijadikan data pelatihan ulang untuk memperkuat GPT-5.6 agar lebih tahan terhadap berbagai teknik prompt injection.

Hasilnya, OpenAI mengklaim GPT-5.6 mengalami peningkatan keamanan yang cukup signifikan, di antaranya:

• 6x lebih tahan terhadap direct prompt injection, dibanding model produksi sebelumnya.
• Akurasi lebih dari 97% pada pengujian indirect prompt injection yang melibatkan browser dan berbagai tool developer.
• Lebih cerdas membedakan instruksi, sehingga mampu mengenali mana perintah asli dari pengguna dan mana instruksi berbahaya yang disisipkan pihak ketiga.
• Tetap berguna untuk pekerjaan sehari-hari, tanpa menjadi terlalu sering menolak permintaan yang sebenarnya aman (over-refusal).

Artinya, OpenAI tidak hanya berfokus membuat model lebih aman, tetapi juga memastikan pengalaman pengguna tetap nyaman. AI masih bisa membuka file, menggunakan browser, atau menjalankan tool eksternal jika memang diperlukan, namun lebih waspada terhadap instruksi yang mencurigakan.

Meski begitu, ada satu hal yang perlu dicatat. Seluruh angka benchmark tersebut masih berasal dari pengujian internal OpenAI dan belum diverifikasi secara independen oleh komunitas riset keamanan AI. 

Walaupun demikian, pendekatan ini menunjukkan bahwa masa depan LLM security kemungkinan besar akan mengandalkan AI untuk menguji dan memperkuat AI sebelum dirilis ke publik.

Kesimpulan

GPT-Red menunjukkan bahwa masa depan keamanan AI tidak lagi hanya mengandalkan manusia. OpenAI kini memanfaatkan AI untuk menguji, menemukan, sekaligus membantu menutup berbagai celah keamanan sebelum model seperti GPT-5.6 dirilis ke publik.

Bagi pengguna ChatGPT, pendekatan ini berpotensi membuat interaksi dengan AI agent menjadi lebih aman, terutama saat AI mulai terhubung dengan browser, email, file, hingga aplikasi pihak ketiga. Sementara bagi developer, LLM security kini menjadi aspek penting yang perlu dipertimbangkan sejak tahap pengembangan.

Namun, keamanan AI tidak hanya bergantung pada model yang digunakan. Infrastruktur tempat AI berjalan juga memiliki peran besar dalam melindungi data dan layanan dari berbagai risiko.

Kalau kamu sedang membangun aplikasi AI atau menjalankan agent berbasis API, VPS Murah dari IDwebhost bisa menjadi pilihan yang tepat. Dengan kontrol penuh atas server, firewall, akses root, dan resource yang lebih stabil, kamu dapat membangun lingkungan pengembangan AI yang lebih aman, fleksibel, dan siap berkembang sesuai kebutuhan.