Peneliti Temukan Celah Lockdown Mode ChatGPT dan Risiko Keamanan AI

Peneliti temukan celah lockdown mode chatgpt melalui pratinjau HTML di code block, menurut laporan Check Point Research yang diberitakan ChatNews.id dan Telset.id. Lockdown Mode ChatGPT dirancang untuk membatasi jalur keluarnya data saat pengguna menghadapi risiko prompt injection. Kedua media melaporkan OpenAI kemudian menambahkan pengamanan di sisi server.

Temuan ini tidak berarti Lockdown Mode tidak berguna. Maknanya lebih spesifik: kontrol keamanan AI perlu diperiksa sebagai satu rangkaian, mulai dari model, antarmuka aplikasi, akses data, hingga tindakan yang boleh dilakukan sistem. Pengguna bisnis perlu melihat fitur keamanan sebagai salah satu lapisan, bukan izin untuk memberi AI akses luas tanpa batas.

Apa yang terjadi pada Lockdown Mode ChatGPT

Menurut laporan ChatNews.id dan Telset.id, Check Point Research menemukan celah pada pratinjau HTML dalam code block yang sempat berpotensi melewati pembatasan Lockdown Mode ChatGPT. Kedua media melaporkan OpenAI menambahkan pengamanan di sisi server. HTML adalah bahasa untuk menyusun halaman web; saat dirender sebagai pratinjau, kontennya perlu dipisahkan dari aplikasi utama agar kode yang dikendalikan pengguna tidak memperoleh akses yang tidak semestinya.

Menurut Telset.id, pratinjau tersebut memakai sandbox bersarang dan popup dilaporkan dapat keluar dari batas sandbox tertentu. Sandbox adalah lingkungan pembatas untuk mengisolasi konten berisiko. Masalahnya bukan sekadar tampilan code block, melainkan kemungkinan komponen antarmuka membuka jalur yang tidak selaras dengan pembatasan Lockdown Mode.

ChatNews.id dan Telset.id menyebut pengamanan tambahan diterapkan di sisi server setelah laporan peneliti diterima. Karena perbaikan tersebut dilaporkan berlangsung di sisi server, pengguna tidak perlu menganggap celah yang diberitakan pasti masih aktif. Pelajarannya tetap relevan: pembatasan pada model atau fitur dapat terganggu bila lapisan aplikasi di sekitarnya memiliki kelemahan.

Lockdown Mode membatasi risiko, bukan menghapus prompt injection

Menurut dokumentasi OpenAI, Lockdown Mode adalah pengaturan keamanan lanjutan opsional untuk pengguna dan organisasi yang menangani data sensitif. Mode ini membatasi alat serta kemampuan yang dapat berhubungan dengan web atau layanan eksternal. Tujuannya mengurangi risiko eksfiltrasi data, yaitu keluarnya informasi sensitif kepada pihak yang tidak berwenang.

OpenAI menjelaskan penjelajahan web dalam Lockdown Mode dibatasi pada konten cache sehingga tidak ada permintaan jaringan langsung yang meninggalkan jaringan yang dikendalikan OpenAI. Dokumentasi tersebut juga menyatakan beberapa kemampuan dapat dibatasi atau dinonaktifkan. ChatNews.id dan Telset.id menyebut penjelajahan web langsung, Deep Research, Agent Mode, serta pengunduhan berkas termasuk kemampuan yang dapat dibatasi dalam mode ini.

Batas utamanya perlu dipahami tepat. OpenAI menyatakan Lockdown Mode tidak mencegah prompt injection muncul dalam konten yang diproses ChatGPT. Instruksi berbahaya masih dapat berada di halaman web cache atau file yang diunggah, lalu memengaruhi perilaku maupun akurasi respons. Mode ini membantu membatasi tahap akhir, saat data berpotensi dikirim keluar melalui koneksi eksternal.

Sebagai ilustrasi hipotetis, staf keamanan meminta AI merangkum email yang belum dibaca. Salah satu email phishing memuat teks tersembunyi yang menyuruh sistem mengumpulkan kontak internal. Jika AI hanya membuat ringkasan di dalam percakapan, dampaknya berbeda dengan AI yang juga memiliki kemampuan mengirim data ke layanan luar. Pembatasan koneksi eksternal membantu mempersempit jalur penyalahgunaan, tetapi tidak membuat isi email tersebut tepercaya.

Mengapa pratinjau HTML menjadi masalah keamanan aplikasi

Kode HTML dan JavaScript yang dikendalikan pengguna berisiko bila dijalankan tanpa pembatasan. Menurut Telset.id, sandbox pratinjau HTML dilaporkan membatasi akses langsung konten ter-render ke cookie ChatGPT maupun penyimpanan lokal. Sandbox juga mengendalikan komunikasi dengan sumber daya eksternal.

Laporan tersebut menunjukkan keamanan AI tidak berhenti pada kemampuan model menolak instruksi berbahaya. Menurut Telset.id, Check Point Research menyatakan efektivitas keamanan AI bergantung pada ekosistem aplikasinya. Antarmuka, render dokumen, integrasi browser, koneksi aplikasi, serta hak akses pengguna sama-sama menentukan dampak serangan.

Andaikan tim mengunggah dokumen HTML vendor untuk diringkas, lalu memakai hasil ringkasan untuk keputusan pembelian. Bila dokumen memuat instruksi tersembunyi, AI dapat menghasilkan respons menyimpang walau tidak ada data yang dikirim keluar. Hasil dari sumber eksternal tetap perlu diperlakukan sebagai materi untuk ditinjau, bukan instruksi operasional.

Praktik lebih aman adalah memisahkan aktivitas membaca dari aktivitas bertindak. Workflow pembacaan dapat merangkum, memberi label, atau mengekstrak poin penting. Workflow yang mengirim email, memperbarui CRM, mengunduh berkas, atau mengubah hak akses perlu memiliki kontrol tambahan. Pemisahan ini membatasi dampak saat konten yang diproses ternyata tidak tepercaya.

Risiko terbesar muncul saat AI memiliki akses dan kewenangan bertindak

Tingkat risiko tidak sama pada setiap penggunaan ChatGPT. Percakapan umum tanpa dokumen internal, koneksi aplikasi, atau tindakan eksternal memiliki permukaan serangan lebih sempit. Risiko meningkat saat sistem dapat membaca email, mengakses knowledge base, melihat data pelanggan, atau menjalankan tindakan pada CRM dan layanan lain.

Automation, AI automation, dan AI agent perlu dibedakan. Automation menjalankan urutan tetap berdasarkan pemicu dan aturan, seperti form masuk lalu data dicatat ke CRM. AI automation menambahkan kemampuan memahami atau mengklasifikasikan isi form sebelum data dicatat. AI agent dapat memakai konteks serta tools untuk menyelesaikan beberapa langkah menuju tujuan. Semakin besar ruang tindakan sistem, semakin penting pembatasan akses dan persetujuan manusia.

Misalnya, tim penjualan dapat memakai AI untuk mengelompokkan lead berdasarkan kebutuhan produk di formulir. Sistem boleh membuat label prioritas dan draft follow-up. Namun, pengiriman pesan ke pelanggan, perubahan status peluang penjualan, atau ekspor daftar kontak sebaiknya memerlukan persetujuan staf. Staf juga perlu dapat menghentikan workflow bila keluaran AI berisi instruksi aneh, tautan mencurigakan, atau permintaan akses tidak relevan.

OpenAI menyebut perlindungan Lockdown Mode juga mencakup sandboxing, perlindungan eksfiltrasi data berbasis URL, pemantauan, penegakan, kontrol akses berbasis peran, dan log audit. Organisasi tetap perlu mengaktifkan serta meninjau kontrol sesuai konfigurasi mereka. Lockdown Mode bukan pengganti pengelolaan izin pada aplikasi bisnis yang terhubung.

Langkah yang dapat dilakukan pengguna bisnis sekarang

Mulai dari satu workflow yang sudah memproses konten eksternal, misalnya email masuk, formulir lead, dokumen vendor, atau halaman web. Catat sumber konten, data yang dapat dibaca AI, aplikasi yang terhubung, serta tindakan yang boleh dijalankan setelah AI memberi respons. Pemetaan ini membantu tim melihat jalur yang berpotensi membawa instruksi tidak tepercaya ke sistem internal.

Lalu tetapkan batas tindakan. Tugas berisiko rendah, seperti membuat rangkuman atau memberi label, dapat dijalankan otomatis dengan sampel data aman. Tugas berdampak tinggi, seperti mengirim email, memperbarui data pelanggan, mengunduh file, atau membagikan informasi keluar, perlu persetujuan manusia. Tentukan pula pemilik workflow serta penanggung jawab saat hasil AI salah.

Periksa apakah Lockdown Mode tersedia untuk akun atau workspace yang digunakan. Menurut OpenAI Help Center, ketersediaannya bergantung pada akun, paket, workspace, peluncuran produk, dan konfigurasi administrator. Pertimbangkan mode ini bila pekerjaan melibatkan data sensitif dan pembatasan fitur masih dapat diterima tim.

Untuk konteks privasi yang berdekatan, pembaca dapat melanjutkan ke artikel pilar berjudul “Peneliti Temukan ChatGPT Menyimpan Profil Psikologis Pengguna”. Sesudah itu, pilih satu workflow berisiko tinggi minggu ini, nonaktifkan tindakan eksternal sementara, uji dengan data non-sensitif, lalu dokumentasikan titik yang tetap membutuhkan pemeriksaan manusia.