
Apa yang dilakukan Cisco dengan Claude Mythos?
Cisco menambahkan model AI Claude Mythos milik Anthropic ke platform AI Defense untuk memperkuat keamanan agen AI melalui red teaming pada aplikasi dan agen sebelum produksi. Red teaming adalah pengujian proaktif yang mensimulasikan upaya penyalahgunaan atau serangan guna menemukan kerentanan sebelum sistem masuk produksi. Menurut pengumuman Cisco yang diberitakan Liputan6 pada November 2026, kemampuan ini ditujukan untuk menguji sistem AI dengan skenario serangan multi-langkah yang disesuaikan dengan target.
Fokus integrasi ini bukan membuat agen lebih cepat menyelesaikan tugas. Fokusnya adalah mencari titik gagal ketika agen menerima instruksi yang menyesatkan, memakai tool yang tidak semestinya, atau berinteraksi dengan data sensitif. Cisco menyebut Claude Mythos dapat membantu menghasilkan ide serangan adversarial yang kontekstual pada arsitektur kompleks. Artinya, pengujian tidak berhenti pada satu prompt berbahaya, tetapi dapat menilai rangkaian keputusan agen dalam sebuah workflow.
Cisco juga mengumumkan pembaruan Splunk Agent Observability dan Cisco IQ. Menurut Liputan6, pembaruan tersebut dikaitkan dengan keamanan runtime, pemantauan kualitas agen, tata kelola, serta biaya operasional AI. Tiga area itu perlu berjalan bersama karena agen yang aman saat diuji belum tentu tetap aman setelah model, prompt, data, atau integrasinya berubah.
Mengapa keamanan agen AI berbeda dari keamanan chatbot?
Agen AI dapat menggunakan konteks dan tools untuk menyelesaikan tujuan melalui beberapa langkah. Chatbot biasa umumnya memberi respons dalam percakapan. Agen dapat membaca data, mengambil informasi dari basis pengetahuan, membuat tiket, memperbarui CRM, atau memicu workflow lain jika sistem memberinya izin. Karena itu, risiko agen mencakup tindakan yang terjadi setelah jawaban model diberikan.
Sebagai ilustrasi hipotetis, sebuah tim sales memakai agen untuk menangani prospek masuk. Workflow-nya adalah formulir prospek diterima, agen membaca kebutuhan, mengklasifikasikan minat, membuat data CRM, lalu menyiapkan pesan tindak lanjut untuk ditinjau sales. Pengujian keamanan perlu memeriksa apakah teks dalam formulir dapat membujuk agen mengabaikan instruksi, meminta data pelanggan lain, mengubah status prospek, atau mengirim pesan tanpa peninjauan manusia.
Pengujian aplikasi konvensional tetap penting, misalnya pemeriksaan autentikasi, input, dan izin akses. Namun, red teaming agen AI perlu menambah pertanyaan operasional. Tool apa yang dapat dipanggil? Data apa yang boleh dibaca? Siapa pemilik keputusan ketika agen salah? Apakah agen dapat berhenti bila menemukan instruksi yang bertentangan? Pertanyaan tersebut menghubungkan keamanan teknis dengan proses bisnis yang dijalankan agen.
Red teaming perlu menguji rangkaian tindakan, bukan hanya jawaban model
Menurut Cisco, Claude Mythos memperkuat AI Defense melalui kemampuan menyusun skenario serangan bertahap dan kontekstual untuk menemukan kerentanan tersembunyi pada arsitektur kompleks. Nilainya terletak pada pengujian lintas komponen. Satu prompt mungkin terlihat aman ketika dibaca sendiri, tetapi menjadi berbahaya ketika agen dapat meneruskannya ke pencarian dokumen, database, CRM, atau API lain.
Uji yang relevan dapat dimulai dari jalur kerja nyata. Misalnya, tim memiliki agen layanan pelanggan dengan akses ke basis pengetahuan dan sistem tiket. Penguji dapat mencoba instruksi tersisip dalam dokumen, meminta agen mengungkap informasi yang tidak relevan dengan tiket, atau mendorong agen menutup tiket tanpa konfirmasi pelanggan. Hasil yang dicari bukan sekadar apakah agen menjawab sopan, melainkan apakah ia menolak tindakan di luar kewenangan dan mencatat alasan penolakan.
Cisco juga menjelaskan adanya pagar pengaman untuk kemampuan pengujian tersebut. Menurut Liputan6, target pengujian dibatasi pada aset pelanggan yang terdaftar melalui antarmuka terstruktur, tanpa akses prompt terbuka. Setiap sesi juga dikaitkan secara kriptografis dengan identitas operator yang sah. Kontrol seperti ini penting karena tool untuk mensimulasikan serangan juga dapat disalahgunakan bila aksesnya tidak dibatasi.
Observability menentukan apa yang dapat ditinjau setelah agen berjalan
Keamanan agen bukan pekerjaan satu kali sebelum peluncuran. Konfigurasi dapat berubah ketika tim menambah tool, mengganti sumber data, memperluas peran pengguna, atau memperbarui prompt. Menurut Liputan6, Cisco menghubungkan pembaruan Splunk Agent Observability dengan pemantauan kualitas agen, tata kelola, dan efisiensi biaya. Pemantauan membantu tim melihat perilaku aktual, bukan hanya desain awal sistem.
Untuk workflow prospek, log yang berguna dapat mencakup permintaan masuk, keputusan klasifikasi, tool yang dipanggil, data yang diakses, tindakan yang diblokir, serta keputusan yang diteruskan ke sales untuk persetujuan. Catatan itu memudahkan investigasi bila agen membuat entri ganda, membaca kolom CRM yang tidak dibutuhkan, atau memilih tindak lanjut yang tidak sesuai. Log tidak boleh otomatis berisi data sensitif secara berlebihan; tim perlu menentukan data apa yang layak dicatat dan siapa yang berhak membacanya.
Pemantauan juga perlu dikaitkan dengan pemilik proses bisnis. Tim keamanan dapat menilai akses dan indikasi penyalahgunaan. Pemilik layanan pelanggan atau sales dapat menilai apakah keputusan agen masih sesuai aturan kerja. Pemisahan peran ini mencegah asumsi bahwa semua kesalahan agen adalah masalah model. Kadang sumber masalahnya adalah izin terlalu luas, basis pengetahuan yang usang, atau workflow yang tidak memiliki titik eskalasi.
Kontrol manusia harus dirancang sebelum agen diberi tindakan
Untuk workflow berisiko, organisasi dapat menetapkan persetujuan manusia sebelum agen mengubah data penting, mengirim komunikasi eksternal, atau mengakses data di luar kebutuhan tugas. Batas tindakan tersebut perlu ditetapkan sebelum integrasi diperluas. Pernyataan Jeetu Patel, President dan Chief Product Officer Cisco, menempatkan keamanan, pengelolaan, dan pemantauan sebagai syarat untuk memperluas penggunaan AI. Dalam keterangannya yang dikutip Liputan6 pada 13 November 2026, Patel mengatakan organisasi tidak dapat meningkatkan skala sesuatu yang belum dapat diamankan, dikelola, dan dipantau.
Pisahkan tindakan berisiko rendah dan tindakan berisiko tinggi. Agen dapat diizinkan merangkum tiket, memberi label awal, atau menyiapkan draf respons. Perubahan data pelanggan, pengiriman komunikasi eksternal, penghapusan catatan, dan akses ke data di luar kebutuhan tugas sebaiknya memerlukan persetujuan manusia. Sebagai contoh hipotetis, agen boleh membuat draf email tindak lanjut untuk prospek, tetapi sales tetap memeriksa penerima, isi, dan waktu pengiriman sebelum email keluar.
Batas ini perlu terlihat di workflow, bukan hanya tertulis di dokumen kebijakan. Tentukan pemicu approval, orang yang menerima notifikasi, waktu respons, serta tindakan cadangan bila approval tidak diberikan. Jika agen gagal mengambil data dari sumber tepercaya, ia seharusnya meneruskan kasus ke manusia atau berhenti pada status tertunda, bukan mengisi jawaban dengan asumsi.
Langkah awal untuk bisnis yang sedang membangun agen AI
Mulai dari satu workflow internal yang memiliki manfaat jelas dan dampak terbatas bila terjadi kesalahan. Petakan tujuan agen, sumber data, tool, identitas pengguna, output, serta tindakan yang mungkin dipicu. Lalu tulis skenario gagal yang realistis: instruksi tersisip, data salah, akses melampaui peran, tool tidak tersedia, atau keputusan yang ambigu.
Setelah itu, lakukan uji sebelum produksi. Uji apakah agen tetap mengikuti batas akses saat menerima input yang bertentangan. Periksa log panggilan tool. Tentukan tindakan yang harus berhenti untuk approval. Ulangi pengujian setiap kali ada perubahan model, prompt, tool, izin, atau sumber pengetahuan. Pembaca yang masih memetakan konsep dasarnya dapat melihat artikel pilar Apa Itu AI Agent? Ini Cara Kerja dan Contoh Nyatanya.
Pilih satu proses minggu ini, misalnya triase tiket internal atau klasifikasi lead. Buat daftar lima tindakan yang boleh dilakukan agen, lima tindakan yang wajib meminta persetujuan, serta satu orang pemilik workflow. Daftar tersebut memberi dasar yang lebih berguna untuk diskusi dengan tim keamanan daripada langsung memilih model atau platform.
Frequently asked questions
Apa itu red teaming untuk agen AI?
Red teaming adalah simulasi serangan atau penyalahgunaan untuk menemukan kelemahan sebelum sistem dipakai lebih luas. Pada agen AI, pengujian dapat mencakup instruksi menyesatkan, penyalahgunaan tool, akses data berlebihan, dan keputusan lintas langkah.
Apakah Claude Mythos adalah agen AI?
Tidak berdasarkan bahan yang tersedia. Cisco dan media yang mengutip pengumumannya menyebut Claude Mythos sebagai model AI Anthropic yang dipakai dalam AI Defense untuk menguji aplikasi dan agen AI.
Mengapa pengujian agen AI harus dilakukan sebelum produksi?
Agen dapat terhubung ke data dan tools yang memicu tindakan nyata. Pengujian pra-produksi membantu tim menemukan akses berlebihan, instruksi berbahaya, dan jalur keputusan yang tidak semestinya sebelum berdampak pada operasi.
Apa yang perlu dipantau setelah agen AI diluncurkan?
Pantau tool yang dipanggil, data yang diakses, tindakan yang diblokir, kegagalan integrasi, dan kasus yang dialihkan ke manusia. Pemantauan perlu ditinjau bersama pemilik proses bisnis dan tim keamanan.
Tindakan apa yang sebaiknya tetap membutuhkan persetujuan manusia?
Persetujuan manusia layak diterapkan pada tindakan yang mengubah data penting, mengirim komunikasi eksternal, menghapus informasi, atau memakai data sensitif. Batasnya bergantung pada risiko workflow dan kewenangan agen.
References
- Cisco Menghadirkan Pengujian Keamanan untuk Frontier AI dan Agent Observability · Cisco dikutip Eksekutif.com
- Cisco Gandeng Claude Mythos untuk Uji Keamanan Agen AI · Liputan6
- Cisco Integrasikan Claude Mythos untuk Perkuat Keamanan AI · CWIBC


