
Cisco akan menambahkan Claude Mythos ke AI Defense
Cisco mengumumkan pada 9 November 2026 rencana penambahan Claude Mythos dari Anthropic ke Cisco AI Defense. Menurut blog Cisco, integrasi ini akan memperkuat adaptive AI red teaming untuk aplikasi dan agen AI yang sudah terhubung ke tools, keterampilan, serta sumber daya sensitif di lingkungan perusahaan.
Red teaming adalah pengujian proaktif yang mensimulasikan cara penyerang mencari kelemahan. Dalam konteks agen AI, yang diuji bukan hanya jawaban model. Tim juga perlu menguji tindakan yang mungkin terjadi setelah agen menerima instruksi, mengakses data, atau memanggil tool. Cisco menyatakan pengujian tersebut hanya boleh dilakukan pada target yang memang berwenang diuji pelanggan, dikaitkan dengan operator bernama, dan dapat diaudit sepenuhnya.
Pembaruan ini penting karena agen AI bekerja berbeda dari chatbot yang hanya memberi respons percakapan. Agen dapat memakai API, membaca dokumen, membuat atau memperbarui catatan, lalu meneruskan pekerjaan ke sistem lain. Setiap koneksi menambah kemungkinan jalur serangan maupun dampak kesalahan.
Cisco juga mengumumkan pembaruan pada Splunk Agent Observability, Cisco IQ, dan Cisco Data Fabric. Namun, fungsi Claude Mythos dalam AI Defense berfokus pada pengujian keamanan aplikasi serta agen AI. Pembaruan observabilitas dan pengelolaan infrastruktur memiliki peran berbeda dalam ekosistem tersebut.
Untuk konteks lebih luas, pembaca dapat melihat artikel pilar Cisco Gandeng Claude Mythos untuk Uji Keamanan Agen AI.
Cara adaptive red teaming menguji risiko agen AI
Adaptive red teaming menguji risiko berdasarkan kondisi sistem yang sedang diperiksa. Cisco menjelaskan bahwa setiap organisasi memiliki kombinasi aplikasi, data, tools, dan sumber daya sensitif yang berbeda. Karena itu, skenario umum saja belum tentu menemukan kelemahan yang muncul akibat konfigurasi spesifik sebuah deployment.
Menurut Cisco, Claude Mythos menambah kemampuan penalaran untuk membangun jalur serangan yang lebih kompleks dan bertahap. Pengujian dapat menilai hubungan antarkomponen: instruksi pengguna, prompt sistem, dokumen yang diproses model, izin tool, identitas pengguna, serta tindakan akhir yang dapat dijalankan agen.
Sebagai ilustrasi hipotetis, sebuah perusahaan memakai agen layanan pelanggan yang dapat mencari jawaban di basis pengetahuan internal dan membuat tiket dukungan. Tim red team tidak cukup menguji apakah agen menolak permintaan berbahaya secara langsung. Mereka juga perlu mencoba dokumen berisi instruksi terselubung, lalu melihat apakah agen dapat terdorong membuat tiket palsu, mengakses dokumen di luar kebutuhan pelanggan, atau mengubah prioritas tiket tanpa dasar yang valid.
Uji seperti itu mengarah pada pertanyaan operasional. Tool apa yang boleh dipanggil agen? Data apa yang boleh dibaca oleh pengguna tertentu? Apakah tindakan yang mengubah data harus meminta persetujuan manusia? Bila jawaban atas pertanyaan tersebut belum jelas, masalahnya bukan hanya pada model, tetapi juga pada desain workflow dan kontrol akses.
Tiga kontrol yang ditekankan dalam pengujian Cisco AI Defense
Cisco menyebut adaptive AI red teaming-nya memasangkan penalaran penyerang dengan kontrol penggunaan yang bertanggung jawab. Tiga kontrol tersebut adalah otorisasi target, atribusi operator, dan auditabilitas penuh. Ketiganya menentukan batas pengujian agar simulasi serangan tidak berubah menjadi akses tanpa kendali.
Pertama, pengujian dibatasi pada target yang diizinkan pelanggan untuk diuji. Batas ini relevan ketika agen terhubung ke sistem produksi, basis data, CRM, atau layanan pihak ketiga. Tim keamanan perlu menetapkan ruang lingkup sebelum pengujian dimulai, termasuk aplikasi, akun, data uji, dan aksi yang dilarang dilakukan.
Kedua, aktivitas dihubungkan ke operator bernama. Artinya, organisasi dapat menelusuri siapa yang menjalankan pengujian dan pada target apa. Akuntabilitas seperti ini membantu ketika temuan perlu ditinjau oleh pemilik aplikasi, tim keamanan, atau tim kepatuhan.
Ketiga, seluruh proses memiliki jejak audit. Menurut laporan Bsinews.id yang merangkum pengumuman Cisco, aktivitas pengujian didokumentasikan sehingga dapat diperiksa kembali dan digunakan sebagai dasar pengujian berikutnya. Rekam tersebut berguna untuk membandingkan temuan sebelum serta sesudah perubahan kontrol diterapkan.
Sebagai contoh hipotetis, tim keamanan menemukan bahwa agen kualifikasi lead dapat memanggil API CRM dengan izin terlalu luas. Perbaikannya dapat berupa pembatasan field yang boleh dibaca, pembatasan aksi tulis, dan persetujuan sales sebelum agen mengubah status lead. Setelah kontrol diubah, skenario yang sama dijalankan ulang untuk memeriksa apakah jalur tindakan berisiko sudah tertutup.
Risiko agen AI tidak berhenti pada prompt injection
Prompt injection tetap penting untuk diuji, tetapi dampak bisnisnya bergantung pada apa yang dapat dilakukan agen sesudah menerima instruksi. Agen yang hanya menjawab pertanyaan memiliki risiko berbeda dengan agen yang dapat mengirim email, mengubah tiket, mengambil dokumen, atau memperbarui data pelanggan.
Cisco menekankan bahwa organisasi kini perlu memperhitungkan perilaku agen setelah terhubung ke sistem tools, skills, dan sumber daya sensitif yang saling berkaitan. Ini berarti evaluasi keamanan perlu memeriksa rantai tindakan, bukan memisahkan model dari lingkungan tempat model digunakan.
Misalnya, agen pemasaran dapat diberi tugas membuat draf kampanye dari data CRM. Agen mungkin boleh merangkum segmentasi dan menyusun draf pesan. Pengiriman email massal, ekspor daftar pelanggan, atau perubahan segmentasi sebaiknya tidak otomatis dilakukan tanpa kontrol tambahan. Persetujuan manusia diperlukan untuk tindakan yang berdampak langsung pada pelanggan atau data.
Pengelolaan risiko juga memerlukan pembagian tanggung jawab. Pemilik proses bisnis mengetahui tindakan yang aman untuk diotomatisasi. Pengembang workflow memahami integrasi dan error handling. Tim keamanan menilai akses, identitas, serta jalur penyalahgunaan. Tim operasi memantau perilaku sistem setelah diterapkan. Temuan red teaming akan lebih berguna bila tiap pihak memiliki tindakan perbaikan yang jelas.
Langkah praktis sebelum agen AI masuk produksi
Mulailah dari satu workflow yang paling dekat dengan penggunaan nyata. Jangan memulai dari daftar tool atau prompt. Petakan dulu tujuan bisnis, data yang masuk, keputusan yang diambil agen, tool yang dipanggil, serta dampak jika tindakan tersebut salah.
Gunakan urutan kerja berikut untuk menyiapkan pengujian:
- Tulis tugas agen dalam satu kalimat yang spesifik. Contohnya, mengklasifikasikan lead masuk dan menyiapkan draf tindak lanjut untuk sales.
- Catat setiap sumber data dan tool yang dapat diakses agen, termasuk CRM, email, basis pengetahuan, atau API internal.
- Pisahkan tindakan berisiko rendah dari tindakan yang mengubah data, berkomunikasi keluar, atau membuka informasi sensitif.
- Tetapkan kontrol manusia untuk tindakan berisiko. Tentukan siapa pemberi persetujuan dan apa yang terjadi saat tool gagal atau jawaban model tidak pasti.
- Susun skenario penyalahgunaan yang sesuai dengan workflow, lalu dokumentasikan hasil serta perbaikannya.
Andaikan agen lead qualification menerima formulir dari calon pelanggan. Agen dapat membaca isi formulir, memberi label kebutuhan, dan membuat draf catatan untuk sales. Namun, ia tidak perlu diberi izin menghapus kontak, mengubah kepemilikan akun, atau mengirim penawaran final. Batas wewenang itu membuat hasil red teaming lebih mudah diterjemahkan menjadi perubahan teknis yang nyata.
Mulai minggu ini, pilih satu agen yang sudah memiliki akses ke data atau tool internal. Buat inventaris aksesnya, tandai aksi yang harus memerlukan persetujuan manusia, lalu tulis lima skenario kegagalan atau penyalahgunaan yang paling mungkin pada workflow tersebut. Inventaris itu menjadi bahan yang lebih berguna untuk pengujian daripada sekadar mengecek apakah agen mampu menjawab pertanyaan dengan aman.
Frequently asked questions
Apa fungsi Claude Mythos dalam Cisco AI Defense?
Menurut Cisco, Claude Mythos akan menambah kemampuan penalaran untuk adaptive AI red teaming di Cisco AI Defense. Tujuannya adalah membantu pengujian risiko yang spesifik pada aplikasi dan agen AI pelanggan.
Apakah Cisco sudah mengintegrasikan Claude Mythos ke AI Defense?
Cisco mengumumkan rencana penambahan Claude Mythos pada 9 November 2026. Pengumuman Cisco menggunakan frasa bahwa AI Defense akan menambahkan Claude Mythos, sehingga pembaca perlu membedakan pengumuman fitur dari status ketersediaan di setiap pelanggan.
Apa yang diuji dalam red teaming agen AI?
Pengujian dapat mencakup perilaku model, instruksi berbahaya, akses data, penggunaan tool, dan dampak tindakan agen pada sistem lain. Fokusnya adalah menemukan jalur penyalahgunaan sebelum agen digunakan lebih luas.
Mengapa audit trail diperlukan saat menguji agen AI?
Audit trail membantu organisasi menelusuri operator, target pengujian, aktivitas yang dijalankan, dan alasan perubahan kontrol. Cisco menyatakan adaptive red teaming-nya memiliki auditabilitas penuh sebagai salah satu kontrol penggunaan yang bertanggung jawab.
Apakah agen AI boleh menjalankan tindakan tanpa persetujuan manusia?
Hal itu bergantung pada risiko tindakan dan batas wewenang yang ditetapkan organisasi. Tindakan yang mengubah data, membuka informasi sensitif, atau berkomunikasi ke pihak luar patut memiliki mekanisme persetujuan manusia.


