
Mengapa implementasi AI di Indonesia masih tertahan
Risiko keamanan menjadi salah satu alasan organisasi Indonesia belum memperluas implementasi AI ke operasi sehari-hari. Menurut data Akamai yang dilaporkan SuaraGarut.ID dan Koridor.co.id pada 15 November 2026, 84 persen organisasi di Indonesia masih berada pada tahap pengujian atau proof-of-concept generative AI.
Tahap ini mencakup penggunaan AI untuk membuat teks, gambar, video, dokumen, serta kode program. Angka tersebut tidak berarti organisasi menolak AI. Banyak tim sedang mencari batas aman antara eksperimen yang berguna dan penggunaan yang dapat memengaruhi data, pelanggan, atau keputusan operasional.
Dalam Akamai Virtual Media Briefing pada 12 November 2026, Jay Jenkins, CTO of Cloud Computing Akamai, menyatakan pelanggan mengkhawatirkan risiko yang dibawa ketika teknologi diadopsi terlalu cepat, sebagaimana dikutip SuaraGarut.ID. Kekhawatiran itu masuk akal ketika AI mulai terhubung dengan sistem internal, bukan lagi hanya dipakai untuk membuat draf.
Pertanyaan praktisnya bukan sekadar apakah model dapat memberi jawaban yang rapi. Organisasi perlu menetapkan data yang boleh diproses, pihak yang dapat memakai sistem, tindakan yang boleh dijalankan, serta cara menghentikan workflow bila hasilnya keliru.
Risiko berubah ketika AI diberi akses dan tindakan
AI yang hanya membantu merangkum dokumen dalam lingkungan terbatas memiliki profil risiko berbeda dari AI yang dapat mengambil data pelanggan, memperbarui CRM, atau mengirim komunikasi keluar. Risiko meningkat ketika keluaran model menjadi dasar tindakan otomatis atau ketika sistem terhubung ke beberapa aplikasi.
Sebagai ilustrasi hipotetis, tim layanan pelanggan memakai AI untuk membaca pesan masuk dan membuat draf jawaban. Pada tahap awal, staf tetap memilih, menyunting, atau menolak draf sebelum dikirim. Risiko bertambah jika sistem kemudian diberi akses untuk mengubah status tiket, menawarkan kompensasi, atau mengakses riwayat pelanggan tanpa peninjauan manusia.
Koridor.co.id menyebut Akamai menekankan AI agentik, sistem mandiri untuk mengejar sasaran jangka panjang. Istilah ini perlu dibedakan dari otomasi biasa. Otomasi dapat menjalankan urutan tetap, misalnya formulir masuk lalu data disimpan ke CRM. AI automation memakai AI untuk memahami isi formulir sebelum menentukan kategori. AI agent dapat memakai konteks dan tools untuk menjalankan beberapa langkah menuju tujuan.
Ruang tindakan yang lebih luas membutuhkan batas yang lebih tegas. Organisasi perlu menentukan tindakan mana yang aman dijalankan otomatis, tindakan mana yang memerlukan persetujuan, serta siapa yang menanggung keputusan ketika sistem salah. Pengawasan manusia bukan tahap kosmetik di akhir workflow. Ia adalah titik kendali sebelum dampak menyentuh pelanggan, data, atau sistem inti.
Kajian BPSDM DKI Jakarta tentang peran AI dalam keamanan siber mengingatkan bahwa deteksi ancaman otomatis tetap membawa risiko kesalahan deteksi. Prinsip tersebut relevan untuk workflow bisnis. Keluaran AI perlu diperiksa berdasarkan konteks proses, terutama bila kesalahan dapat memicu keputusan yang merugikan atau akses yang tidak semestinya.
Untuk konteks ancaman terhadap sistem dan infrastruktur, pembaca dapat melihat artikel pilar Risiko Keamanan AI Meningkat pada Infrastruktur TI.
Proof-of-concept belum membuktikan sistem siap produksi
Proof-of-concept membuktikan bahwa ide atau workflow dapat dicoba dalam lingkup terbatas. Tahap ini belum otomatis menjawab pertanyaan produksi, seperti bagaimana sistem menangani akun pengguna berbeda, data sensitif, kegagalan koneksi, atau tindakan AI yang tidak sesuai tujuan.
Perbedaan ini penting karena uji coba sering memakai data yang lebih sedikit dan pengguna yang terbatas. Integrasi dengan CRM, basis data, email, atau sistem operasional dapat belum diaktifkan. Saat akses diperluas, risiko tidak lagi hanya berada pada kualitas jawaban AI, tetapi juga pada hak akses dan jejak aktivitas sistem.
Misalnya, sebuah tim pemasaran menguji AI untuk mengelompokkan formulir calon pelanggan. Workflow awalnya dapat dibuat sederhana: formulir masuk, AI memberi label minat, staf memeriksa label, lalu staf memilih tindak lanjut. Sebelum sistem dipakai lebih luas, tim perlu memeriksa apakah AI menerima data yang seharusnya dibatasi, apakah label dapat dikoreksi, dan apakah aktivitas pengguna serta sistem dapat ditelusuri saat ada masalah.
Contoh ini menunjukkan fokus yang sering terlewat. Kualitas klasifikasi memang perlu diuji, tetapi tidak cukup. Pemilik proses perlu memahami kapan workflow gagal, siapa yang menerima notifikasi, dan apa prosedur untuk membetulkan data yang sudah telanjur masuk ke sistem lain.
Kontrol minimum sebelum AI diperluas
Kontrol minimum dimulai dari pemetaan proses bisnis, bukan pemilihan model atau tools. Buat satu dokumen kerja untuk setiap workflow: tujuan proses, pemilik proses, sumber data, aplikasi yang terhubung, tindakan yang dapat dilakukan AI, serta titik persetujuan manusia. Pemetaan ini membantu tim membedakan fitur yang berguna dari akses yang belum perlu diberikan.
Langkah kedua adalah menetapkan batas data. Tim perlu mencatat data yang dapat dipakai untuk pengujian, data yang harus disamarkan atau dipisahkan, dan data yang tidak boleh masuk ke workflow tersebut. Batas ini perlu dapat dipahami oleh pemilik proses dan tim teknis, karena risiko sering muncul saat data berpindah antarsistem.
Berikutnya, batasi akses berdasarkan peran. Pengguna yang hanya memeriksa hasil tidak memerlukan hak untuk mengubah konfigurasi atau menghubungkan sistem baru. Untuk AI yang menjalankan tindakan eksternal, persetujuan manusia dapat ditempatkan sebelum pengiriman pesan, perubahan data penting, atau tindakan lain yang berdampak langsung.
Catatan aktivitas juga perlu tersedia. Catat input yang relevan, tindakan yang dijalankan, pengguna atau sistem yang memicu workflow, serta hasil atau kegagalan yang terjadi. Tujuannya bukan menyimpan semua hal tanpa batas, melainkan memberi tim dasar untuk menelusuri insiden dan memperbaiki proses.
Sebagai contoh hipotetis, workflow kualifikasi prospek dapat dibatasi menjadi lima tahap: formulir diterima, AI menyarankan kategori, staf menyetujui atau mengoreksi kategori, CRM diperbarui, lalu sales menerima notifikasi. AI tidak diberi wewenang mengirim penawaran atau menghapus data. Jika kategori salah, staf dapat memperbaikinya sebelum data memengaruhi tindak lanjut sales.
Infrastruktur siap AI juga perlu dinilai dari workflow
Kesiapan AI tidak hanya berkaitan dengan GPU. SuaraGarut.ID mengutip Akamai: organisasi Indonesia cenderung mempertimbangkan kesiapan AI dalam investasi infrastruktur. Jay Jenkins menyebut CPU, memori, dan jaringan juga diperlukan untuk mendukung operasional AI.
Artinya, organisasi sebaiknya menilai kebutuhan infrastruktur dari workflow yang akan dijalankan. Workflow yang hanya membuat draf dokumen mempunyai kebutuhan berbeda dari sistem yang menerima permintaan pengguna, mengambil data dari aplikasi internal, dan mengirim hasil ke beberapa sistem. Integrasi, kapasitas jaringan, pengelolaan akses, dan stabilitas sistem perlu dibahas bersama kemampuan komputasi.
Langkah awal yang lebih aman adalah memilih satu workflow berisiko rendah dan mudah diaudit. Libatkan pemilik proses, tim keamanan, serta pihak yang mengelola sistem terkait dalam satu peninjauan. Hasil yang perlu dicari bukan demonstrasi AI paling menarik, melainkan daftar akses yang diperlukan, titik persetujuan, kondisi kegagalan, dan keputusan jelas tentang apakah workflow layak diperluas.
Frequently asked questions
Mengapa banyak organisasi Indonesia masih menguji AI?
Menurut data Akamai yang dilaporkan SuaraGarut.ID dan Koridor.co.id, 84 persen organisasi di Indonesia masih berada pada tahap pengujian atau proof-of-concept generative AI. Kekhawatiran terhadap risiko organisasi saat adopsi terlalu cepat menjadi salah satu alasan kehati-hatian tersebut.
Apa beda proof-of-concept AI dengan sistem produksi?
Proof-of-concept menguji apakah ide atau workflow dapat bekerja dalam lingkup terbatas. Sistem produksi perlu menghadapi pengguna lebih banyak, data nyata, integrasi aplikasi, hak akses, pencatatan aktivitas, dan prosedur saat terjadi kegagalan.
Kapan AI membutuhkan persetujuan manusia?
Persetujuan manusia diperlukan ketika AI akan menjalankan tindakan yang berdampak, seperti mengubah data penting, mengirim komunikasi eksternal, atau mengambil keputusan operasional. Batas tersebut perlu ditetapkan sebelum workflow diaktifkan.
Apa perbedaan otomasi, AI automation, dan AI agent?
Otomasi menjalankan aturan atau urutan tetap. AI automation memakai AI dalam workflow untuk memahami atau mengelompokkan informasi, sedangkan AI agent dapat menggunakan konteks dan tools untuk menjalankan beberapa langkah menuju tujuan. Makin luas tindakan sistem, makin besar kebutuhan kontrol.
Apakah infrastruktur siap AI hanya membutuhkan GPU?
Tidak. Menurut Jay Jenkins dari Akamai yang dikutip SuaraGarut.ID, CPU, memori, dan jaringan juga mendukung operasional AI. Kebutuhan infrastruktur perlu disesuaikan dengan workflow dan sistem yang terhubung.
References
- Organisasi Indonesia Tahan Implementasi AI karena Risiko Keamanan · SuaraGarut.ID
- Organisasi Indonesia Tahan Implementasi AI karena Risiko Keamanan · Koridor.co.id
- Kajian Peran Artificial Intelligence untuk Memperkuat Keamanan Siber · BPSDM DKI Jakarta


