ChatGPT Memiliki Lima Batasan untuk Tugas Sensitif

Lima tugas yang tidak boleh sepenuhnya diserahkan ke ChatGPT

ChatGPT berguna untuk merangkum, menyusun draf, menjelaskan konsep, mengolah teks, membuat kode, dan memproses gambar. Namun, kemampuan menghasilkan jawaban yang cepat tidak sama dengan kemampuan mengambil keputusan yang aman. ChatGPT memiliki lima batasan untuk tugas sensitif: menentukan langkah hukum, menggantikan psikolog atau konselor, mengunggah dokumen internal, mendiagnosis penyakit atau menentukan pengobatan, serta memasukkan kata sandi dan data pribadi.

Demokratis.co.id dan Lensa Hukum, dalam artikel yang terbit pada 25 Oktober 2026, menempatkan lima area tersebut sebagai tugas yang tidak sebaiknya dipercayakan sepenuhnya kepada chatbot. Benang merahnya jelas: ada risiko keputusan keliru, kerahasiaan informasi, atau dampak langsung terhadap keselamatan dan hak seseorang.

Masalahnya bukan bahwa ChatGPT tidak boleh dipakai sama sekali. Batas yang perlu dibuat adalah antara AI sebagai alat bantu dan AI sebagai pengambil keputusan akhir. Pada tugas sensitif, manusia yang memahami konteks tetap perlu memeriksa informasi, memberi persetujuan, dan bertanggung jawab atas tindakan berikutnya.

1. ChatGPT bukan dasar tunggal untuk keputusan hukum

ChatGPT dapat membantu menerjemahkan istilah hukum ke bahasa yang lebih mudah dipahami atau membantu menyusun daftar pertanyaan sebelum konsultasi. Fungsinya berhenti ketika pengguna mulai menjadikan jawabannya sebagai dasar tunggal untuk mengajukan gugatan, menandatangani dokumen, memilih strategi sengketa, atau menilai kewajiban hukum.

Menurut Demokratis.co.id dan Lensa Hukum, jawaban chatbot dapat terlihat meyakinkan meski kutipan, preseden, atau argumen yang digunakan tidak memiliki dasar yang sahih. Kompas.com melaporkan Damien Charlotin menghimpun basis data 2.000 lebih perkara lintas negara terkait masalah penggunaan ChatGPT. Risiko ini tidak hilang hanya karena jawaban AI ditulis dengan rapi.

Sebagai ilustrasi hipotetis, tim legal perusahaan meminta ChatGPT merangkum perjanjian kerja sama dan menemukan klausul yang tampak merugikan. AI boleh membantu menandai bagian untuk ditinjau. Pengacara internal atau penasihat hukum tetap perlu memeriksa naskah asli, aturan yang berlaku, konteks transaksi, dan konsekuensi perubahan klausul sebelum perusahaan merespons pihak lain.

2. Respons empatik tidak menggantikan psikolog atau konselor

ChatGPT dapat merespons cerita pribadi kapan saja. Kemudahan ini mungkin membuat pengguna merasa didengar, terutama ketika belum siap berbicara dengan orang lain. Namun, respons yang terdengar empatik bukan penilaian profesional terhadap kondisi psikologis seseorang.

Demokratis.co.id dan Lensa Hukum mengingatkan bahwa chatbot tidak menggantikan psikolog atau konselor. Sistem tidak memikul tanggung jawab profesional untuk menilai risiko, memahami riwayat pribadi secara menyeluruh, atau menentukan bentuk dukungan yang tepat. Untuk kondisi yang berkaitan dengan keselamatan diri atau orang lain, percakapan dengan tenaga profesional dan layanan darurat yang relevan perlu diprioritaskan.

Penggunaan yang lebih terbatas masih mungkin. Misalnya, seseorang dapat memakai ChatGPT untuk menyusun pertanyaan sebelum sesi konseling, merangkum perasaan yang sulit dijelaskan, atau membuat daftar kebiasaan yang ingin dibicarakan. Jangan meminta chatbot menetapkan diagnosis, menggantikan terapi, atau memutuskan apakah kondisi tertentu aman diabaikan.

3. Dokumen internal perlu dibatasi sebelum masuk ke ChatGPT

Dokumen internal sering memuat informasi yang tidak boleh beredar luas: strategi perusahaan, kontrak, data pelanggan, rencana produk, prosedur operasional, atau komunikasi antarpegawai. Mengunggahnya hanya karena ingin memperoleh ringkasan cepat dapat menciptakan risiko yang tidak terlihat dari sisi pengguna.

Panduan OpenAI tentang Riset mendalam di ChatGPT menjelaskan bahwa fitur tersebut dapat menggunakan file yang diunggah, web publik, situs tertentu, serta aplikasi terhubung yang tersedia jika diizinkan oleh pengaturan workspace dan izin aplikasi. Artinya, sebelum memakai fitur AI untuk bahan internal, tim perlu memahami sumber apa yang diakses, siapa yang memiliki izin, dan apakah file tersebut memang perlu digunakan untuk tugas itu.

Contoh hipotetisnya, tim penjualan ingin merangkum keluhan pelanggan dari dokumen bulanan. Langkah yang lebih aman adalah menghapus nama, nomor telepon, alamat, nomor pesanan, serta identitas akun sebelum materi diproses. Berikan AI hanya data yang dibutuhkan untuk menemukan pola keluhan. Hasil ringkasan lalu diperiksa supervisor sebelum dipakai untuk membuat keputusan layanan.

4. Informasi kesehatan bukan diagnosis atau keputusan pengobatan

ChatGPT dapat membantu pengguna memahami istilah medis umum atau menyiapkan daftar pertanyaan untuk dokter. Ia tidak dapat menggantikan pemeriksaan, riwayat kesehatan lengkap, penilaian klinis, dan tanggung jawab profesional yang diperlukan untuk diagnosis maupun pengobatan.

Demokratis.co.id dan Lensa Hukum memasukkan diagnosis penyakit serta penentuan pengobatan sebagai tugas berisiko. Gejala yang sama dapat memiliki penyebab berbeda. Informasi yang tidak lengkap, salah dipahami, atau tidak sesuai kondisi individu dapat mendorong keputusan yang keliru bila pengguna mengandalkan jawaban chatbot tanpa konsultasi medis.

Andaikan seorang pengguna mengalami keluhan yang ingin ia pahami sebelum membuat janji temu. ChatGPT dapat dipakai untuk membantu membuat catatan gejala, durasi, obat yang sedang digunakan, dan pertanyaan bagi tenaga kesehatan. Keputusan untuk memulai, menghentikan, atau mengubah pengobatan tetap harus dibicarakan dengan dokter atau tenaga kesehatan yang menangani.

5. Kata sandi dan data pribadi tidak boleh dijadikan bahan prompt

Kata sandi, kode akses, token autentikasi, nomor identitas, detail kartu pembayaran, atau informasi pribadi tidak perlu dimasukkan ke percakapan untuk memperoleh bantuan. Demokratis.co.id menyebut kata sandi dan informasi pribadi sebagai area yang perlu dihindari saat menggunakan ChatGPT.

Jangkau Indonesia, dalam laporan 3 Januari 2026, menyebut ada lima jenis informasi sensitif yang sebaiknya tidak pernah dibagikan ke AI.

Kebutuhan kerja sering menciptakan godaan untuk membagikan data asli. Contohnya, staf ingin meminta AI memperbaiki format pesan pelanggan lalu menempelkan nama lengkap, nomor kontak, dan rincian transaksi. Kebutuhan tersebut dapat diselesaikan tanpa data nyata. Ganti identitas dengan penanda seperti `[NAMA_PELANGGAN]`, `[NOMOR_PESANAN]`, atau `[KODE_AKSES]`.

Prinsipnya sederhana: jangan masukkan informasi yang akan menimbulkan dampak serius bila terbaca pihak yang tidak berwenang. Untuk masalah akses akun, gunakan saluran pemulihan akun atau prosedur TI perusahaan, bukan percakapan dengan chatbot.

FAQ: Data pribadi dan kredensial apa yang tidak boleh dimasukkan ke ChatGPT?

Informasi sensitif sebaiknya tidak dimasukkan ke AI bila tidak diperlukan untuk tugas yang sedang dilakukan.

Cara memasukkan ChatGPT ke workflow dengan kontrol manusia

Terapkan kontrol manusia dengan membatasi AI pada draf, ringkasan, atau penanda, lalu wajibkan persetujuan manusia sebelum tindakan sensitif dilakukan. Rancang kontrol saat AI menerima data sensitif atau menghasilkan keluaran yang dapat memengaruhi seseorang. Mulai dari tugas berisiko rendah dengan data yang telah diminimalkan atau disamarkan.

Bedakan tiga tingkat penggunaan. Otomasi biasa meneruskan formulir ke CRM berdasarkan aturan. AI automation dapat membaca isi formulir lalu mengelompokkan jenis kebutuhan. Keputusan sensitif muncul ketika sistem diperbolehkan menolak layanan, mengirim materi rahasia, memberi arahan medis, atau menentukan tindakan hukum tanpa pemeriksaan manusia.

Untuk satu workflow yang sudah ada, lakukan pemeriksaan berikut:

1. Catat data yang masuk ke ChatGPT dan hapus data yang tidak diperlukan.
2. Tentukan keluaran yang hanya boleh menjadi draf, ringkasan, atau penanda untuk ditinjau.
3. Tetapkan tindakan yang wajib menunggu persetujuan manusia, terutama tindakan eksternal atau yang mengubah data penting.
4. Tentukan penanggung jawab jika keluaran AI salah, tidak lengkap, atau diproses di luar tujuan awal.
5. Uji workflow memakai contoh tersamarkan sebelum data kerja digunakan.

OpenAI menjelaskan bahwa Riset mendalam dapat menghasilkan laporan dengan kutipan atau tautan sumber agar pengguna dapat memverifikasi informasi. Fitur ini membantu proses riset, tetapi bukan pengganti verifikasi. Tim tetap perlu membuka sumber, memeriksa konteks, dan menilai apakah sumber tersebut cukup kuat untuk keputusan yang akan dibuat.

Artikel pilar Kenali 5 Tugas yang Sebaiknya Tidak Diserahkan ke ChatGPT membahas batas penggunaan ChatGPT secara umum. Setelah membacanya, pilih satu workflow di tim Anda minggu ini. Tulis data yang masuk, tindakan yang mungkin keluar, nama pemeriksa manusia, dan kondisi yang harus menghentikan proses. Empat catatan itu sudah cukup untuk menemukan apakah ChatGPT sedang dipakai sebagai asisten atau sudah diberi peran pengambil keputusan.