Riset Soroti Keamanan ChatGPT bagi Anak dan Remaja

Evaluasi Common Sense Media menyorot perlindungan ChatGPT bagi pengguna berusia 13–17 tahun, memicu riset keamanan anak-remaja. Evaluasi itu menemukan sejumlah mekanisme keselamatan belum bekerja konsisten saat percakapan membahas bunuh diri, tindakan menyakiti diri sendiri, atau gangguan pola makan.

Temuan ini tidak berarti semua penggunaan ChatGPT oleh remaja selalu berbahaya. Namun, laporan tersebut menunjukkan fitur keamanan, kontrol orang tua, serta respons chatbot tidak boleh diperlakukan sebagai pengganti pendampingan manusia. Orang tua, sekolah, serta pengasuh tetap perlu memiliki aturan penggunaan dan jalur bantuan yang jelas.

Apa yang diuji dalam riset keamanan ChatGPT bagi remaja

ChatNews melaporkan Common Sense Media mengetes lebih dari 4.000 prompt lewat akun remaja terdaftar berusia 13–17 tahun. Peneliti membandingkan respons ChatGPT sebelum dan sesudah pengenalan ChatGPT for Teens pada 18 Agustus. Penilaian turut melibatkan psikiater anak dan dokter anak untuk menilai respons terhadap skenario keselamatan serta kesehatan mental pengguna muda.

Pengujian berfokus pada situasi yang sulit ditangani chatbot: percakapan panjang, emosional, dan berisiko. Dalam kondisi tersebut, sistem tidak cukup menolak satu pertanyaan berbahaya. Sistem perlu mengenali perubahan konteks percakapan, mengarahkan pengguna ke bantuan yang tepat, lalu menjalankan perlindungan akun bila memang dirancang untuk itu.

Sebagai ilustrasi hipotetis, seorang siswa awalnya memakai chatbot untuk memahami tugas biologi. Percakapan kemudian bergeser ke tekanan akademik, gangguan makan, serta keinginan menyakiti diri. Jawaban aman perlu mendorong siswa mencari bantuan manusia. Pengaturan akun juga perlu bekerja sesuai fungsi yang dijanjikan, tanpa membuat keluarga mengira risiko telah tertangani otomatis.

Notifikasi orang tua menjadi temuan penting

Salah satu temuan utama berkaitan dengan notifikasi keselamatan kepada orang tua atau pengasuh. Menurut ChatNews, peneliti memakai akun baru yang tertaut kepada orang tua untuk berdiskusi sampai satu jam tentang bunuh diri, menyakiti diri, serta gangguan makan. Dalam rangkaian pengujian tersebut, notifikasi tidak muncul kepada orang tua.

RRI melaporkan OpenAI keberatan terhadap metodologi itu. Menurut perusahaan, fitur pengawasan orang tua membutuhkan beberapa jam untuk aktif setelah akun ditautkan. Common Sense Media menilai keberatan itu tidak memengaruhi simpulan tentang keandalan notifikasi saat krisis.

Perbedaan pandangan ini penting. Akun tertaut bukan jaminan orang tua menerima setiap peringatan dalam setiap kondisi. Sebelum mengandalkan fitur, keluarga perlu memeriksa status tautan akun, waktu aktivasi, pengaturan tersedia, serta batas perlindungannya. Pengujian independen tetap relevan karena fitur keselamatan perlu dinilai dari perilakunya dalam kondisi penggunaan nyata.

Kontrol orang tua dan respons chatbot punya fungsi berbeda

Kontrol orang tua mengatur pengalaman penggunaan akun. Respons chatbot menentukan cara sistem menjawab isi percakapan. Keduanya saling melengkapi, tetapi tidak saling menggantikan.

Menurut Kompas, orang tua dapat mengatur Quiet Hours, yaitu periode tertentu ketika akses ChatGPT dibatasi. Fitur yang tersedia, cara kerja, serta batasnya perlu diperiksa langsung melalui pengaturan akun dan dokumentasi layanan yang digunakan. Pengaturan dapat berubah, sehingga keluarga sebaiknya tidak mengandalkan asumsi dari pengalaman akun lain.

Pengaturan akun tidak otomatis memahami keadaan emosional anak. RRI menyoroti risiko ketika interaksi chatbot terasa akrab dan menyerupai hubungan antarmanusia. Remaja dapat terlalu bergantung pada AI untuk dukungan emosional, padahal percakapan mengenai keselamatan, intimidasi, tekanan berat, atau kesehatan mental membutuhkan keterlibatan orang dewasa tepercaya dan, bila diperlukan, tenaga profesional.

Misalnya, keluarga dapat menetapkan aturan sederhana: ChatGPT boleh dipakai untuk menjelaskan materi pelajaran atau menyusun kerangka tulisan, tetapi tidak untuk menyimpan curhat pribadi, foto, alamat, data sekolah, atau informasi kesehatan. Bila percakapan menyentuh rasa takut, ancaman, kekerasan, atau dorongan menyakiti diri, anak perlu segera menghubungi orang tua, guru BK, atau orang dewasa tepercaya lain.

Risiko yang perlu diperhatikan di rumah dan sekolah

Risiko utama mencakup rasa aman semu, kebocoran privasi, serta bantuan yang terlambat saat situasi berisiko. JawaPos melaporkan Common Sense Media menilai sebagian perlindungan bekerja dalam pengujian, sementara fitur lain tidak berfungsi konsisten. Satu fitur yang bekerja baik tidak membuktikan seluruh lapisan perlindungan akan bekerja pada semua situasi.

VOI melaporkan salah satu kemampuan chatbot ialah menolak permintaan permainan peran seksual eksplisit, meski kelompok tersebut menemukan persoalan pada beberapa fitur pengaman lain. Temuan seperti ini menunjukkan perlindungan perlu dilihat sebagai rangkaian fungsi, bukan satu tombol pengaman.

Privasi juga perlu dijaga. RRI mengingatkan pentingnya kebiasaan tidak membagikan informasi sensitif saat memakai AI. Pendamping dapat menjelaskan perbedaan antara prompt aman dan prompt berisiko. “Bantu saya membuat pertanyaan wawancara tentang perubahan iklim” tidak memerlukan data pribadi. Sebaliknya, nama lengkap, alamat rumah, nomor telepon, foto pribadi, informasi sekolah, atau cerita kesehatan seseorang sebaiknya tidak dimasukkan.

Bantuan terlambat merupakan risiko berikutnya. Chatbot dapat memberi respons teks, tetapi tidak menggantikan penilaian manusia dalam keadaan darurat. Jika anak membahas keinginan melukai diri, bunuh diri, kekerasan, atau ancaman langsung, fokus pertama ialah menghubungkan anak dengan orang dewasa tepercaya dan bantuan profesional yang sesuai. Jangan menunggu notifikasi aplikasi sebagai satu-satunya tanda bahwa situasi membutuhkan perhatian.

Langkah penggunaan ChatGPT yang lebih aman untuk remaja

Keluarga dan sekolah dapat memulai dari proses sederhana, bukan larangan menyeluruh. Tujuannya membuat penggunaan AI dapat dipantau, dipahami, serta dihentikan bila konteks berubah menjadi berisiko.

1. Tinjau akun bersama. Periksa usia akun, status tautan orang tua, pengaturan privasi, serta pembatasan aktif. Menurut RRI, aktivasi pengawasan orang tua dipersoalkan dalam evaluasi Common Sense Media.
2. Buat daftar data terlarang. Tetapkan bahwa alamat, nomor kontak, kata sandi, foto identitas, informasi kesehatan, serta data orang lain tidak boleh dimasukkan ke chatbot.
3. Pisahkan fungsi belajar dan dukungan emosional. Gunakan chatbot untuk ide tugas, penjelasan konsep, atau latihan bahasa. Persoalan pribadi serius perlu diarahkan kepada manusia yang dapat menindaklanjuti.
4. Tentukan jalur eskalasi. Anak perlu mengetahui siapa yang dapat dihubungi di rumah dan sekolah jika percakapan digital membuatnya takut, tertekan, atau tidak aman.
5. Tinjau aturan berkala. Anak bertambah usia, kebutuhan belajar berubah, serta fitur aplikasi dapat berubah. Aturan yang tidak diperiksa mudah menjadi formalitas.

Untuk konteks riset dan risiko lebih luas, pembaca dapat melihat artikel pilar “Riset Ungkap Celah Keamanan ChatGPT bagi Remaja dan Risikonya”. Langkah berikutnya: jadwalkan pemeriksaan akun bersama anak atau siswa, sepakati data yang tidak boleh dibagikan, lalu tuliskan dua kontak manusia untuk dihubungi saat muncul masalah serius.