Riset ungkap celah keamanan ChatGPT bagi remaja dan risikonya

Apa yang ditemukan riset tentang celah keamanan ChatGPT bagi remaja

Riset ungkap celah keamanan ChatGPT bagi remaja melalui pengujian Youth AI Safety Institute Common Sense Media. Menurut laporan media, fitur keamanan remaja ChatGPT kadang gagal berfungsi semestinya pada kondisi tertentu. Menurut Kompas.com, riset itu menilai respons ChatGPT untuk pengguna muda masih memiliki kelemahan, terutama saat percakapan menyentuh isu sensitif.

Menurut Twaslnews dan Demokratis.co.id, peneliti menggunakan lebih dari 4.000 prompt melalui akun yang didaftarkan untuk pengguna berusia 13–17 tahun. Psikiater anak dan dokter anak ikut mengevaluasi respons chatbot sebelum serta sesudah ChatGPT for Teens diperkenalkan pada 18 Agustus. Temuan ini perlu dibaca sebagai hasil pengujian atas mekanisme perlindungan, bukan bukti bahwa setiap percakapan remaja dengan ChatGPT akan berakhir buruk.

Area yang diuji mencakup percakapan kesehatan mental, notifikasi untuk orang tua, deteksi usia, dan fitur belajar. Menurut Limapagi, peneliti juga menilai bagaimana chatbot merespons pengguna yang membicarakan pikiran bunuh diri, perilaku menyakiti diri sendiri, atau gangguan pola makan.

Pada pengujian notifikasi, peneliti melakukan percakapan hingga satu jam menggunakan akun baru yang sudah terhubung ke akun orang tua. Menurut Twaslnews, tidak satu pun percakapan itu memicu pemberitahuan. Notifikasi baru muncul ketika pengujian memakai akun lama yang memiliki riwayat percakapan relevan selama beberapa minggu. Artinya, orang tua tidak dapat berasumsi bahwa akun tertaut selalu menghasilkan peringatan saat topik menjadi serius.

Risiko terbesar ada saat chatbot dianggap sebagai tempat bantuan utama

Risiko dapat meningkat bila remaja menjadikan chatbot sebagai satu-satunya tempat mencari bantuan, karena chatbot tidak dapat secara langsung menilai keselamatan atau menindaklanjuti keadaan di dunia nyata. Gaya percakapan yang cepat dan personal dapat membuat interaksi terasa lebih manusiawi. Menurut Demokratis.co.id, peneliti menemukan respons yang berpotensi menimbulkan kesan bahwa AI memiliki perasaan, preferensi, atau suasana hati.

Kesan tersebut penting karena remaja mungkin memakai chatbot sebagai tempat pertama untuk menceritakan persoalan pribadi. Namun, chatbot tidak dapat menilai keselamatan pengguna di dunia nyata, menghubungi keluarga, atau mengambil tanggung jawab atas tindak lanjut. Orang tua, guru, konselor, dan tenaga kesehatan memiliki peran yang tidak dapat digantikan oleh respons teks otomatis.

Twaslnews melaporkan ChatGPT gagal memberi rujukan tepat pada lebih dari seperempat simulasi krisis kesehatan mental buatan ahli. Angka itu tidak berarti setiap responsnya gagal. Namun, temuan tersebut cukup untuk menetapkan batas penggunaan yang tegas: chatbot tidak boleh menjadi satu-satunya tempat mencari pertolongan saat keselamatan diri, tekanan psikologis berat, atau kondisi darurat dibicarakan.

Sebagai ilustrasi hipotetis, seorang siswa memakai ChatGPT untuk menyusun jadwal belajar. Percakapan kemudian bergeser ke rasa putus asa akibat tekanan sekolah. Langkah yang lebih aman ialah menghentikan pembahasan detail sensitif di chatbot, menghubungi orang tua atau guru tepercaya, lalu mencari bantuan profesional bila ada risiko menyakiti diri. Dalam kondisi seperti ini, fitur AI boleh membantu mencari informasi umum, tetapi keputusan dan pendampingan tetap harus dilakukan manusia.

Pengawasan orang tua perlu diuji, bukan sekadar diaktifkan

Notifikasi, filter, dan deteksi usia berguna sebagai lapisan tambahan. Fitur tersebut bukan pengganti komunikasi keluarga. Menurut Demokratis.co.id, sistem deteksi usia dalam pengujian tidak memindahkan akun ke pengalaman remaja meskipun peneliti berulang kali menyatakan bahwa mereka berusia 13 tahun.

Karena itu, keluarga atau sekolah perlu memperlakukan pengaturan teknis sebagai bagian dari sistem pengawasan yang lebih luas. Sistem itu mencakup aturan privasi, jalur bantuan manusia, dan evaluasi berkala atas cara AI dipakai. Pengawasan bukan berarti membaca seluruh percakapan anak tanpa batas; fokusnya adalah membuat anak memahami risiko serta tahu harus mencari siapa ketika menghadapi masalah berat.

Langkah praktis yang dapat dilakukan sekarang:

1. Periksa akun yang dipakai remaja dan pahami pengaturan perlindungan atau kontrol orang tua yang tersedia.
2. Sepakati informasi yang tidak boleh dimasukkan ke chatbot, termasuk kata sandi, alamat, data sekolah, dokumen pribadi, dan cerita sensitif tentang orang lain.
3. Tentukan orang dewasa yang dapat dihubungi jika percakapan AI menyentuh kesehatan mental, intimidasi, kekerasan, atau keselamatan diri.
4. Uji pemahaman, bukan fiturnya saja. Tanyakan kepada remaja apa yang akan dilakukan bila jawaban chatbot membuatnya semakin tertekan atau bingung.

Andaikan sekolah memperkenalkan ChatGPT untuk tugas kelas, guru dapat menetapkan jalur eskalasi sederhana. Siswa yang menghadapi pertanyaan sensitif tidak diminta mengandalkan chatbot, melainkan diberi akses jelas ke wali kelas, konselor, atau petugas yang relevan. Prosedur ini lebih berguna daripada janji bahwa filter teknologi akan selalu menangkap konteks percakapan.

Fitur belajar dapat membantu, tetapi tidak otomatis membentuk kebiasaan belajar

Riset tersebut juga menemukan celah pada fitur pendidikan ChatGPT. Menurut Limapagi, Study Mode dirancang untuk membantu pemahaman melalui penjelasan dan petunjuk, bukan semata menyajikan jawaban akhir. Namun, pengguna masih dapat memperoleh jawaban langsung melalui opsi yang tersedia.

Menurut Twaslnews, fitur Study Hours juga dapat dilewati dengan menghapus awalan perintah “@study”. Ini menunjukkan bahwa desain fitur belajar tidak cukup bila pengguna tetap dapat memilih jalan pintas dengan mudah. Masalahnya bukan pada keberadaan bantuan AI, melainkan pada cara tugas dan proses belajar dirancang.

Contoh hipotetisnya, guru memberi tugas analisis sejarah dan mengizinkan AI untuk membantu membuat kerangka. Siswa tetap perlu menyerahkan tiga hal: pertanyaan awal yang dipakai, sumber pembanding yang dibaca, dan penjelasan bagian mana yang dibantu AI. Dengan cara itu, penilaian berfokus pada proses berpikir, bukan hanya kualitas jawaban akhir.

Kebiasaan yang lebih sehat adalah memakai chatbot setelah siswa mencoba memahami materi sendiri. Gunakan AI untuk meminta contoh tambahan, meminta penjelasan dengan bahasa lebih sederhana, atau menguji pemahaman melalui pertanyaan balik. Jangan langsung meminta jawaban lengkap lalu menganggap tugas selesai.

Batas penggunaan yang perlu disepakati keluarga dan sekolah

Penggunaan ChatGPT oleh remaja tetap dapat bermanfaat untuk brainstorming, penjelasan konsep, latihan menulis, dan penyusunan rencana belajar. Batasnya harus jelas sejak awal. AI dapat memberi respons; AI tidak memegang tanggung jawab atas keamanan pengguna.

Demokratis.co.id melaporkan riset menemukan ChatGPT tetap menolak percakapan berisi interaksi seksual eksplisit. Temuan ini menunjukkan adanya perlindungan pada aspek tertentu. Namun, satu perlindungan yang bekerja tidak membatalkan kelemahan yang ditemukan pada notifikasi, respons darurat, atau deteksi usia.

Bagi orang tua dan pendidik, langkah berikutnya adalah membuat aturan penggunaan satu halaman bersama remaja minggu ini. Tulis tiga bagian: informasi yang tidak boleh dibagikan, topik yang harus dibawa kepada manusia, dan cara memakai AI untuk belajar tanpa menyalin jawaban. Setelah itu, tinjau aturan tersebut setelah penggunaan berlangsung beberapa waktu dan perbaiki bagian yang belum dipahami.

Untuk memahami risiko ketika sistem AI dapat bertindak lebih luas daripada chatbot, pembaca dapat melihat artikel pilar “OpenAI Ungkap Insiden Keamanan Agen AI ChatGPT dalam Uji Coba Otonom”. Fokusnya berbeda: perlindungan remaja membutuhkan fitur teknis, pendampingan manusia, dan kebiasaan penggunaan yang berjalan bersama.