Gubernur New York Teken UU Lindungi Anak dari Chatbot AI

Apa yang berubah setelah Gubernur New York teken UU chatbot AI

Gubernur Negara Bagian New York Kathy Hochul menandatangani undang-undang yang membatasi fitur tertentu pada chatbot AI untuk pengguna di bawah 18 tahun. Menurut ANTARA News yang mengutip pernyataan kantor gubernur melalui Xinhua, penandatanganan dilakukan pada 28 Oktober 2026.

Aturan ini berfokus pada desain percakapan chatbot, bukan larangan umum atas penggunaan AI oleh anak. ANTARA menyebut perusahaan dilarang menyediakan fitur yang meniru manusia, memupuk ketergantungan emosional, menghasut penyakitan diri, atau melakukan percakapan seksual eksplisit dengan pengguna di bawah 18 tahun.

Pembedaan ini penting bagi pembuat produk. Chatbot untuk menjawab jadwal kelas, status pesanan, atau panduan penggunaan layanan memiliki tujuan yang terbatas. Risiko berubah ketika chatbot dirancang seolah-olah menjadi teman, pasangan romantis, atau tempat bergantung secara emosional bagi anak.

Menurut CaraPandang yang mengutip pernyataan kantor gubernur, perusahaan juga diwajibkan memverifikasi usia pengguna. Bahan sumber yang tersedia tidak menjelaskan metode verifikasi usia, standar teknisnya, atau proses penerapannya. Tim produk sebaiknya tidak menganggap satu metode tertentu telah diwajibkan hanya dari laporan ini.

Isi aturan dan konsekuensi pelanggaran bagi perusahaan chatbot

Undang-undang tersebut mengarahkan perhatian perusahaan pada empat area risiko: simulasi identitas manusia, hubungan emosional, dorongan melukai diri, serta percakapan seksual eksplisit. Keempatnya perlu diterjemahkan menjadi batas produk yang dapat diuji, bukan sekadar daftar larangan dalam kebijakan penggunaan.

Misalnya, tim dapat meninjau apakah bot memakai kalimat yang menyatakan dirinya manusia, meminta pengguna merahasiakan percakapan, atau mendorong pengguna kembali berbicara dengannya saat sedang tertekan. Contoh ini merupakan skenario desain, bukan rincian teknis yang disebut dalam undang-undang pada bahan sumber.

Menurut ANTARA, jaksa agung negara bagian dapat mengajukan gugatan perdata atas dugaan pelanggaran, dengan denda maksimal 25.000 dolar AS. Menurut ANTARA, warga New York dapat melaporkan dugaan pelanggaran perusahaan chatbot melalui situs pengaduan publik yang diwajibkan undang-undang ini.

Jalur pengaduan publik mengubah cara tim memandang moderasi. Keluhan pengguna bukan lagi semata tiket layanan pelanggan. Keluhan dapat menjadi sinyal bahwa desain persona, respons keselamatan, pembatasan usia, atau prosedur eskalasi perlu diperiksa ulang.

Mengapa verifikasi usia tidak cukup tanpa batas fitur

Verifikasi usia membantu membedakan kelompok pengguna, tetapi tidak otomatis membuat percakapan aman. Produk tetap perlu menentukan fitur apa yang tersedia untuk pengguna anak, topik apa yang dibatasi, serta kondisi apa yang menghentikan percakapan dan memindahkannya kepada manusia.

Sebagai ilustrasi hipotetis, platform belajar menyediakan chatbot untuk menjelaskan materi dan jadwal kelas. Pada pendaftaran, platform meminta data usia sesuai kebijakan layanannya. Setelah pengguna teridentifikasi sebagai anak, chatbot hanya menjawab pertanyaan akademik dan administratif. Jika percakapan berubah menjadi permintaan konten dewasa atau mengandung indikasi bahaya keselamatan, bot menghentikan respons normal, memberi pesan batasan, lalu meneruskan kasus ke petugas yang ditunjuk.

Alur tersebut tidak menjamin kepatuhan pada semua hukum. Namun, alur itu membuat keputusan produk terlihat jelas: fungsi bot, batas percakapan, pemicu handoff, dan pemilik tanggung jawab. Tanpa pemetaan seperti ini, tim berisiko hanya memasang filter kata kunci yang gagal memahami konteks percakapan panjang.

Dampak bagi chatbot layanan dan AI agent

Dalam konteks artikel ini, chatbot AI, otomasi berbasis AI, dan AI agent dibedakan berdasarkan cara berinteraksi serta ruang tindakannya. Chatbot umumnya berinteraksi melalui percakapan. Otomasi menjalankan langkah berdasarkan pemicu dan aturan. AI agent dapat menggunakan konteks serta tools untuk menjalankan beberapa langkah demi tujuan tertentu.

Perbedaan fungsi menentukan jenis pengawasan. Chatbot layanan pelanggan yang hanya mencari jawaban dari pusat bantuan memiliki ruang tindakan lebih sempit dibanding AI agent yang dapat membuat tiket, mengubah data CRM, atau mengirim pesan keluar. Jika antarmuka percakapannya dipakai anak, keduanya tetap memerlukan batas persona dan penanganan percakapan sensitif.

Andaikan layanan kursus memakai agent untuk memproses pendaftaran. Workflow yang lebih aman dapat dibagi menjadi beberapa tahap: formulir masuk, usia diperiksa sesuai proses layanan, data pendaftaran dicatat, pertanyaan administratif dijawab, lalu staf menyetujui perubahan data penting. Agent tidak perlu diberi kewenangan mengubah informasi sensitif atau menangani percakapan berisiko tanpa tinjauan manusia.

Pengawasan manusia perlu menjawab empat pertanyaan praktis. Tindakan apa yang boleh otomatis? Kondisi apa yang wajib dihentikan? Siapa penerima eskalasi? Catatan apa yang tersedia saat keluhan masuk? Jawaban yang terdokumentasi membantu tim produk, operasional, dan pihak yang menangani kepatuhan bekerja dari aturan yang sama.

Arah regulasi yang patut dipantau tim produk

New York bukan satu-satunya negara bagian yang dibahas dalam bahan sumber. Menurut The Hill, pada September Gubernur California Gavin Newsom menandatangani undang-undang yang mewajibkan pengembang chatbot menilai risiko model bagi anak, menunjukkan upaya mereka menghilangkan risiko tersebut, serta menjalani audit independen untuk menilai kepatuhan terhadap undang-undang.

Informasi ini tidak berarti seluruh aturan California dan New York sama. Namun, keduanya menunjukkan area yang mendapat perhatian: keselamatan anak, evaluasi risiko, akuntabilitas perusahaan, serta pembatasan desain yang dapat membahayakan pengguna muda.

Bagi tim di luar Amerika Serikat, laporan tersebut dapat dipakai sebagai pemicu audit internal, bukan sebagai pernyataan bahwa kewajiban hukum New York berlaku di wilayah mereka. Pisahkan dua pekerjaan: memeriksa kewajiban hukum berdasarkan pasar tempat produk digunakan, lalu memperbaiki risiko desain yang sudah terlihat dari fungsi produk sendiri.

Audit produk yang bisa dilakukan minggu ini

Mulailah dari satu inventaris fitur, bukan dari daftar tools AI. Catat semua chatbot, persona percakapan, memori pengguna, integrasi data, serta tindakan otomatis yang aktif. Tandai produk yang dapat diakses pengguna di bawah 18 tahun atau yang tidak memiliki mekanisme untuk membedakan kelompok usia.

Berikut urutan audit yang dapat dikerjakan tim kecil.

1. Baca kembali tujuan chatbot. Pastikan fungsi produk jelas, misalnya dukungan pelanggan atau pendamping materi, bukan relasi personal tanpa batas.
2. Uji percakapan berisiko. Masukkan skenario penolakan, upaya membuat bot mengaku manusia, permintaan seksual eksplisit, dan percakapan yang mengarah pada keselamatan diri.
3. Tinjau hak akses. Pisahkan jawaban FAQ otomatis dari tindakan yang mengubah data, mengirim pesan, atau membuka informasi pribadi.
4. Tentukan handoff manusia. Tetapkan pesan batasan, kanal eskalasi, penanggung jawab, dan catatan yang harus tersedia untuk penanganan kasus.
5. Dokumentasikan hasilnya. Buat satu catatan internal berisi fitur diizinkan, fitur dibatasi untuk anak, risiko terbuka, dan keputusan tindak lanjut.

Setelah audit awal, pilih satu chatbot yang paling banyak berinteraksi dengan pengguna muda atau paling banyak memproses data pribadi. Jalankan uji skenario pada chatbot itu, perbaiki batas responsnya, lalu minta pemilik produk menyetujui prosedur eskalasi sebelum fitur baru dirilis.