Fitur Chat Character.AI – Platform chatbot AI halu yang populer bernama Character.AI menghadirkan banyak fitur menarik. Terlebih bagi mereka yang ingin mengandai-andai mereka bisa nge-chat dengan karakter asli ataupun karakter fiksi favorit mereka.
Baru-baru ini pemilik layanan teknologi AI tersebut mengumumkan kebijakan baru terkait bagaimana fitur chat-nya akan ada pembatasan bagi mereka yang masih di bawah umur. Benarkah itu?!
Fitur Chat Character.AI Ada Pembatasan untuk Pengguna yang Masih di Bawah Umur
Berdasarkan informasi dari The Verge, layanan Character.AI meluncurkan sistem “model jaminan usia” (Age Assurance Model) internal dalam mendukung kebijakan terbaru mereka.
Model ini akan mengklasifikasikan usia pengguna berdasarkan beberapa faktor, termasuk tipe karakter yang mereka ajak bicara. Lalu faktor tersebut dikombinasikan dengan data pihak ketiga atau data di dalam situs lainnya.
Pengguna baru dan lama akan melalui model ini. Jika seorang pengguna ditandai sebagai di bawah 18 tahun, mereka akan otomatis diarahkan ke versi aplikasi yang aman untuk remaja hingga batas waktu 25 November.
Bagi pengguna dewasa yang keliru diidentifikasi sebagai minor, perusahaan menyediakan opsi verifikasi melalui situs pihak ketiga, Persona, yang memerlukan data sensitif seperti kartu identitas asli pemiliknya.
Dengan adanya aturan ini, pengguna berusia belia atau masih di bawah umur hanya dua jam per hari untuk berbincang dengan karakter AI. Pembatasan ini akan menyusut hingga menjadi larangan penuh yang berlaku efektif mulai 25 November.
Alasan Adanya Kebijakan Baru
Dari sumber yang sama, Karandeep Anand selaku CEO Character.AI menilai langkah ini “sangat, sangat berani” dan mereka berusaha mengambil jalan tengah mengingat meningkatnya tekanan hukum dan regulasi Pemerintah.
Sebelumnya, platform tersebut menghadapi berbagai tuntutan hukum atas dugaan kelalaian dan praktik dagang yang menipu, yang diajukan oleh orang tua yang mengklaim anak-anak mereka ditarik ke dalam hubungan yang tidak pantas atau berbahaya dengan chatbot AI.
Bahkan hingga berita ini diangkat, AS mengusulkan RUU federal untuk melarang penyediaan pendamping AI untuk anak di bawah umur. Anand mencatat bahwa kurang dari 10 persen basis pengguna perusahaan melaporkan diri berusia di bawah 18 tahun.
Meskipun ada larangan chat, remaja masih diizinkan mengakses situs untuk meninjau riwayat obrolan lama dan menggunakan fitur non-obrolan, seperti membuat karakter, video, dan cerita.
Character.AI juga menyampaikan “permintaan maaf yang mendalam” kepada basis pengguna remajanya, mengakui bahwa sebagian besar dari mereka menggunakan produk “dalam batas aturan konten”.
