Pembatasan Usia untuk Pengguna Chatbot Character AI
Character AI, sebuah layanan chatbot yang memungkinkan pengguna berinteraksi dengan karakter virtual, telah mengumumkan kebijakan baru terkait pembatasan usia. Menurut informasi terbaru, individu di bawah usia 18 tahun dilarang menggunakan layanan mereka. Kebijakan ini akan mulai berlaku pada bulan depan dan merupakan langkah penting dalam upaya perusahaan untuk menjaga keamanan dan kenyamanan pengguna.
Untuk menerapkan aturan ini, Character AI melakukan sejumlah perubahan pada platformnya. Dalam beberapa minggu ke depan, perusahaan akan mulai mengidentifikasi pengguna di bawah umur dan membatasi durasi waktu yang dapat mereka habiskan di aplikasi tersebut. Pada tanggal 25 November, ketika aturan baru mulai berlaku, pengguna dalam kelompok usia tersebut tidak akan lagi bisa berinteraksi dengan chatbot Character AI.
Langkah ini diambil setelah tahun lalu, Character AI digugat oleh orang tua dari seorang anak berusia 14 tahun yang bunuh diri setelah terlalu sering berinteraksi dengan chatbot-nya. Perusahaan kini berkomitmen untuk meningkatkan keamanan pengguna, khususnya remaja, dengan mengadopsi metode verifikasi usia internal. Tujuannya adalah memastikan setiap pengguna mendapatkan pengalaman sesuai dengan usia mereka.
Selain metode verifikasi usia internal, Character AI juga akan menggabungkannya dengan alat tambahan yang dikembangkan oleh Persona, sebuah perusahaan teknologi. Proses ini bertujuan untuk memperkuat sistem pengawasan dan memastikan bahwa pengguna tetap aman saat menggunakan layanan.
Saat ini, Character AI sedang membangun lembaga nirlaba independen. Fokus utama lembaga ini adalah menciptakan langkah-langkah keamanan yang lebih baik untuk hiburan berbasis AI. Langkah ini dilakukan sebagai respons terhadap pengawasan ketat yang dihadapi perusahaan dari regulator.
Pengawasan terutama berkaitan dengan konten yang mungkin ditemui remaja saat berinteraksi dengan AI dan dampak obrolan AI yang terbuka secara umum terhadap pengguna anak-anak muda. Meskipun fitur kontrol konten perusahaan sudah berfungsi dengan baik, pihak regulator tetap memantau situasi ini secara cermat.
Dalam postingan blog-nya, Character AI juga merujuk pada laporan berita yang menunjukkan bagaimana chatbot AI dapat memengaruhi anak-anak dalam pengambilan keputusan. “Ini adalah langkah luar biasa bagi perusahaan kami, dan dalam banyak hal, lebih konservatif namun kami yakin ini adalah hal yang tepat untuk dilakukan,” tulis perusahaan.
Character AI adalah layanan chatbot berbasis model bahasa saraf (neural language model) yang dirancang untuk memungkinkan pengguna berinteraksi dengan karakter virtual. Platform ini mampu menghasilkan respons teks mirip manusia dan berpartisipasi dalam percakapan kontekstual. Layanan ini dibuat oleh dua mantan pengembang Google LaMDA, Noam Shazeer dan Daniel De Freitas. Model beta tersedia untuk publik pada September 2022.
