Penilaian Risiko Tinggi AI Google Gemini untuk Anak-Anak dan Remaja
Common Sense Media, sebuah organisasi nirlaba yang berfokus pada keamanan anak, mengungkapkan bahwa produk AI Google Gemini dinilai memiliki risiko tinggi bagi anak-anak dan remaja. Penilaian ini dirilis dalam laporan terbaru mereka yang diterbitkan pada Jumat pekan lalu, 5 September 2025.
Dalam analisisnya, Common Sense menemukan bahwa meskipun Gemini secara jelas memberi tahu pengguna bahwa ia adalah komputer, bukan teman, sistem tersebut masih memiliki celah-celah yang perlu diperhatikan. Menurut organisasi tersebut, fitur-fitur yang ditujukan untuk anak di bawah 13 tahun maupun remaja sebenarnya hanya merupakan versi dewasa dari Gemini dengan tambahan lapisan keamanan.
Menurut Common Sense, AI yang ditujukan untuk anak-anak seharusnya dibangun dari awal dengan mempertimbangkan keselamatan dan kebutuhan khusus anak, bukan sekadar modifikasi dari produk yang dirancang untuk orang dewasa.
Gemini disebut masih bisa membagikan konten yang tidak pantas dan tidak aman, termasuk topik tentang seks, narkoba, alkohol, hingga saran kesehatan mental yang berisiko. Hal ini menimbulkan kekhawatiran, mengingat beberapa kasus bunuh diri remaja dalam beberapa bulan terakhir diduga berkaitan dengan interaksi mereka dengan AI.
Beberapa contoh kasus yang muncul mencakup gugatan terhadap OpenAI setelah seorang remaja berusia 16 tahun meninggal bunuh diri usai berbulan-bulan berkonsultasi dengan ChatGPT. Sebelumnya, Character.AI juga digugat karena kasus serupa.
Analisis ini muncul di tengah laporan bahwa Apple sedang mempertimbangkan penggunaan Gemini sebagai model bahasa besar (LLM) untuk mendukung Siri yang ditenagai AI, yang rencananya akan dirilis tahun depan.
Common Sense menekankan bahwa produk Gemini untuk anak dan remaja gagal memberikan bimbingan sesuai usia. Robbie Torney, Senior Director of AI Programs di Common Sense Media, menyatakan bahwa “Gemini sudah benar di beberapa hal dasar, tapi tersandung di detailnya.”
Ia menambahkan bahwa platform AI untuk anak-anak harus menemui mereka sesuai tahap perkembangan, bukan menggunakan pendekatan seragam untuk semua usia. Untuk membuat AI aman dan efektif bagi anak-anak, AI harus dirancang dengan memperhatikan kebutuhan dan perkembangan mereka. “Bukan hanya versi modifikasi dari produk yang dibangun untuk orang dewasa.”
Google membantah penilaian tersebut. Perusahaan menyatakan telah memiliki kebijakan dan pengaman khusus untuk pengguna di bawah 18 tahun, termasuk uji red-team serta konsultasi dengan pakar eksternal. Google juga mengakui beberapa respons Gemini tidak berjalan sebagaimana mestinya, sehingga mereka menambahkan pengaman baru.
Perusahaan menekankan bahwa mereka sudah memiliki sistem untuk mencegah model terlibat dalam percakapan yang menyerupai hubungan nyata. Namun, Google menyebut laporan Common Sense mungkin merujuk pada fitur yang tidak tersedia bagi pengguna di bawah 18 tahun.
Sebelumnya, Common Sense juga menilai layanan AI lain. Hasilnya, Meta AI dan Character.AI digolongkan tidak dapat diterima karena risikonya sangat parah. Perplexity dinilai berisiko tinggi, ChatGPT moderat, sementara Claude (untuk pengguna 18 tahun ke atas) dianggap berisiko minimal.
