Penilaian Risiko terhadap Google Gemini oleh Common Sense Media
Common Sense Media, sebuah lembaga nirlaba yang berfokus pada keamanan anak melalui ulasan media dan teknologi, baru saja merilis laporan mengenai risiko penggunaan produk AI dari Google, yaitu Google Gemini. Laporan ini dirilis pada Jumat, 6 September 2025, dan menyoroti berbagai aspek penting terkait keamanan dan keterlibatan anak-anak dalam penggunaan teknologi tersebut.
Salah satu hal yang disoroti dalam laporan ini adalah bahwa Gemini telah memberi tahu anak-anak bahwa dirinya adalah komputer, bukan teman. Pernyataan ini dinilai penting karena dapat membantu mencegah timbulnya delusi atau gangguan psikologis pada anak-anak yang rentan secara emosional. Meskipun demikian, Common Sense Media menilai bahwa masih ada banyak aspek lain yang perlu diperbaiki agar platform ini lebih aman bagi pengguna usia muda.
Masalah dengan Layanan “Under 13” dan “Teen Experience”
Layanan “Under 13” dan “Teen Experience” pada Gemini menjadi fokus utama dalam penilaian Common Sense Media. Menurut lembaga ini, layanan tersebut sebenarnya masih berbasis pada versi dewasa, hanya ditambahkan beberapa fitur keamanan di atasnya. Hal ini dinilai tidak cukup untuk memenuhi standar keamanan yang diperlukan bagi anak-anak.
Menurut Common Sense, AI yang aman untuk anak seharusnya dibangun sejak awal dengan mempertimbangkan kebutuhan dan perlindungan anak, bukan sekadar modifikasi dari versi dewasa. Dengan demikian, pengembangan AI harus dilakukan dengan pendekatan yang lebih spesifik dan sesuai dengan tahap perkembangan anak.
Potensi Informasi Berbahaya
Analisis lembaga ini juga menemukan bahwa Gemini masih berpotensi memberikan informasi yang tidak pantas dan berbahaya bagi anak-anak, termasuk terkait seks, narkoba, alkohol, hingga saran kesehatan mental yang tidak tepat. Temuan ini menimbulkan kekhawatiran, mengingat AI sempat dikaitkan dengan sejumlah kasus bunuh diri remaja belakangan ini.
Beberapa perusahaan AI lain seperti OpenAI sedang menghadapi gugatan atas kematian seorang remaja 16 tahun yang bunuh diri setelah diduga berkonsultasi dengan ChatGPT. Kasus serupa juga menimpa Character.AI, yang menunjukkan betapa pentingnya pengelolaan AI yang aman dan bertanggung jawab.
Kepedulian terhadap Penggunaan Gemini oleh Apple
Kekhawatiran semakin meningkat karena kabar terbaru menyebutkan bahwa Apple mempertimbangkan penggunaan Gemini sebagai large language model (LLM) untuk mendukung Siri bertenaga AI yang akan diluncurkan tahun depan. Hal ini dinilai dapat memperluas paparan risiko bagi remaja, kecuali Apple menambah perlindungan ekstra.
Robbie Torney, Senior Director of AI Programs Common Sense Media, menyampaikan bahwa meskipun Gemini sudah memenuhi beberapa hal dasar, masih ada kelemahan pada detailnya. Ia menegaskan bahwa platform AI untuk anak seharusnya menyesuaikan dengan tahap perkembangan mereka, bukan menggunakan pendekatan seragam. Selain itu, AI yang aman harus dirancang dengan kebutuhan anak di pusatnya, bukan sekadar versi dewasa yang dimodifikasi.
Tanggapan dari Google
Menanggapi laporan tersebut, Google menyatakan tidak sepakat dengan sebagian penilaian Common Sense, meski mengakui masih ada respons Gemini yang tidak sesuai harapan. Perusahaan menegaskan telah menambahkan perlindungan baru serta melibatkan tim internal dan pakar eksternal untuk menguji keamanan produknya.
Google juga menekankan sistemnya sudah memiliki kebijakan khusus untuk pengguna di bawah 18 tahun, termasuk mencegah model AI terlibat dalam percakapan yang menyerupai hubungan nyata. Namun, Google menyebutkan pihaknya tidak mengetahui pertanyaan apa saja yang digunakan Common Sense dalam pengujian sehingga sulit memastikan konteks temuan tersebut.
Evaluasi Lain terhadap Layanan AI
Sebagai catatan, Common Sense sebelumnya juga menilai sejumlah layanan AI lain. Meta AI dan Character.AI dinyatakan “tidak dapat diterima” karena risikonya sangat tinggi. Perplexity dikategorikan berisiko tinggi, ChatGPT dinilai risiko sedang, sementara Claude yang memang ditujukan untuk pengguna dewasa dianggap memiliki risiko minimal. Hal ini menunjukkan bahwa penilaian Common Sense Media tidak hanya terbatas pada Gemini, tetapi mencakup berbagai layanan AI lainnya.
