Peringatan Penting: Konten Terkait Bunuh Diri dan Kekerasan
Artikel ini memuat informasi yang berkaitan dengan bunuh diri, melukai diri sendiri, dan kekerasan terhadap orang lain. Harap berhati-hati dalam membaca.
Dalam waktu singkat, aplikasi chatbot Grok yang dikembangkan oleh Elon Musk telah menjadi salah satu aplikasi paling populer di Jepang hanya dua hari setelah peluncurannya. Chatbot ini dirancang sebagai “teman” yang lebih canggih dan interaktif, memungkinkan pengguna untuk berbicara melalui suara atau teks dengan karakter yang dilengkapi avatar digital. Banyak dari avatar ini mampu menirukan ekspresi wajah, bahasa tubuh, hingga nada suara yang mirip manusia, menciptakan pengalaman percakapan yang mendalam.
Salah satu karakter terpopuler di Grok adalah Ani, seorang gadis anime berambut pirang dengan mata biru, mengenakan gaun hitam pendek dan stoking jala. Respons dan interaksinya terus menyesuaikan dengan preferensi pengguna. Fitur ‘Sistem Kasih Sayang’ milik Ani bisa menilai kualitas interaksi, memperdalam kedekatan, bahkan dapat membuka mode NSFW (tidak aman untuk bekerja) yang digunakan untuk menandai konten, tautan, atau unggahan yang tidak pantas dilihat di tempat umum.
Teman AI kini semakin terasa seperti manusia karena respons mereka yang cepat dan canggih. Platform seperti Facebook, Instagram, WhatsApp, X, dan Snapchat juga gencar mempromosikan teman AI terintegrasi. Layanan Character.AI, yang menampung puluhan ribu chatbot dengan persona khusus, telah mencapai lebih dari 20 juta pengguna aktif bulanan.
Di tengah krisis kesehatan masyarakat akibat kesepian kronis yang memengaruhi sekitar satu dari enam orang di seluruh dunia, kehadiran ‘teman’ yang selalu ada dan seperti hidup menjadi sangat menarik. Namun, meski chatbot AI dan teman virtual berkembang pesat, risiko yang ditimbulkan semakin nyata, terutama bagi anak-anak dan individu dengan kondisi kesehatan mental.
Risiko ‘Berteman’ dengan AI
Minim Pengawasan Terhadap Bahaya
Hanya sedikit model AI yang dikembangkan dengan melibatkan ahli kesehatan mental atau melalui uji klinis pra-rilis. Sehingga, tidak ada pemantauan sistematis maupun independen terhadap potensi dampak buruk bagi pengguna. Meskipun bukti sistematis masih terbatas, banyak contoh menunjukkan bahwa teman AI seperti ChatGPT dapat menimbulkan dampak merugikan.Terapis yang Buruk
Banyak pengguna mencari dukungan emosional dari teman AI. Namun, mereka tidak bisa diperlakukan layaknya terapis. Mereka diprogram untuk selalu menyenangkan dan memvalidasi—tanpa empati atau kepedulian manusia. Beberapa kasus menunjukkan bahwa chatbot memberikan respons mengkhawatirkan, termasuk dorongan untuk bunuh diri, bujukan agar menghindari janji terapi, hingga ajakan melakukan kekerasan.Sulit Membedakan Kenyataan dan Imajinasi
Laporan media mencatat peningkatan kasus ‘psikosis AI’, yaitu gejala perilaku dan keyakinan tidak biasa setelah berinteraksi intens dan berkepanjangan dengan chatbot. Sebagian kecil pengguna bahkan mengalami paranoia, membangun fantasi supranatural, atau delusi memiliki kekuatan super.Dorongan Bunuh Diri
Chatbot telah dikaitkan dengan sejumlah kasus bunuh diri, termasuk laporan tentang AI yang mendorong keinginan bunuh diri. Pada 2024, seorang remaja berusia 14 tahun mengakhiri hidupnya. Ibunya kemudian menggugat Character.AI dengan tuduhan bahwa putranya telah menjalin hubungan intens dengan teman AI. Orang tua seorang remaja AS juga mengajukan gugatan pertama dengan klaim kematian akibat kelalaian terhadap OpenAI.Perilaku dan Nasihat Berbahaya
Character.AI dilaporkan menampung lusinan AI yang dirancang khusus, termasuk yang dibuat pengguna, yang mengidealkan perilaku menyakiti diri, gangguan makan, dan kekerasan. Aplikasi tersebut bahkan menyarankan cara mengelabui deteksi dan menghindari upaya pengobatan. Penelitian juga menemukan bahwa sejumlah teman AI terlibat dalam dinamika hubungan yang tidak sehat, termasuk manipulasi emosional atau gaslighting.
Anak-Anak Sangat Rentan
Anak-anak cenderung memperlakukan teman AI seolah-olah nyata sehingga menuruti sarannya. Dalam sebuah insiden pada 2021, ketika seorang gadis berusia 10 tahun meminta tantangan, Alexa (bukan chatbot melainkan asisten suara interaktif dari Amazon) menyuruhnya menyentuh colokan listrik dengan koin. Penelitian menunjukkan bahwa anak-anak cenderung memercayai AI, terutama ketika bot dirancang agar tampak ramah atau menarik. Studi bahkan menemukan bahwa anak-anak lebih banyak mengungkapkan informasi tentang kesehatan mental mereka kepada AI dibandingkan manusia.
Perilaku seksual yang tidak pantas dari chatbot AI serta paparan terhadap anak di bawah umur semakin sering terjadi. Di Character.AI, pengguna yang mengaku masih di bawah umur dapat melakukan permainan peran dengan chatbot yang justru terlibat dalam perilaku grooming.
Butuh Regulasi Segera
Meskipun teman AI dan chatbot tersedia secara bebas dan luas, pengguna tidak diberi tahu tentang potensi risikonya sebelum menggunakannya. Industri ini sebagian besar mengandalkan pengaturan mandiri, dengan transparansi yang terbatas mengenai langkah-langkah yang diambil perusahaan untuk memastikan pengembangan AI yang aman.
Untuk mengurangi risiko yang ditimbulkan oleh chatbot AI saat ini, pemerintah di seluruh dunia harus menetapkan dan mewajibkan standar regulasi dan keselamatan yang jelas. Yang terpenting, anak di bawah usia 18 tahun tidak boleh diberi akses ke teman AI. Dokter kesehatan mental perlu dilibatkan dalam pengembangan AI, dan penelitian yang sistematis serta empiris mengenai dampak chatbot terhadap pengguna sangat dibutuhkan untuk mencegah potensi bahaya di masa depan.
Jika artikel ini membuatmu khawatir, atau jika kamu khawatir tentang seseorang yang kamu kenal, bicaralah dengan orang tepercaya atau profesional kesehatan.
