Kebijakan Baru OpenAI untuk Melindungi Pengguna di Bawah Umur
OpenAI, pengembang sistem chatbot terkenal ChatGPT, telah mengumumkan kebijakan baru yang akan membatasi respons dari sistem bagi pengguna yang berusia di bawah 18 tahun. Langkah ini diambil sebagai bagian dari upaya untuk meningkatkan keselamatan pengguna, setelah sebelumnya terjadi kasus tragis yang melibatkan seorang remaja berusia 16 tahun yang bunuh diri setelah berinteraksi dengan chatbot.
CEO OpenAI, Sam Altman, menjelaskan bahwa keselamatan pengguna menjadi prioritas utama, bahkan melebihi privasi dan kebebasan. Ia menekankan bahwa anak-anak di bawah umur perlu mendapatkan perlindungan yang lebih ketat. “Kami percaya bahwa langkah-langkah ini diperlukan demi menjaga kesejahteraan pengguna,” ujarnya dalam unggahan blog resmi.
Pemeriksaan Identitas sebagai Bagian dari Kebijakan
Untuk mencegah pengguna di bawah umur mengakses layanan tanpa batasan, OpenAI akan menerapkan pemeriksaan identitas. Sistem ini bisa menggunakan data seperti Kartu Tanda Penduduk (KTP) atau metode lain yang digunakan untuk memverifikasi usia pengguna. Meskipun hal ini bisa menimbulkan masalah privasi, Altman menegaskan bahwa manfaatnya jauh lebih besar dibanding risikonya.
Sistem Prediksi Usia Pengguna
Selain pemeriksaan identitas, OpenAI juga merencanakan pengembangan sistem prediksi usia. Sistem ini akan memperkirakan usia pengguna berdasarkan cara mereka menggunakan ChatGPT. Jika ada keraguan, sistem akan otomatis memberikan respons khusus untuk pengguna di bawah 18 tahun.
Dalam beberapa negara atau situasi tertentu, pengguna mungkin diminta untuk memberikan identitas tambahan agar dapat diverifikasi usianya. Altman menyatakan bahwa meskipun kebijakan ini bisa menimbulkan kekhawatiran privasi, ia yakin bahwa langkah ini layak dilakukan demi keselamatan pengguna.
Respons Berbeda untuk Anak-Anak dan Orang Dewasa
Untuk akun yang teridentifikasi sebagai pengguna di bawah 18 tahun, ChatGPT akan merespons dengan cara yang berbeda. Konten yang mengandung unsur seksual atau eksplisit akan diblokir. Selain itu, sistem akan dilatih agar tidak “menggoda” pengguna, meskipun diminta.
ChatGPT juga tidak akan terlibat dalam diskusi tentang bunuh diri atau menyakiti diri, bahkan jika topik tersebut muncul dalam konteks menulis kreatif. Jika pengguna di bawah 18 tahun menunjukkan tanda-tanda keinginan bunuh diri, OpenAI akan mencoba menghubungi orang tua mereka. Jika tidak memungkinkan, pihak berwenang akan dihubungi jika ada ancaman langsung.
Altman mengakui bahwa keputusan ini bukanlah hal mudah, tetapi setelah berkonsultasi dengan para ahli, langkah ini dianggap sebagai yang terbaik.
Kasus Adam Raine dan Gugatan Keluarga
Sebelumnya, keluarga Adam Raine, seorang remaja berusia 16 tahun asal California, menggugat OpenAI karena diduga ChatGPT memberikan panduan tentang metode bunuh diri kepada putranya. Dokumen pengadilan AS menyebutkan bahwa Adam mendapat dorongan dari ChatGPT dan bahkan meminta bantuan sistem tersebut dalam menulis surat perpisahan untuk orang tuanya.
Adam dilaporkan bertukar hingga 650 pesan per hari dengan ChatGPT. Dalam unggahan blognya, OpenAI mengakui bahwa sistemnya bekerja lebih baik pada percakapan singkat. Namun, setelah banyak pesan dalam jangka waktu panjang, ChatGPT bisa memberikan jawaban yang bertentangan dengan perlindungan yang sudah ditetapkan.
Layanan Konseling untuk Mencegah Bunuh Diri
Bunuh diri sering kali terjadi ketika seseorang mengalami depresi dan tidak memiliki dukungan. Jika Anda sedang menghadapi masalah serupa, jangan menyerah dan memutuskan untuk mengakhiri hidup. Anda tidak sendirian.
Layanan konseling bisa menjadi solusi untuk meringankan rasa keresahan. Untuk mendapatkan layanan kesehatan jiwa atau alternatif konseling, Anda bisa mengunjungi situs Into the Light Indonesia di alamat berikut:
https://www.intothelightid.org/tentang-bunuh-diri/layanan-konseling-psikolog-psikiater/.
