Peningkatan Respons Kesehatan Mental pada ChatGPT
Data terbaru menunjukkan bahwa lebih dari satu juta pengguna ChatGPT membahas percakapan yang mengarah pada keinginan atau rencana bunuh diri. Angka ini diungkapkan oleh perusahaan saat memperkenalkan peningkatan fitur respons kesehatan mental. Dalam laporan tersebut, sekitar 0,15 persen dari pengguna aktif mingguan ChatGPT menyebutkan isu-isu yang berpotensi mengarah pada tindakan merugikan diri sendiri.
Dengan jumlah pengguna mingguan yang mencapai lebih dari 800 juta, angka tersebut berarti lebih dari satu juta orang per pekan. OpenAI menyatakan bahwa percakapan seperti ini sangat jarang terjadi, namun tetap memiliki dampak signifikan. Data ini dirilis bersamaan dengan upaya perusahaan untuk meningkatkan kemampuan model dalam merespons isu kesehatan mental. Beberapa ahli kesehatan mental telah diberdayakan untuk memberikan masukan dan bantuan dalam pengembangan fitur-fitur baru.
Perkembangan Teknologi dan Tanggung Jawab Sosial
Penggunaan chatbot AI semakin menjadi perhatian besar, terutama bagi individu dengan kondisi mental rentan. Penelitian sebelumnya menunjukkan bahwa AI dapat memperkuat keyakinan berbahaya jika tidak diatur dengan baik. Hal ini menjadi tantangan besar bagi perusahaan teknologi seperti OpenAI, yang harus menjaga keseimbangan antara inovasi dan tanggung jawab sosial.
Beberapa kasus hukum juga muncul sebagai bentuk kepedulian terhadap pengguna muda. Seorang remaja 16 tahun diduga mengutarakan pikiran bunuh diri kepada ChatGPT sebelum akhirnya meninggal. Kasus ini memicu tuntutan dari orang tua dan peringatan dari jaksa agung California dan Delaware agar OpenAI lebih waspada terhadap risiko penggunaan AI oleh anak-anak.
CEO OpenAI, Sam Altman, mengklaim bahwa perusahaan berhasil mengurangi masalah kesehatan mental serius di ChatGPT. Meski begitu, ia tidak menjelaskan langkah-langkah spesifik yang dilakukan. Selain itu, Altman juga menyampaikan rencana untuk melonggarkan beberapa pembatasan, termasuk izin bagi pengguna dewasa melakukan percakapan bernuansa erotis dengan chatbot.
Peningkatan Kemampuan Model GPT-5
Menurut laporan, pembaruan GPT-5 mampu memberikan respons yang diinginkan terhadap isu kesehatan mental sekitar 65 persen lebih sering dibanding model sebelumnya. Dalam evaluasi khusus terkait pembicaraan bunuh diri, model GPT-5 mencapai tingkat kepatuhan 91 persen terhadap standar perilaku yang diharapkan, dibandingkan capaian 77 persen pada model sebelumnya.
Selain itu, GPT-5 dinilai lebih konsisten dalam mempertahankan sistem keamanan selama percakapan panjang. Berbeda dengan versi lama yang cenderung melemah seiring waktu. OpenAI juga menambahkan tolok ukur baru dalam pengujian keamanan, termasuk indikator ketergantungan emosional dan keadaan darurat kesehatan mental non-bunuh diri.
Inovasi Terbaru dalam Perlindungan Pengguna
OpenAI sedang mengembangkan sistem prediksi usia untuk mendeteksi pengguna anak dan menerapkan perlindungan lebih ketat. Meskipun GPT-5 disebut lebih aman, perusahaan tetap menyediakan model lama seperti GPT-4o bagi pelanggan berbayar. Ini menunjukkan komitmen OpenAI untuk memberikan opsi yang sesuai dengan kebutuhan berbagai kalangan pengguna.
Selain itu, perusahaan juga memperluas kontrol untuk orang tua, memastikan bahwa anak-anak mendapatkan perlindungan yang cukup. Dengan berbagai inovasi dan peningkatan fitur, OpenAI terus berupaya memperbaiki respons kesehatan mental di platform ChatGPT, sambil tetap menjaga keamanan dan kenyamanan pengguna.
