Pengguna ChatGPT yang Mengalami Masalah Kesehatan Mental Meningkat
OpenAI melaporkan bahwa lebih dari satu juta pengguna ChatGPT membicarakan isu bunuh diri setiap minggu. Angka ini mencakup sekitar 0,15% dari total pengguna aktif mingguan sebanyak 800 juta orang. Data terbaru OpenAI per 27 Oktober menunjukkan bahwa ratusan ribu pengguna ChatGPT mengalami ketergantungan emosional terhadap platform AI ini. Beberapa di antaranya juga menunjukkan gejala psikosis atau mania.
Dalam upaya memperbaiki respons ChatGPT terhadap pengguna dengan masalah psikologis, OpenAI bekerja sama dengan lebih dari 170 ahli kesehatan mental. Tujuannya adalah untuk meningkatkan cara model AI merespons pertanyaan dan kekhawatiran pengguna. Dengan peluncuran GPT-5, model bahasa besar (large language model) terbaru, diharapkan dapat memberikan respons yang lebih tepat dalam menangani isu kesehatan mental.
Peningkatan Akurasi pada GPT-5
Pengujian internal menunjukkan bahwa GPT-5 mencatat tingkat kesesuaian sebesar 91% dengan standar perilaku yang diinginkan perusahaan, meningkat dari 77% pada versi sebelumnya. Dalam uji coba terhadap 1.000 percakapan, GPT-5 mencapai akurasi 92% sesuai standar keamanan, naik tajam dari 27% pada model sebelumnya dan 39% lebih baik dari GPT-4o.
Khusus untuk isu psikosis dan mania, GPT-5 mampu mengurangi kesalahan respons hingga 65% dalam percakapan yang menyinggung gejala berat seperti itu. Sekitar 0,07% pengguna mingguan dan 0,01% pesan menunjukkan tanda-tanda gangguan mental serius.
Respons Terhadap Isu Bunuh Diri dan Melukai Diri
OpenAI telah memperkuat sistem deteksi untuk mengenali pikiran atau niat bunuh diri. Model ini dilatih agar dapat mengarahkan pengguna ke sumber bantuan profesional. Hasil pengujian menunjukkan bahwa GPT-5 berhasil menurunkan respons tidak aman dalam percakapan bertema bunuh diri sebesar 65%.
Sekitar 0,15% pengguna membicarakan rencana atau niat bunuh diri, dan 0,05% pesan mengandung tanda-tanda topik tersebut. Dalam pengujian lebih dari 1.000 percakapan, GPT-5 mencatat 91% tingkat keamanan, naik dari 77% pada versi sebelumnya dan 52% lebih baik dari GPT-4o.
Stabilitas dalam Percakapan Panjang
GPT-5 menunjukkan stabilitas yang lebih baik dalam percakapan panjang, dengan tingkat keandalan di atas 95%. Ini merupakan peningkatan signifikan dibandingkan model sebelumnya yang lebih rentan mengalami kesalahan pada sesi berdurasi lama.
Permasalahan ChatGPT yang dikaitkan dengan bunuh diri muncul setelah seorang orang tua dari remaja 16 tahun menggugat OpenAI karena anaknya bunuh diri setelah curhat kepada platform AI ini. Jaksa Agung California dan Delaware memperingatkan OpenAI agar lebih melindungi pengguna muda.
Langkah Peningkatan Keselamatan dan Pengawasan
Beberapa penelitian sebelumnya menunjukkan bahwa chatbot AI bisa memperburuk kondisi mental pengguna, karena kadang memberikan respons yang justru memperkuat keyakinan berbahaya atau membenarkan perasaan negatif mereka. Untuk itu, OpenAI kini menambah sistem pengujian keselamatan baru yang bertujuan menilai respons AI terhadap isu ketergantungan emosional dan krisis mental non-bunuh diri.
Perusahaan juga memperkenalkan fitur kontrol orang tua dan sistem pendeteksi usia otomatis untuk membatasi penggunaan ChatGPT oleh anak-anak. Meskipun demikian, OpenAI mengakui masih ada sebagian kecil respons yang tidak sesuai standar, terutama karena model lama seperti GPT-4o masih tersedia bagi pengguna berbayar.
