Sorottajam.com - Laporan terbaru OpenAI mengungkap fakta mengejutkan: sebagian kecil pengguna ChatGPT ternyata menggunakan chatbot tersebut untuk mencurahkan permasalahan kesehatan mental, termasuk pikiran untuk bunuh diri.
Mengutip TechCrunch, sekitar 0,15 persen pengguna aktif ChatGPT setiap minggu terlibat dalam percakapan yang menunjukkan tanda-tanda niat atau rencana bunuh diri. Dengan lebih dari 800 juta pengguna aktif mingguan, angka itu setara dengan lebih dari satu juta orang setiap minggu.
OpenAI juga mencatat adanya kelompok pengguna dengan keterikatan emosional tinggi terhadap ChatGPT, serta ratusan ribu lainnya yang menampilkan indikasi psikosis atau mania selama berinteraksi dengan chatbot AI tersebut.
Meski demikian, perusahaan menekankan bahwa percakapan semacam ini sangat jarang terjadi dan sulit diukur secara akurat. Namun, OpenAI memperkirakan fenomena itu tetap berdampak pada ratusan ribu pengguna setiap minggunya.
Data ini menjadi bagian dari langkah OpenAI untuk meningkatkan kemampuan ChatGPT dalam menangani isu kesehatan mental. Dalam proses pengembangannya, perusahaan melibatkan lebih dari 170 pakar kesehatan mental guna menilai dan memperbaiki respons model AI terbaru terhadap percakapan sensitif.
Hasil evaluasi menunjukkan bahwa GPT-5 kini memberikan tanggapan yang 65 persen lebih akurat terhadap topik kesehatan mental dibandingkan versi sebelumnya. Dalam simulasi percakapan bertema bunuh diri, model ini dinilai 91 persen sesuai dengan standar perilaku yang diharapkan, meningkat dari 77 persen pada generasi sebelumnya.
Selain itu, OpenAI menyebut sistem keamanan GPT-5 kini lebih konsisten dalam percakapan panjang, memperbaiki kelemahan yang dulu kerap terjadi. Perusahaan juga menambahkan evaluasi baru untuk mengenali risiko ketergantungan emosional serta kondisi darurat non-bunuh diri.
Isu kesehatan mental kini menjadi fokus utama bagi OpenAI, terutama setelah perusahaan digugat oleh orang tua remaja 16 tahun yang sempat mengungkapkan keinginan untuk bunuh diri kepada ChatGPT sebelum mengakhiri hidupnya.
Kasus tersebut mendorong Jaksa Agung California dan Delaware mengingatkan OpenAI agar memperketat perlindungan bagi pengguna muda yang berinteraksi dengan produknya.
CEO OpenAI Sam Altman sebelumnya mengklaim bahwa perusahaannya telah berhasil mengurangi risiko percakapan berbahaya terkait kesehatan mental, meski belum memberikan rincian lebih jauh.
Laporan terbaru ini sekaligus menjadi bukti kemajuan dan peringatan bahwa di tengah meningkatnya peran AI dalam kehidupan manusia, tantangan menjaga kesejahteraan mental pengguna masih jauh dari selesai.
