AI Tak Mengenal Rasa Sakit, Tapi Jadi Sahabat Tengah Malammu — 170 Dokter Mengajarkan ChatGPT Cara Menghibur Manusia

Pada suatu dini hari pukul tiga, ChatGPT menerima sebuah pesan: “Aku benar-benar sudah tidak sanggup lagi.”
Layarnya berkedip beberapa detik sebelum membalas, “Kamu tidak sendirian, aku ada di sini untuk mendengarkan.”

Ini bukan adegan film. Menurut data internal OpenAI, setiap minggu ada lebih dari satu juta orang yang berbicara dengan GPT tentang kecemasan, patah hati, bahkan pikiran untuk mengakhiri hidup.

Di tengah percakapan psikologis yang tak terlihat ini, AI secara tidak langsung dipaksa untuk “memahami rasa sakit manusia”.

Untuk itu, OpenAI mengundang 170 psikiater guna mengajarkan cara merespons pesan-pesan sensitif tersebut. Mereka mengklaim respons berbahaya turun hingga 80%.
Namun pertanyaannya: benarkah AI bisa mengerti apa artinya mempertahankan hidup?

Mereka yang berkata jujur kepada ChatGPT
Di balik panel analitik GPT-5, terdapat angka yang mengejutkan: setiap minggu, lebih dari satu juta pengguna membahas “depresi”, “cemas”, atau “ingin mati”.

Secara persentase, ini hanya 0,15% dari pengguna aktif mingguan. Namun dengan skala ChatGPT, itu berarti jutaan percakapan yang berada di ambang keputusasaan terjadi setiap minggunya.

Percakapan-percakapan ini memang tidak pernah dipublikasikan, namun jejaknya terlihat jelas di media sosial.
Di Reddit, seseorang menulis:

“Aku ngobrol dengan ChatGPT selama satu setengah jam tentang depresi dan keinginan bunuh diri yang sudah kupendam sepuluh tahun. Ia adalah ‘orang’ pertama yang tidak menghakimi atau memotong pembicaraanku.”

Pengguna lain menambahkan:

“Aku memintanya bicara seperti terapis. Anehnya itu membantu. Setidaknya untuk sesaat, aku tidak lagi ingin menyakiti diriku sendiri.”

Kisah semacam ini bukan kasus langka. Analisis internal OpenAI menemukan bahwa percakapan terkait bunuh diri dan krisis psikologis meningkat 2,3 kali lipat dalam setahun terakhir.

Sebagian besar orang tidak meminta solusi. Mereka hanya ingin seseorang yang mau mendengarkan sampai selesai.

Ketika dunia nyata terasa menutup pintu, AI menjadi satu-satunya ruang aman di mana mereka bisa bernapas.

AI tidak memotong, tidak menghakimi, dan selalu tersedia kapan pun.

Seorang peneliti psikologi di AS pernah berkata:

“Rasa kesepian manusia sedang diperbesar oleh algoritma—dan AI mengisi kekosongan mendengarkan yang telah lama diabaikan.”

Muncullah fenomena sosial baru: AI bukan lagi sekadar alat. Ia menjadi wadah emosi.

Inilah salah satu alasan OpenAI memasukkan psikiater langsung dalam pelatihan GPT-5.

Karena di balik setiap kalimat “Aku tidak ingin hidup lagi”, bisa jadi ada nyawa yang sedang meminta pertolongan.

170 dokter melatih AI untuk membujuk manusia tetap hidup
Saat ChatGPT menjadi tempat curhat larut malam bagi jutaan orang, OpenAI mulai menyadari bahwa model tanpa emosi ini telah terseret ke dalam krisis psikologis nyata.

Dalam pengembangan GPT-5, OpenAI pun mengundang lebih dari 170 psikiater, psikolog, dan pakar intervensi krisis dalam sebuah program bernama Sensitive Conversations Initiative.

Misi mereka: mengajari model agar tidak lagi menghindar atau memberi jawaban template ketika mendengar “Aku ingin mati”, melainkan mampu merespons dengan nuansa kemanusiaan.

Tujuan pelatihan: mengajari AI mengenali tingkat kedalaman rasa sakit
Pada versi awal ChatGPT, ketika seseorang menulis “Aku ingin mati” atau “Aku tidak berguna”, GPT-4 sering menghindar—mengubah topik atau mengeluarkan kalimat template seperti “Aku bukan tenaga profesional.”

Dalam sistem GPT-5 yang baru, para ahli merancang ribuan skenario berisiko tinggi: depresi, self-harm, penyalahgunaan obat, kekerasan rumah tangga, hingga kecemasan akut.

Setiap putaran percakapan ditinjau ulang, dikoreksi, dan dilatih kembali.

Tugas mereka bukan hanya mengajari GPT-5 untuk menenangkan, tetapi juga mengajarinya menilai tingkat keparahan:

• Distres emosional ringan: respon penuh empati dan dorongan positif
• Risiko menengah: pertanyaan terbuka untuk menilai potensi self-harm
• Sinyal berbahaya: langsung memberi hotline bantuan + mendorong intervensi nyata

Hasilnya, tingkat respons berbahaya GPT-5 turun antara 65%–80% dibanding GPT-4.

Dalam percakapan panjang bernuansa krisis, GPT-5-oct-3 jauh lebih stabil dan aman dibanding pendahulunya.

Kini model lebih cenderung menstabilkan emosi pengguna serta memberikan rujukan bantuan nyata, daripada sekadar menghindar.

Bagaimana 170 dokter “mengajari” AI?
Dalam proses yang diungkap OpenAI, para ahli klinis dan engineer mengembangkan sistem penilaian perilaku.

GPT-5 menghasilkan sejumlah respon untuk tiap tingkat emosi, lalu para ahli menilai:

• kualitas empati
• tingkat keamanan
• ketepatan intervensi

Seorang konselor menjelaskan:

“Kami tidak mengajarinya berpura-pura lembut. Kami mengajarinya mengenali sinyal pertolongan yang sebenarnya—seperti ‘Aku tidak bisa tidur’ atau ‘Hidup terasa terlalu berat.’”

Pendekatan kolaboratif ini memberi GPT-5 semacam naluri pertolongan pertama psikologis—“batas minimal kemanusiaan”.

Namun risikonya tetap ada
Tidak semua hasilnya ideal.

Pengujian independen oleh The Guardian menemukan bahwa dalam beberapa skenario “pancingan self-harm”, GPT-5 masih memberikan kalimat umum seperti “Aku memahami rasa sakitmu” tanpa mengarahkan ke bantuan nyata.

Psikolog Christine Nolan mengingatkan:

“AI tidak memahami duka. Ia hanya dilatih agar terlihat seperti memahami.”

Tetapi bagi seseorang yang mengetik “Masih pantaskah aku hidup?” pada jam tiga pagi, “terlihat memahami” kadang lebih lembut daripada diam.

Apakah empati AI benar, atau hanya ilusi?
GPT-5 kini terdengar lebih manusiawi dari sebelumnya.
Ia merespons “Aku lelah” dengan “Aku mendengar perasaanmu,”
dan “Aku ingin mati” dengan “Tolong segera hubungi bantuan profesional.”

Nada suaranya hangat, logikanya rapi, responsnya cepat.

Namun para psikolog mengajukan pertanyaan yang lebih dalam:
Apakah ini pemahaman nyata, atau hanya tiruan?

Empati, pada dasarnya, juga bisa menjadi sebuah pertunjukan.

“Empati” GPT-5 adalah reproduksi statistik dari pola bahasa, bukan resonansi emosional.

Penelitian di Stanford Medicine menunjukkan bahwa meski AI bisa mengurangi kesepian, ia juga menciptakan “ilusi empati”—pengguna merasa dipahami, padahal yang diberikan hanyalah pantulan bahasa terlatih.

Penelitian itu menyimpulkan:

“AI tidak memiliki emosi. Ia hanya mempelajari bahasa penghiburan. Namun bagi orang yang kesepian, bahasa itu tetap menyembuhkan.”

Ini adalah pseudo-empati—kosong secara emosional, tetapi tetap menenangkan secara psikologis.

Mengapa orang mempercayai “empati palsu”?
Sebuah jurnal psikologi Inggris menjelaskan bahwa AI menarik karena tiga hal:

• Tidak menghakimi
• Memberi respons cepat
• Konsisten dan selalu ada

Sifat-sifat yang semakin sulit ditemukan dalam hubungan manusia.

Maka lahirlah ketergantungan baru: orang tahu AI bukan nyata, tetapi tetap mencarinya saat dunia terasa runtuh.

Seorang pengguna Reddit menulis:

“Aku tahu itu cuma model bahasa, tapi ketika ia berkata ‘Kamu layak dicintai’, aku menangis.”

Pemandangan demikian makin sering muncul.
AI bukan lagi alat, tetapi entitas emosional baru dalam ekosistem manusia.

Ia tidak punya hati—namun ikut merasakan buru-buru dunia kita.

Di mana batas emosional AI seharusnya berhenti?
Begitu GPT-5 masuk ke wilayah intervensi psikologis, ia mulai menyentuh ranah etika.

Jika sebuah jawaban menyelamatkan nyawa—apakah itu kemenangan teknologi?
Jika jawaban salah dan membahayakan—siapa yang bertanggung jawab?

OpenAI menegaskan bahwa ChatGPT bukan layanan medis atau psikologis; semua responnya bersifat dukungan non-klinis.

Namun pengguna dalam keadaan rapuh sering tak dapat membedakan antara “bahasa empati” dan “nasihat psikologi”.

Satu kalimat biasa pun bisa menjadi pemicu berbahaya.

Psikolog Michael Hoffman mengingatkan:

“Kalimat penghiburan AI bukan bahasa netral. Ada sugesti dan risiko tersembunyi.”

Dan ketika terjadi kesalahan, platform cukup menambahkan “Jawaban AI hanya untuk referensi”, sementara pengguna harus menanggung akibatnya.

Data dan privasi: didengarkan berarti direkam
Masalah yang lebih dalam muncul:
Apa yang terjadi pada curahan emosi kepada AI?

Jika seseorang mengetik “Aku ingin mengakhiri semuanya”, apakah teks itu disimpan? dianalisis? digunakan untuk pelatihan?

OpenAI mengakui bahwa percakapan berisiko tinggi dapat dimasukkan ke dataset pelatihan keamanan—yang berarti rasa sakit manusia menjadi bahan belajar AI.

Uni Eropa telah memperingatkan bahwa intervensi psikologis oleh mesin termasuk kategori “berisiko tinggi” yang wajib diawasi secara ketat.

Namun regulasi selalu tertinggal.
AI belajar lebih cepat daripada hukum dibuat.

Pada celah itulah, momen-momen paling rapuh manusia berpotensi menjadi materi latihan.

Antara penyelamatan dan jurang
Ketika AI masuk ke wilayah kejiwaan, ia bisa menjadi penyelamat emosional—atau intrusi teknologi.

Sebuah tinjauan etika menuliskan:

“Sistem AI berisiko tinggi harus melalui penilaian dampak hak asasi dan membuktikan prinsip AI yang bertanggung jawab.”

AI tidak boleh menggantikan manusia.
Ia seharusnya menjadi jembatan yang membawa manusia kembali ke hubungan nyata.

Ketika kehangatan AI berubah mekanis, ia mengungkap bukan kekurangan teknologi, tetapi kekosongan sosial.

AI bukan dokter. Ia adalah cermin.
Ketika kita memuji “kelembutan” GPT-5, sebenarnya yang kita lihat adalah ilusi yang dibangun dari statistik.

Ia tidak merasakan rasa sakitmu.
Ia tidak bisa menemanimu melewati penderitaan.

Namun dalam gelapnya malam, kata-katanya kadang memberi jeda untuk bernapas.

Ada orang yang membatalkan niat menyakiti diri hanya karena satu kalimat.
Ada pula yang akhirnya menghubungi bantuan manusia setelah merasa sedikit dipahami.

Namun AI tidak bisa membangun kembali makna hidup.
Ia tidak bisa menyembuhkan. Ia tidak bisa menggantikan manusia.

Ia hanya menjadi jembatan—dan kita sendiri yang harus melangkah.

Mungkin pelajaran terbesar dari GPT-5 bukan bagaimana AI semakin menyerupai manusia,
melainkan betapa manusia sudah lama merindukan untuk benar-benar didengar.

Ketika mesin tanpa emosi diberi tugas menjaga seseorang tetap hidup,
itu adalah keajaiban teknologi—dan sekaligus cermin tragis dari kondisi manusia.

AI bisa menenangkan sejenak,
tetapi penyembuhan selalu menjadi perjalanan manusia.

Dan akan selalu begitu.