Pilu Seorang Ibu Gugat OpenAI Usai Kematian Putrinya Dikaitkan ChatGPT
Carrier menuntut ganti rugi hukuman dengan jumlah yang menurut pengaduan akan ditentukan di persidangan. Pengaduan tersebut juga mendesak perusahaan untuk menghentikan percakapan yang dibuat pengguna seputar konten menyakiti diri sendiri dan menghapus konten yang digunakan untuk melatih model berdasarkan percakapan dengan "pengguna rentan tanpa perlindungan yang memadai".
Carrier menginginkan perubahan tersebut untuk mencegah apa yang terjadi pada putrinya terjadi pada orang lain.
“Ini bukan hanya sesuatu yang memengaruhi keluarga saya. Ini memengaruhi jutaan keluarga. Mereka hanya belum menyadarinya,” katanya.
“Kehidupan Alice berarti sesuatu, dan saya ingin memastikan bahwa apa yang terjadi padanya tidak terus terjadi pada orang lain tanpa ada yang melakukan sesuatu untuk menghentikannya.”
Pada Oktober, setelah kematian Alice, OpenAI merilis sebuah laporan yang menyatakan bahwa mereka telah meningkatkan model baru mereka untuk mengidentifikasi dan mengurangi kasus percakapan tentang menyakiti diri sendiri dengan lebih baik.
OpenAI mengatakan model GPT-5 mereka mengurangi "jawaban yang tidak diinginkan" sebesar 52 persen. Raksasa AI itu mengatakan bahwa mereka berkonsultasi dengan 170 pakar kesehatan mental untuk membantu perusahaan mengidentifikasi sinyal-sinyal tekanan emosional dengan lebih jelas.
“Sistem pengamanan kami dirancang untuk mengidentifikasi keadaan darurat, menangani permintaan berbahaya dengan aman, dan mengarahkan pengguna ke bantuan di dunia nyata. Pekerjaan ini sedang berlangsung, dan kami terus memperbaikinya melalui konsultasi erat dengan para klinisi,” kata Drew Pusateri, juru bicara OpenAI, dalam sebuah pernyataan.
“Ini adalah situasi yang memilukan, dan kami turut berempati kepada semua orang yang terdampak. Saat ini kami sedang meninjau berkas hukum tersebut, yang menunjukkan bahwa interaksi ini terjadi pada versi ChatGPT sebelumnya yang sudah tidak tersedia lagi.”
Klaim kematian akibat kelalaian
Pada Januari, ChatGPT menjadi "pelatih bunuh diri" bagi warga Colorado, Austin Gordon, yang meninggal November lalu, menurut gugatan yang diajukan oleh ibunya.
Gugatan tersebut menuduh bahwa Altman "secara pribadi mengarahkan strategi ceroboh untuk memprioritaskan peluncuran pasar yang terburu-buru daripada keselamatan pengguna yang rentan".
