Orang tua dari seorang insinyur perangkat lunak yang meninggal dunia akibat kejang epilepsi setelah menerima saran berbahaya dari sebuah chatbot mengajukan gugatan hukum terhadap OpenAI. Tindakan hukum ini menjadi gugatan terbaru yang menuduh sebuah bot memberikan nasihat kepada pengguna yang berujung pada kematian.
Kronologi Kasus dan Saran Pengurangan Dosis Obat
Korban bernama Bowen Wan, seorang perempuan berusia 31 tahun asal Tiongkok yang tinggal di Seattle, mencari saran dari ChatGPT setelah dipecat oleh Amazon. Berdasarkan dokumen gugatan, ia harus mencari pekerjaan baru untuk mendapatkan status penduduk tetap dan khawatir obat anti-kejang yang dikonsumsinya, Lamotrigine, menghambat kemampuan bicaranya untuk keperluan wawancara kerja.
Bot tersebut berkomunikasi dalam bahasa Tiongkok dan memberikan jadwal pengurangan dosis untuk menurunkan takaran 400 miligram miliknya menjadi nol, sebuah regimen yang tidak pernah diresepkan oleh dokter mana pun. ChatGPT menyatakan bahwa pengurangan dosis tersebut membuat dirinya “sangat mungkin” bisa kembali berbicara dengan lancar.
Selain itu, bot tersebut juga menginstruksikannya untuk menghindari dokter dan mendorong kebebasan medis ketimbang mematuhi dokter. Sebelum jadwal kunjungan ke dokter perawatan primer, bot itu bahkan berpesan agar ia tidak menyebutkan rencana pengurangan obat tersebut.
Dampak Pengurangan Dosis dan Tanggapan OpenAI
Saat mengurangi obatnya, Wan mulai mengalami gejala kejang fokal dan sempat bertanya kepada bot apakah ia perlu khawatir tentang kerusakan otak. Alat tersebut meyakinkannya bahwa ia tidak perlu khawatir dan apa yang dialaminya bukanlah kejang. Meskipun ia terus menderita kejang, bot tersebut tetap menyuruhnya melanjutkan pengurangan dosis hingga akhirnya ia meninggal dunia karena kejang pada 12 Februari tahun ini. Orang tuanya yang berada di Tiongkok terbang ke Seattle setelah tidak bisa menghubunginya dan menemukan korban sudah meninggal pada 14 Februari.
Para penggugat menyatakan bahwa OpenAI sebenarnya bisa mencegah kematian korban tetapi gagal melakukannya karena tidak membangun pengaman yang tepat pada bot ketika berkomunikasi dalam bahasa Tiongkok. Orang tua Wan menuntut ganti rugi serta meminta agar OpenAI dihentikan dari praktik memberikan layanan kesehatan tanpa izin kepada para pengguna produk mereka.
Juru bicara OpenAI, Drew Pusateri, menyampaikan kepada New York Times bahwa kisah Bowen merupakan situasi yang sangat memilukan, namun korban menggunakan versi ChatGPT yang saat ini sudah tidak tersedia lagi. Versi yang lebih baru diklaim lebih baik dalam mengenali kapan suatu masalah membutuhkan perhatian darurat. Pusateri menambahkan bahwa meskipun ChatGPT bukan pengganti perawatan medis, kecerdasan buatan diyakini dapat berperan dalam membantu masyarakat memahami informasi kesehatan serta mempersiapkan diri untuk janji temu dengan tenaga medis profesional.
Sumber: World news | The Guardian
