Studi Oxford: Akurasi Saran Medis ChatGPT Sering Kali Keliru

Uptodai.com - Akurasi saran medis ChatGPT kini menjadi sorotan tajam setelah sebuah studi terbaru dari Universitas Oxford mengungkapkan adanya risiko kesalahan fatal bagi penggunanya. Penelitian ini menyoroti bagaimana kecerdasan buatan (AI) sering kali gagal memberikan rekomendasi yang tepat dalam situasi darurat kesehatan yang kritis.

Para ahli memperingatkan masyarakat agar tidak sepenuhnya mengandalkan teknologi ini untuk mendiagnosis penyakit serius secara mandiri tanpa pengawasan tenaga medis. Penggunaan chatbot sebagai pengganti dokter dianggap dapat memperburuk kondisi pasien jika informasi yang diberikan tidak akurat.

Masalah Interaksi dan Deskripsi Gejala Pasien

Andrew Bean, seorang peneliti dari Universitas Oxford, menjelaskan bahwa masalah utama terletak pada cara pengguna berinteraksi dengan model bahasa besar tersebut. Banyak orang tidak memahami informasi spesifik apa yang seharusnya mereka sampaikan agar AI bisa memberikan jawaban yang benar-benar akurat.

Dalam praktiknya, perbedaan kecil dalam mendeskripsikan gejala fisik ternyata dapat memicu respons yang sangat berbeda dari sistem AI. Hal ini menciptakan celah keamanan yang besar bagi pasien yang mencoba mencari bantuan medis awal melalui platform digital.

Sebagai contoh, pengguna yang melaporkan “sakit kepala terparah” mungkin akan langsung diarahkan oleh sistem untuk segera menuju instalasi gawat darurat (IGD). Namun, jika pengguna lain mendeskripsikan gejala yang sama dengan bahasa yang lebih santai, ChatGPT mungkin hanya menyarankan istirahat atau minum obat.

Kesalahan semacam ini sangat berbahaya karena kondisi yang sebenarnya mengancam jiwa bisa dianggap sebagai keluhan ringan biasa oleh algoritma. Akibatnya, pasien mungkin menunda penanganan medis yang seharusnya dilakukan secepat mungkin untuk menyelamatkan nyawa mereka.

AI Meremehkan Tingkat Keparahan Kondisi Darurat

Studi tersebut juga menemukan fakta mengejutkan bahwa AI meremehkan tingkat keparahan kondisi pasien dalam sekitar 52 persen kasus darurat. Angka ini menunjukkan bahwa lebih dari separuh saran yang diberikan chatbot berisiko membahayakan keselamatan pasien dalam situasi kritis.

Girish Nadkarni, seorang peneliti dari Mount Sinai, menyebutkan bahwa ChatGPT memang mampu menjawab dengan benar jika kasus medisnya sangat jelas dan sederhana. Namun, AI sering kali keliru saat menghadapi situasi kompleks yang melibatkan faktor waktu dan variabel medis yang beragam.

Kemampuan AI dalam memperkirakan seberapa lama seorang pasien bisa menunda penanganan medis masih sangat terbatas dan tidak konsisten. Oleh karena itu, ketergantungan pada kesalahan diagnosis AI dapat berujung pada konsekuensi kesehatan yang fatal bagi masyarakat umum.

Respons OpenAI Terhadap Temuan Peneliti

Menanggapi temuan ini, juru bicara OpenAI menyatakan bahwa studi tersebut mungkin tidak sepenuhnya mencerminkan cara orang menggunakan ChatGPT di dunia nyata. Mereka menambahkan bahwa penelitian tersebut menggunakan versi model yang mungkin sudah diperbarui untuk mengatasi kekhawatiran tersebut.

Pihak pengembang mengklaim terus melakukan perbaikan agar sistem mereka lebih aman dan memberikan peringatan medis yang lebih jelas kepada pengguna. Meskipun demikian, OpenAI tetap menyarankan agar pengguna selalu berkonsultasi dengan profesional medis untuk masalah kesehatan apa pun.

Rekomendasi Penggunaan AI yang Aman Menurut Ahli

Adam Rodman, seorang peneliti dari Harvard Medical School, menyarankan agar teknologi AI digunakan sebagai alat bantu sebelum atau sesudah berkonsultasi dengan dokter. Ia menilai teknologi ini sangat membantu pasien dalam memahami kondisi medis mereka dengan lebih baik melalui penjelasan yang sederhana.

Namun, ia menegaskan bahwa chatbot tidak boleh menjadi garda terdepan dalam menangani kondisi darurat yang memerlukan tindakan cepat. Penggunaan yang bijak akan membuat interaksi antara dokter dan pasien menjadi lebih efektif dan transparan tanpa mengesampingkan faktor keselamatan.

Para dokter sepakat bahwa integrasi AI dalam dunia medis adalah hal yang tidak bisa dihindari dan akan terus berkembang pesat di masa depan. Harapannya, teknologi ini dapat memperkuat hubungan kemanusiaan antara dokter dan pasien, bukan justru menghilangkannya melalui otomatisasi yang kaku.

Kolaborasi antara kecerdasan manusia dan mesin diharapkan mampu memangkas birokrasi medis dan memperlancar komunikasi tanpa mengorbankan akurasi saran medis ChatGPT. Dengan pengawasan yang tepat, AI bisa menjadi mitra yang berharga dalam meningkatkan kualitas layanan kesehatan global.