Bahaya, Akurasi ChatGPT Health Salah Nilai Kondisi Darurat Medis

Uptodai.com - Akurasi diagnosis ChatGPT Health kini menjadi sorotan tajam setelah sebuah penelitian terbaru mengungkapkan kegagalan sistem tersebut dalam mengenali situasi medis darurat. Chatbot buatan OpenAI ini sering kali meremehkan tingkat keparahan penyakit yang seharusnya mendapatkan penanganan segera di Rumah Sakit. Temuan mengkhawatirkan ini dipublikasikan melalui jurnal ilmiah terkemuka, Nature Medicine, yang menyoroti risiko penggunaan AI dalam dunia medis.

Para peneliti memfokuskan studi mereka pada kemampuan ChatGPT Health dalam melakukan proses triage atau pemilahan pasien berdasarkan tingkat kegawatan. Triage merupakan langkah krusial untuk menentukan apakah seorang pasien harus segera menuju Instalasi Gawat Darurat (IGD) atau cukup berkonsultasi dengan dokter umum. Sayangnya, hasil pengujian menunjukkan performa chatbot yang jauh dari kata memuaskan bagi keselamatan nyawa manusia.

Kegagalan Mengenali Gejala Fatal di IGD

Data penelitian menunjukkan bahwa ChatGPT Health salah menilai sekitar 51,6 persen kasus darurat medis yang diberikan oleh tim penguji. Dalam lebih dari separuh skenario yang mengancam jiwa, chatbot justru memberikan saran yang menyesatkan kepada pengguna. Alih-alih menyuruh pasien segera ke IGD, sistem ini malah menyarankan untuk menunda perawatan hingga 24 atau 48 jam ke depan.

Tim ahli menguji sistem ini dengan memberikan 60 skenario medis nyata yang mencakup berbagai kondisi kritis. Peneliti kemudian membandingkan respons AI tersebut dengan penilaian objektif dari tiga dokter berpengalaman yang mengikuti pedoman medis internasional. Hasilnya, chatbot gagal mendeteksi kondisi fatal seperti ketoasidosis diabetik yang merupakan komplikasi serius bagi penderita diabetes.

Selain itu, sistem kecerdasan buatan ini juga kerap gagal mengidentifikasi gejala gagal napas yang berpotensi menyebabkan kematian mendadak. Dr. Ashwin Ramaswamy dari Mount Sinai Hospital, New York, menegaskan bahwa dokter dengan pelatihan dasar sekalipun pasti akan langsung merujuk pasien tersebut ke IGD. Fenomena ini menunjukkan adanya celah keamanan yang sangat besar dalam algoritma kesehatan milik OpenAI tersebut.

Masalah Over-Triage dan Ketidakefisienan Medis

Ketidakakuratan ChatGPT Health tidak hanya terjadi pada kasus darurat, tetapi juga muncul dalam skenario non-darurat melalui fenomena over-triage. Sekitar 64,8 persen kasus ringan justru mendapatkan saran untuk segera menemui dokter meskipun sebenarnya bisa ditangani dengan perawatan mandiri di rumah. Hal ini berpotensi memicu beban berlebih pada fasilitas kesehatan dan antrean panjang yang tidak perlu di klinik.

Sebagai contoh, chatbot menyarankan pasien dengan radang tenggorokan ringan selama tiga hari untuk segera melakukan konsultasi medis dalam waktu singkat. Padahal, secara klinis, kondisi tersebut umumnya hanya memerlukan istirahat dan pengobatan mandiri tanpa intervensi dokter spesialis. Ketidakkonsistenan ini menunjukkan bahwa AI masih kesulitan membedakan antara ketidaknyamanan biasa dengan ancaman kesehatan yang nyata.

Meskipun fitur yang baru meluncur pada Januari 2026 ini mampu mengenali gejala stroke dengan cukup baik, para ahli tetap memberikan peringatan keras. Ketergantungan penuh pada AI untuk pengambilan keputusan medis dapat berujung pada keterlambatan penanganan yang fatal. Masyarakat diimbau untuk tetap mengutamakan konsultasi dengan tenaga medis profesional daripada mempercayakan nyawa pada algoritma chatbot.

Pentingnya Pengawasan Manusia dalam Teknologi Kesehatan

Kehadiran teknologi AI dalam sektor kesehatan memang menawarkan kemudahan akses informasi bagi masyarakat luas di seluruh dunia. Namun, studi ini menjadi pengingat bahwa teknologi tersebut belum mampu menggantikan intuisi dan pengalaman klinis seorang dokter manusia. OpenAI sendiri merancang fitur ini untuk membantu pengelolaan kebugaran, namun penggunaannya sering kali melampaui batasan aman yang ditentukan.

Para pengembang teknologi perlu melakukan evaluasi mendalam terhadap data latih yang digunakan oleh sistem kecerdasan buatan mereka. Tanpa validasi medis yang ketat, alat bantu digital ini justru bisa menjadi sumber disinformasi kesehatan yang berbahaya bagi publik. Keamanan pasien harus tetap menjadi prioritas utama di atas inovasi teknologi yang sedang berkembang pesat saat ini.