Sebuah laporan dari Healthwatch England mengungkapkan bahwa teknologi kecerdasan buatan yang digunakan untuk mentranskripsikan konsultasi antara dokter dan pasien berpotensi menimbulkan risiko bagi keselamatan pasien. Teknologi ini dirancang untuk meringankan beban administratif dokter dengan merekam dan merangkum percakapan secara otomatis. Namun, temuan menunjukkan bahwa sistem tersebut kerap menghasilkan ringkasan yang tidak akurat, khususnya dalam penyebutan nama obat dan diagnosis penyakit.
Dalam satu kasus yang dilaporkan, seorang pasien wanita mengalami guncangan emosional setelah ringkasan AI secara keliru menyatakan bahwa ia menderita demyelination, yaitu kerusakan saraf serius yang dapat berkembang menjadi multiple sclerosis. Kesalahan ini tidak terdeteksi oleh dokter yang menangani, melainkan ditemukan oleh pasien sendiri saat meninjau dokumen tersebut. Kasus serupa menyoroti bahwa pasien sering kali menjadi pihak pertama yang mengidentifikasi ketidaktepatan dalam catatan medis yang dihasilkan AI.
Penggunaan AI dalam pencatatan medis memang bertujuan meningkatkan efisiensi waktu dokter sehingga mereka dapat lebih fokus pada pemeriksaan klinis. Akan tetapi, ketergantungan berlebihan tanpa verifikasi menyeluruh dapat mengurangi akurasi informasi yang tersimpan dalam rekam medis elektronik. Informasi yang salah berpotensi memengaruhi keputusan pengobatan selanjutnya dan menimbulkan kecemasan yang tidak perlu pada pasien.
Dari sisi dampak yang lebih luas, kesalahan semacam ini dapat melemahkan kepercayaan masyarakat terhadap integrasi teknologi digital dalam layanan kesehatan. Pasien mungkin menjadi lebih ragu untuk berbagi informasi sensitif jika khawatir catatan mereka tidak direkam dengan tepat. Selain itu, dokter perlu menyadari bahwa peran mereka tetap sentral dalam memvalidasi setiap output AI sebelum dokumen tersebut dijadikan dasar perawatan.
Latar belakang penerapan AI scribe di lingkungan NHS juga berkaitan dengan upaya mengurangi beban kerja administratif yang selama ini memakan waktu signifikan. Meski demikian, laporan tersebut menekankan pentingnya mekanisme pengawasan tambahan agar manfaat teknologi tidak dikalahkan oleh risiko ketidakakuratan. Pasien disarankan untuk selalu memeriksa ringkasan konsultasi mereka secara mandiri dan segera melaporkan ketidaksesuaian kepada tenaga medis.
Secara keseluruhan, temuan ini menjadi pengingat bahwa penerapan kecerdasan buatan di bidang kesehatan memerlukan pendekatan yang hati-hati dan bertanggung jawab. Kolaborasi antara pengembang teknologi, regulator, dan praktisi medis diperlukan untuk memastikan bahwa sistem pendukung seperti AI scribe benar-benar mendukung kualitas pelayanan tanpa mengorbankan keselamatan pasien.
