Alat transkripsi Whisper dari OpenAI menghadapi kritik keras karena menghasilkan konten palsu dalam lingkungan medis, memunculkan kekhawatiran serius tentang keselamatan pasien dan keakuratan data dalam lingkungan kesehatan.
Krisis Halusinasi
Whisper, alat transkripsi OpenAI yang banyak digunakan, telah ditemukan sering menghasilkan konten palsu atau halusinasi dalam transkripsinya. Meskipun OpenAI mengklaim memiliki akurasi setingkat manusia, para peneliti telah menemukan tingkat pembuatan konten palsu yang mengkhawatirkan di berbagai aplikasi. Yang paling mengkhawatirkan adalah penggunaannya di lingkungan kesehatan, di mana pencatatan yang akurat sangat penting untuk perawatan pasien.
Adopsi Luas di Bidang Medis Meski Ada Peringatan
Meskipun ada peringatan eksplisit dari OpenAI untuk tidak menggunakan Whisper di domain berisiko tinggi, sektor medis telah mengadopsi teknologi ini secara luas. Nabla, perusahaan Franco-Amerika, telah menerapkan alat berbasis Whisper di 40 sistem kesehatan, melayani lebih dari 30.000 tenaga medis. Alat ini telah digunakan untuk mentranskripsikan sekitar 7 juta kunjungan medis, tanpa cara untuk memverifikasi keakuratan karena rekaman asli dihapus untuk alasan keamanan data.
Penelitian Mengungkap Tingkat Kesalahan yang Mengkhawatirkan
Beberapa studi independen telah mengungkap tingkat keparahan masalah halusinasi Whisper. Peneliti dari University of Michigan menemukan halusinasi dalam 80% transkripsi rapat publik, sementara analisis lain terhadap 26.000 transkrip menunjukkan hampir semua konten mengandung fabrikasi. Studi yang sangat mengkhawatirkan oleh Cornell University dan University of Virginia menemukan bahwa 40% halusinasi berpotensi berbahaya, termasuk perawatan medis yang dikarang dan konten kekerasan yang dipalsukan.
Implikasi Privasi dan Keamanan
Penerapan transkripsi AI dalam kesehatan telah memicu kekhawatiran privasi tambahan. Pasien semakin sering dihadapkan dengan formulir persetujuan yang mengizinkan konsultasi medis mereka dibagikan dengan vendor pihak ketiga, memunculkan pertanyaan tentang perlindungan data dan kerahasiaan pasien. Hal ini menyebabkan beberapa pasien, termasuk anggota legislatif California Rebecca Bauer-Kahan, menolak menandatangani perjanjian tersebut.
Dampak Industri dan Kekhawatiran Masa Depan
Pengaruh Whisper meluas melampaui aplikasi medis, dengan alat ini diintegrasikan ke dalam ChatGPT dan platform cloud besar seperti Oracle dan Microsoft. Dengan lebih dari 4,2 juta unduhan dalam satu bulan dari HuggingFace, potensi penyebaran informasi yang salah sangat signifikan. Mantan insinyur OpenAI, William Saunders, menyarankan masalah-masalah ini bisa diselesaikan jika diprioritaskan, tetapi situasi saat ini menimbulkan risiko serius, terutama dalam lingkungan perawatan kesehatan yang kritis.