Bir tıbbi araştırma ekibi, ABD Gıda ve İlaç Dairesi (FDA) düzenlemelerini atlayarak oluşturulan yapay zeka (AI) tarafından üretilen klinik özetlerin potansiyel tehlikeleri konusunda endişelerini dile getirdi. Temel sorun, FDA’nın klinik karar destek yazılımları hakkındaki yönergelerinin, büyük dil modellerinin (LLM) ajansın denetimi olmadan klinik özetler üretmesine izin verebileceği ve bu durumun hasta güvenliğini riske atabileceğidir.
Uygun Gözetim Olmadan AI Riskleri
Maryland Üniversitesi Tıp Fakültesi, UMD Sağlık Bilişimi Enstitüsü ve VA Maryland Sağlık Sistemi’nden araştırmacılar, AI araçlarının, özellikle ChatGPT’nin klinik pratikteki artan yakınlığını vurguladılar. Bu üretken AI modellerinin, sağlık profesyonellerini tükenmişlikten kurtarmak ve operasyonel verimliliği artırmak için tasarlandığını, ancak yanlışlıkla klinik kararları etkileyebileceğini belirttiler. LLM’lerin klinik notlar ve ilaç listeleri gibi hasta verilerini özetlemek için kullanılması, teyit yanlılığına yol açarak tanı hatalarına neden olabilir.
AI Özetlerindeki Değişkenlik ve Hatalar
ChatGPT ile yapılan testleri içeren çalışmalarında, ekip AI özetlerinin çıktısını değerlendirdi. Bulgular, LLM tarafından üretilen özetlerde önemli bir değişkenlik olduğunu ve hatta küçük hataların bile hekimleri yanlış tanılara yönlendirebileceğini gösterdi. Özellikle, AI’nin bir hastanın semptomlarına yanlışlıkla “ateş” eklemesi gibi, bu da tanıyı yanlışlıkla zatürreye yönlendirebilir.
Çalışmanın baş yazarı olan hukuk uzmanı Katherine Goodman ve ekibi, AI tarafından üretilen klinik özetler için şeffaf standartların geliştirilmesinin gerekliliğini vurguluyor. Bu teknolojilerin klinik pratikte güvenli ve sorumlu bir şekilde entegre edilmesini sağlamak için pragmatik klinik çalışmaların yapılmasını savunuyorlar.
Daha geniş tıp topluluğunda düzenleme ile yenilik arasındaki denge konusunda bir tartışma olmasına rağmen, araştırma ekibi, potansiyel halk sağlığı risklerini önlemek için düzenleyici gözetimin zorunluluğu konusunda kararlı duruyor. Diğerleri, FDA’nın katı düzenlemelerinin genAI yeniliğini boğduğuna inanırken, Goodman ve meslektaşları hasta güvenliğinin öncelik olması gerektiğini savunuyorlar.
Çalışma, kliniklerin sanal “evet” adamları olarak hareket eden kontrolsüz AI sistemlerinden kaynaklanan hasta zararını önlemek için net düzenleyici güvencelerin oluşturulması ve AI’nin sağlık hizmetlerinde sorumlu bir şekilde kullanılması için bir eylem çağrısıyla sona eriyor.
- AI tarafından üretilen klinik özetler risk taşıyor.
- LLM’ler yanlış tanılara yol açabilir.
- AI’nin sağlıkta sorumlu kullanımı şart.
