Yapay zekâda doğruluk yetmez, sağlıkta kararların nedeni görünür olmalı

Biruni Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi Bilgisayar Mühendisliği Bölümü Dr. Öğr. Üyesi Damla Övek Baydar, sağlık alanında kullanılan yapay zekâ sistemlerinin yalnızca yüksek doğruluk oranlarına sahip olmasının güvenilirlik için yeterli olmadığını belirtti. Baydar, modellerin karar süreçlerinin anlaşılabilir olmasının, farklı hasta gruplarında ve değişen koşullarda sistemlerin güvenilirliğini değerlendirmede kritik rol oynadığını söyledi. doğru cevap ile doğru nedene dayanan cevap arasındaki fark: Baydar, yapay zekâ uygulamalarının tıbbi görüntü değerlendirmesinden genomik veri analizine kadar geniş bir yelpazede sağlık profesyonellerine yardımcı olabildiğini kabul etti ancak uyarıda bulundu: doğru tahmin ile güvenilir tahmin her zaman aynı şey değildir. Derin öğrenme modelleri çoğu zaman ‘kara kutu’ şeklinde çalışır; yüksek doğruluk elde edebilirler fakat hangi verisel özelliklere dayanarak bu sonuca ulaştıkları her zaman açık değildir. Bu belirsizlik, modelin kararını klinik olarak anlamlı olmayan veya veri setine özgü rastgele örüntülere dayandırması durumunda sorun yaratır. Baydar, örnek vererek şu soruların yanıtlanmasının önemini vurguladı: model görüntünün hangi bölgesine odaklanıyor, hangi hasta değişkenlerini daha belirleyici kabul ediyor ya da genomik analizde hangi dizi bölümleri tahmini etkiliyor? açıklamaların sınırları ve yeni araştırma kapıları: Açıklanabilir yapay zekâ yaklaşımlarının hekimlerin karar destek sistemlerini değerlendirmesinde yardımcı olabileceğini söyleyen Baydar, aynı zamanda bu açıklamaların otomatik olarak gerçek biyolojik mekanizmayı göstermeyeceğini belirtti. Bir modelin hangi verilerden etkilendiğini görselleştirmek, doğrudan hastalığın nedenini ortaya koymaz; bu nedenle elde edilen çıktılar klinik bilgi, biyolojik kanıt ve bağımsız doğrulamalarla desteklenmelidir. Bununla birlikte Baydar, açıklanabilirlik yöntemlerinin bilimsel açıdan da fırsatlar sunduğunu, modelin öğrendiği örüntülerin incelenmesinin daha önce fark edilmemiş biyolojik ilişkilere işaret edebileceğini ve yeni hipotezler doğurabileceğini ifade etti. uzmanla birlikte kullanım ve güven kriterleri: Sağlıkta yapay zekânın, uzman hekimlerin yerini alacak bağımsız bir karar mekanizması olarak değil, uzmanın yanında çalışan bir destek aracı olarak değerlendirilmesi gerektiğini vurgulayan Baydar, güvenilirlik değerlendirmesinin yalnızca doğruluk oranlarına indirgenmemesi gerektiğini belirtti. Özellikle bazı kilit soruların sorulmasının önemine dikkat çekti: Hangi verilerden öğrenildi? Hangi hasta gruplarında başarısız olabilir? Karar hangi özelliklere dayanıyor? Bu açıklama klinik veya biyolojik olarak anlamlı mı? Baydar, sağlıkta güvenilir yapay zekânın sınırları bilinen, denetlenebilir ve insan uzmanlığıyla birlikte ele alınabilen sistemler olduğunu söyleyerek sözlerini tamamladı. Ona göre gelecekte yapay zekâ uygulamalarının değeri, ulaştıkları doğruluk kadar verdiği kararları ne ölçüde açıklayabildiğimizle de ölçülecek. BİRUNİ ÜNİVERSİTESİ MÜHENDİSLİK VE DOĞA BİLİMLERİ FAKÜLTESİ BİLGİSAYAR MÜHENDİSLİĞİ BÖLÜMÜ DR. ÖĞR. ÜYESİ DAMLA ÖVEK BAYDAR

Yapay zekâda doğruluk yetmez, sağlıkta kararların nedeni görünür olmalı

Biruni Üniversitesi'nden Dr. Damla Övek Baydar, sağlıkta yapay zekânın yüksek doğruluğunun tek başına güven sağlamadığını; açıklanabilirlik ve klinik doğrulama gerektiğini vurguladı.