Herkese uyan bir yaklaşım, kullanıcıların hastalık teşhisinde yardımcı olan yapay zeka sistemleri tasarlarken en iyi strateji olmayabilir.
MIT ve diğer yerlerden araştırmacılar tarafından yapılan yeni bir çalışmada, yapay zeka desteğinin genel olarak uzman olmayanlar ve klinik uzmanların cilt hastalıklarını teşhis etme doğruluğunu artırdığı, ancak yapay zeka açıklanabilirlik yöntemlerinin kullanıcıların bilgi seviyesine bağlı olarak farklı etkiler yarattığı bulunmuştur.
Açıklanabilir yapay zeka yöntemleri, kullanıcıların bir modelin tahminlerine ne zaman güvenmeleri gerektiğini, modelin karar verme sürecini tanımlayarak veya doğrulayarak anlamalarına yardımcı olur. Örneğin, bir model, teşhisinde en önemli olan görüntü bölgelerini vurgulamak için bir ısı haritası kullanabilir veya tahmini sade bir dille açıklamak için büyük bir dil modeli (LLM) kullanabilir.
Bu çalışmada, araştırmacılar, cilt hastalığı teşhisinde uzman olmayanlar ve birincil sağlık hizmeti sağlayıcılarını, farklı açıklanabilir yapay zeka sistemlerinin yardımıyla ve yardımsız olarak test ettiler.
Uzman olmayanların teşhis doğruluğunun arttığını buldular, ancak bu büyük ölçüde yapay zeka sistemine duyulan güvene dayanıyordu. Uzman olmayanlar, LLM tabanlı açıklamalara doğru ya da yanlış olsalar da güvendi ve açıklamaları belirsiz veya genel olduklarında daha ikna edici buldular.
Öte yandan, klinik uzmanlar yanlış yapay zeka yardımlarından etkilenmediler ve yalnızca modelin tahmini verildiğinde, herhangi bir açıklama olmadan en iyi performansı gösterdiler.
“İyi yapay zeka sistemleri bazı sağlık ortamlarında performansı artırabilir, ancak bu, daha fazla hataya yol açabilecek algoritmik güvenle dikkatlice dengelenmelidir. Hem yapay zeka hem de açıklanabilirlik yöntemlerinin insanlarda otomasyon yanlılığını tetikleyebileceğini biliyoruz ve bu sabitleme etkisi, yapay zeka sistemlerini tasarlarken dikkate alınması gereken bir şeydir,” diyor MIT Elektrik Mühendisliği ve Bilgisayar Bilimleri (EECS) Bölümü'nde doçent olan Marzyeh Ghassemi, Tıbbi Mühendislik ve Bilim Enstitüsü üyesi ve Bilgi ve Karar Sistemleri Laboratuvarı ile Abdul Latif Jameel Sağlıkta Makine Öğrenimi Kliniği'nde baş araştırmacı.
“Bu bulgular, hastaların sağlık hizmetlerinde yapay zekaya giderek daha fazla yönelmesiyle önemlidir. Bulgularımız, en az tıbbi bilgiye sahip olanların, açıklanabilir yapay zeka modelleri yanlış bir çıktı verdiğinde en çok yanlış yönlendirilebileceğini gösteriyor,” diyor Stanford Üniversitesi'nde biyomedikal veri bilimi ve dermatoloji doçenti ve yazar ortaklarından Roxana Daneshjou.
Bu sonuçlar, kullanıcıları göz önünde bulundurarak yapay zeka sistemleri inşa etmenin ve modelin aşırı güvenilmesini teşvik etmeyen açıklanabilirlik yöntemleri geliştirmenin önemini vurgulamaktadır, araştırmacılar söylüyor.
“Artık iyi bir yapay zekanın tüm sorunları çözeceğini varsayamayacağımız açık hale geliyor. Yapay zeka sistemini kullanacak olan kullanıcılara dikkat etmemiz gerekiyor, çünkü aynı açıklama bir uzmana yardımcı olabilirken bir acemi için yanıltıcı olabilir. Genellikle yapay zekadan en çok fayda sağlayabilecek kişiler, ondan en çok yanlış yönlendirilebilecek olanlardır, bu nedenle bir öneriyi sunma şeklimiz, doğru olup olmadığı kadar önemlidir,” diyor baş yazar Orson Xu, Columbia Üniversitesi Biyomedikal Bilgi Bilimleri Bölümü'nde yardımcı doçent.
Ghassemi, Xu ve Daneshjou, çalışmada MIT lisansüstü öğrencisi Haoran Zhang, lisans öğrencisi Reina Wang ve Jameel Kliniği'nde araştırma üyesi olan Luis Soenksen PhD ’20 gibi birçok yazarla birlikte yer alıyor. Çalışmanın tanımı bugün Nature Medicine'da yayınlandı.
Açıklamaları Keşfetmek
Birçok FDA onaylı yapay zeka arayüzü, klinik uzmanların tıbbi görüntülerde cilt durumlarını tanımlamalarına yardımcı olmak için kullanılmakta ve erken teşhisi kolaylaştırmak amacıyla kullanılmaktadır. Bu araçlar, görüntüde hastalığın mevcut olup olmadığını tahmin etmenin yanı sıra, genellikle modelin karar verme sürecini açıklayan birkaç yöntemden birini kullanmaktadır.
Aynı zamanda, uzman olmayanlar, kullanıcı istemlerine dayalı olarak cilt hastalıklarını tahmin eden yapay zeka destekli arama motorları kullanarak dijital teşhis yapabilirler. Bu sistemler genellikle modelin tahminini daha basit terimlerle açıklamak için LLM'leri kullanmaktadır.
Araştırmacılar, bu açıklanabilir yapay zeka araçlarının birincil sağlık hizmeti doktorları ve dermatolojik hastalık tespit
