Arjantin foku ile çalışın “Denetimsiz önyargı keşfi: referans ek açıklamaları olmadan tıbbi görüntü analizi için makine öğrenimi modellerinde algoritmik adalet sorunlarını tahmin etme”için seçildi Kapsayıcılık Araştırması için Google Ödülü (Google AIR)şirket tarafından ortak fayda üzerinde olumlu bir etkiye sahip çalışmalar yapan araştırmacılara verilen uluslararası bir tanınma.
Enzo Ferrante, Universidad del Litoral Sinyaller, Sistemler ve Hesaplamalı Zeka Araştırma Enstitüsü’nde (sinc(i)) Conicet araştırmacısı, amacı teşhis görüntülerindeki Yapay Zeka (AI) yanlılıklarının sorunlarını tespit etmek ve önceden tahmin etmek ve böylece tıbbi bir teşhiste hata payını mümkün olduğunca azaltmak olan bu araştırmaya liderlik ediyor.
Aslen Buenos Aires eyaleti Tandil’den sistem mühendisi olarak mezun olduğu Ferrante, daha sonra Fransa ve İngiltere’de uzmanlaştı ve çalışmaları büyük katkı ve uluslararası değişim sağladı.
Télam-Confiar ile yaptığı bir röportajda, bugün ekibinin Google tarafından ayırt edilmesine ve finanse edilmesine yol açan kariyerinin başlangıcını anlattı.
“Her zaman nihai kararı veren radyologlara ve doktorlara yardımcı olmak için görüntülü teşhis için yapay zeka sisteminin geliştirilmesi için birkaç yıldır çalışıyoruz. Bu yardım süreci çeşitli biçimler alır. Örneğin tıbbi bir görüntüden, kullandığımız teknoloji olan sinir ağları aracılığıyla bir patoloji olup olmadığı tespit edilebiliyor. Ya da röntgen görüntüsü ile kişinin zatürree olup olmadığına bakılır” dedi.
“Ayrıca – dedi – beynin manyetik rezonans görüntülemesiyle ilgili her şeyi, bir tümörün yerini belirlemek ve onu ölçebilmek için yapıyoruz. Diyelim ki, tıbbi görüntülerin analizi için yapay zeka ile ilgili tüm çizgi bu. Doktoramdan beri çalıştığım yer, bunu Paris’te yaptım”, diye açıkladı Ferrante.
Ve ekledi: “Google’ın bu çağrı aracılığıyla bizi finanse ettiği bu özel projede amaç, bu önyargıların ortaya çıkışını tahmin edebilmektir. Yani sistemin yanlı olup olmadığını ancak sistem kullanılmaya başlanmadan değerlendirmeye çalışın” dedi.
Dönem “önyargılı” -bu bağlamda- bir özellik sunan AI modellerini ifade eder. hasta demografisine dayalı farklı performans.
Sağlık verilerini analiz etmek için yapay zeka söz konusu olduğunda, bilgisayar destekli teşhis gibi tıbbi görüntü analizi görevleri verildiğinde konu büyük önem taşır.
Projeyi yürütmek için hangi çalışmayı dikkate aldıkları sorulduğunda, “Çalıştığımız görüntülerin türüne gelince, esas olarak röntgen görüntülerine bakıyoruz, bu durumda, gövdenin görüntülerine bakıyoruz. Bu tür bir önyargının var olabileceğini göstererek başladığımız görüntüler. Zatürre, pnömotoraks, kardiyomegali gibi tanıların olduğu göğüs kafesinin röntgen görüntüleridir, o görüntüye göre farklı teşhisler konulabilir.
“Genel olarak, diğer bazı üniversiteler tarafından oluşturulan ve mevcut olan kamuya açık veritabanları ile çalışıyoruz. Örneğin, üzerinde çalıştıklarımızdan biri Stanford tarafından, diğeri ise Amerika Birleşik Devletleri’ndeki NIH tarafından birkaç farklı yerde oluşturuldu. Arjantin’de, özellikle bu projede, Buenos Aires İtalyan Hastanesi ile bazı işbirliklerimiz var. Bu yüzden onlarla, oradan bazı radyologlarla çalışıyoruz” dedi.
Kilit sorulardan biri, bu hata payını nasıl azaltacaklarını belirleyip belirleyemedikleridir. Bu bağlamda araştırmacı, “önyargı azaltma teknikleri denen ve genellikle kullanılan bazı yöntemler olduğunu” belirtti.
“Bazılarının veritabanlarını yeniden dengelemekle ilgisi var. Bunun için ilk şey, eğitmek için kullandığımız veritabanlarında, örneğin modelin kadınlarda erkeklerden daha kötü performans göstermesi gibi bir önyargı olup olmadığını belirlemek. , bu bilgilerle veri tabanına gidin ve bakın, kadınlar gerçekten iyi temsil ediliyor mu?” diye anlattı.
Ve şöyle devam etti: “Veri düzeyinde çalışmak her zaman soruna saldırmanın en kolay yollarından biridir. Ve sonra, metodolojik düzeyde geliştirdiğimiz şeyler, makine öğrenimi sürecini gerçekleştirdikleri yerde yeni algoritmalar düşünmektir. “Modeller, bir şekilde, modelin farklı gruplarda farklı performans göstermemesini sağlayan bazı kısıtlamalardan etkileniyor. Eğitim sırasında bazı şeyleri değiştirmek mümkün.”
Proje, Conicet’in, Ulusal Sahil Üniversitesi Mühendislik ve Su Bilimleri Fakültesi’nin ve Araştırma, Teknolojik Gelişme ve İnovasyonu Teşvik Ulusal Ajansı’nın finansman ve desteğine sahiptir.
