Yapay zeka hızla yayılıyor ve Nisan ayında OpenAI'nin ChatGPT'si haftalık bir milyar aktif kullanıcıya ulaştı. Ancak raporlar, önyargılı sistemlerin demografik farklılıklara göre hastalara farklı tıbbi tedaviler uygulanmasına ve işe alım araçlarının kadın ve Siyah adaylara karşı ayrımcılık yapmasına yol açtığını gösteriyor.
Teksas Üniversitesi Austin'den Hüseyin Tanriverdi ile IROM doktora adayı John-Patrick Akinyemi, önyargılı olarak tanımlanmış 363 algoritmayı inceledi. Bu algoritmalar AI Algorithmic and Automation Incidents and Controversies adlı depozitten geldi. Araştırmacılar her problemli algoritmayı benzer fakat eleştirilmemiş bir algoritma ile karşılaştırdı ve ilgili kurumları inceledi.
Çalışma üç ana faktör belirledi: yerleşik gerçeklik eksikliği, gerçek dünyanın karmaşıklığının modelde dışlanması ve paydaş katılımının yetersizliği. Sonuç olarak, sadece model doğruluğunu artırmak yetmiyor; geliştiricilerin sistemleri daha şeffaf ve dünyayı daha iyi temsil eder şekilde tasarlaması gerekiyor.
Zor kelimeler
- önyargılı — bir kişiye veya gruba karşı adil olmayan tutum
- algoritma — belirli görevleri yapan adım adım kurallar dizisialgoritmayı, algoritmalar
- demografik — bir topluluğun yaş, cinsiyet ve benzeri özellikleri
- ayrımcılık — kişilere adil olmayan farklı davranma durumu
- paydaş — bir proje veya kurumla ilgili kişi veya grup
- eksiklik — bir şeyin olmama veya yeterli olmama durumueksikliği
- şeffaf — bilginin veya işlemlerin açık ve anlaşılır olması
İpucu: Türkçe metni okurken veya ses kaydını dinlerken, vurgulanan kelimelerin üzerine gel, odaklan ya da dokun; anında kısa tanımlar görünür.
Tartışma soruları
- Sizce algoritmalarda önyargı nasıl ortaya çıkabilir? Örnek verin.
- Bir işe alım aracında ayrımcılık görürseniz ne yapardınız? Kısa anlatın.
- Geliştiricilerin sistemleri daha şeffaf ve dünyayı temsil eder şekilde yapması ne anlama gelir sizce?
İlgili makaleler
Missouri'de CanvasDx ile otizm tanısında hız denemesi
Missouri'de otizm değerlendirmelerinde uzun bekleme süreleri sorunu var. Araştırmacılar FDA onaylı CanvasDx cihazını ECHO Autism ile birlikte test etti; cihaz bazı vakalarda belirleyici sonuç verdi ve yerel bakım erken tanı sağladı.
Doğu Asya'daki hava kirliliği azalması ısınmayı hızlandırmış olabilir
Yeni bir çalışma, Doğu Asya'da özellikle Çin'de hava kirliliği azaldığı için 2010'dan bu yana küresel yüzey ısınmasının hızlanmasına muhtemel katkı olduğunu gösteriyor. Yazarlar bölgesel etkilerin zaten görüldüğünü belirtiyor.
