Yapay zeka hızla yayılıyor ve Nisan ayında OpenAI'nin ChatGPT'si haftalık bir milyar aktif kullanıcıya ulaştı. Ancak raporlar, önyargılı sistemlerin demografik farklılıklara göre hastalara farklı tıbbi tedaviler uygulanmasına ve işe alım araçlarının kadın ve Siyah adaylara karşı ayrımcılık yapmasına yol açtığını gösteriyor.
Teksas Üniversitesi Austin'den Hüseyin Tanriverdi ile IROM doktora adayı John-Patrick Akinyemi, önyargılı olarak tanımlanmış 363 algoritmayı inceledi. Bu algoritmalar AI Algorithmic and Automation Incidents and Controversies adlı depozitten geldi. Araştırmacılar her problemli algoritmayı benzer fakat eleştirilmemiş bir algoritma ile karşılaştırdı ve ilgili kurumları inceledi.
Çalışma üç ana faktör belirledi: yerleşik gerçeklik eksikliği, gerçek dünyanın karmaşıklığının modelde dışlanması ve paydaş katılımının yetersizliği. Sonuç olarak, sadece model doğruluğunu artırmak yetmiyor; geliştiricilerin sistemleri daha şeffaf ve dünyayı daha iyi temsil eder şekilde tasarlaması gerekiyor.
Zor kelimeler
- önyargılı — bir kişiye veya gruba karşı adil olmayan tutum
- algoritma — belirli görevleri yapan adım adım kurallar dizisialgoritmayı, algoritmalar
- demografik — bir topluluğun yaş, cinsiyet ve benzeri özellikleri
- ayrımcılık — kişilere adil olmayan farklı davranma durumu
- paydaş — bir proje veya kurumla ilgili kişi veya grup
- eksiklik — bir şeyin olmama veya yeterli olmama durumueksikliği
- şeffaf — bilginin veya işlemlerin açık ve anlaşılır olması
İpucu: Türkçe metni okurken veya ses kaydını dinlerken, vurgulanan kelimelerin üzerine gel, odaklan ya da dokun; anında kısa tanımlar görünür.
Tartışma soruları
- Sizce algoritmalarda önyargı nasıl ortaya çıkabilir? Örnek verin.
- Bir işe alım aracında ayrımcılık görürseniz ne yapardınız? Kısa anlatın.
- Geliştiricilerin sistemleri daha şeffaf ve dünyayı temsil eder şekilde yapması ne anlama gelir sizce?
İlgili makaleler
Güney Afrikalı bilim insanı Lindau'da yeni biyosensörlerini sundu
Jaymi Leigh January, 75. Lindau toplantısında nanoteknolojiyle geliştirilen elektro-kimyasal biyosensör çalışmalarını anlattı. Araştırma TB, kanser ve uzun dönem COVID için çok düşük düzeyde biyobelirteçleri saptamayı hedefliyor.
UNESCO: Eğitim verilerinde büyük boşluklar
UNESCO'nun raporu, düşük gelirli ülkelerde eğitim verilerinde önemli boşluklar olduğunu ve bu nedenle öğrenme sonuçlarını tam olarak takip etmenin zor olduğunu gösteriyor. Rapor bazı bölgelerde kızların eğitimde geride kaldığını da vurguluyor.
Sarımsağın böceklerde çiftleşmeyi engelleyen bileşiği
Araştırmacılar sarımsakta bulunan doğal bir bileşiğin sivrisinekler ve bazı sinek türlerinde çiftleşmeyi ve yumurta bırakmayı engellediğini keşfetti. Bulgular Yale'deki bir laboratuvarda bulundu ve çevre dostu zararlı kontrolüne işaret edebilir.