Yapay zeka hızla yayılıyor ve Nisan ayında OpenAI'nin ChatGPT'si haftalık bir milyar aktif kullanıcıya ulaştı. Ancak raporlar, önyargılı sistemlerin demografik farklılıklara göre hastalara farklı tıbbi tedaviler uygulanmasına ve işe alım araçlarının kadın ve Siyah adaylara karşı ayrımcılık yapmasına yol açtığını gösteriyor.
Teksas Üniversitesi Austin'den Hüseyin Tanriverdi ile IROM doktora adayı John-Patrick Akinyemi, önyargılı olarak tanımlanmış 363 algoritmayı inceledi. Bu algoritmalar AI Algorithmic and Automation Incidents and Controversies adlı depozitten geldi. Araştırmacılar her problemli algoritmayı benzer fakat eleştirilmemiş bir algoritma ile karşılaştırdı ve ilgili kurumları inceledi.
Çalışma üç ana faktör belirledi: yerleşik gerçeklik eksikliği, gerçek dünyanın karmaşıklığının modelde dışlanması ve paydaş katılımının yetersizliği. Sonuç olarak, sadece model doğruluğunu artırmak yetmiyor; geliştiricilerin sistemleri daha şeffaf ve dünyayı daha iyi temsil eder şekilde tasarlaması gerekiyor.
Zor kelimeler
- önyargılı — bir kişiye veya gruba karşı adil olmayan tutum
- algoritma — belirli görevleri yapan adım adım kurallar dizisialgoritmayı, algoritmalar
- demografik — bir topluluğun yaş, cinsiyet ve benzeri özellikleri
- ayrımcılık — kişilere adil olmayan farklı davranma durumu
- paydaş — bir proje veya kurumla ilgili kişi veya grup
- eksiklik — bir şeyin olmama veya yeterli olmama durumueksikliği
- şeffaf — bilginin veya işlemlerin açık ve anlaşılır olması
İpucu: Türkçe metni okurken veya ses kaydını dinlerken, vurgulanan kelimelerin üzerine gel, odaklan ya da dokun; anında kısa tanımlar görünür.
Tartışma soruları
- Sizce algoritmalarda önyargı nasıl ortaya çıkabilir? Örnek verin.
- Bir işe alım aracında ayrımcılık görürseniz ne yapardınız? Kısa anlatın.
- Geliştiricilerin sistemleri daha şeffaf ve dünyayı temsil eder şekilde yapması ne anlama gelir sizce?
İlgili makaleler
Saç, Günler ve Aylar Boyunca Kimyasal Maruziyeti Kaydediyor
Teksas Üniversitesi Austin araştırması, saçın ısıtılınca gömülü kimyasalları bırakarak günler, haftalar ve aylar boyunca maruziyet bilgisi verdiğini gösteriyor. Yöntem, iç mekân kaynaklı maruziyeti izlemek için yeni bir yol sunuyor.
Bilim İnsanları İnfluenza Virüsünün Hücreye Girişini Canlı İzledi
İsviçre ve Japonya ekipleri, canlı insan hücrelerinde influenza virüsünün nasıl girdiğini yeni bir mikroskopi yöntemiyle yüksek çözünürlükte kaydetti. Yöntem canlı hücreleri yok etmiyor ve antiviral araştırmalara yol açıyor.
Yapay zeka Sahra Altı Afrika’da sağlık hizmetlerini değiştiriyor
Sahra Altı Afrika’da yapay zeka pilotları temel sağlık hizmetlerinde tanı ve lojistiği hızlandırıyor. Kenya, Ghana ve Ruanda örneklerinde erken sonuçlar daha hızlı teşhis ve azalan komplikasyonlar gösteriyor; düzenleme ve veri güvenliği hâlâ önemli bir sorun.
Araştırmacılar meme hücrelerini destekleyen sentetik jel geliştirdi
UC Santa Barbara'da bir ekip, meme epitel hücrelerini destekleyen alg bazlı bir sentetik membran geliştirdi. Araştırma Science Advances dergisinde yayımlandı ve jelin mekanik ile biyokimyasal özellikleri değiştirilerek hücre davranışının yönlendirilebildiğini gösterdi.
Africa Wiki Women: Afrikalı kadınların görünürlüğünü artırmak
Africa Wiki Women, Afrikalı kadınların Vikipedi ve diğer Wikimedia platformlarındaki görünürlüğünü artırmak için eğitim, katkı kampanyaları ve mentorluk yürütür. Girişim üç kurucu tarafından başlatıldı ve kıta genelinde yüzlerce kadına eğitim verdi.