Yapay zeka hızla yayılıyor ve Nisan ayında OpenAI'nin ChatGPT'si haftalık bir milyar aktif kullanıcıya ulaştı. Ancak raporlar, önyargılı sistemlerin demografik farklılıklara göre hastalara farklı tıbbi tedaviler uygulanmasına ve işe alım araçlarının kadın ve Siyah adaylara karşı ayrımcılık yapmasına yol açtığını gösteriyor.
Teksas Üniversitesi Austin'den Hüseyin Tanriverdi ile IROM doktora adayı John-Patrick Akinyemi, önyargılı olarak tanımlanmış 363 algoritmayı inceledi. Bu algoritmalar AI Algorithmic and Automation Incidents and Controversies adlı depozitten geldi. Araştırmacılar her problemli algoritmayı benzer fakat eleştirilmemiş bir algoritma ile karşılaştırdı ve ilgili kurumları inceledi.
Çalışma üç ana faktör belirledi: yerleşik gerçeklik eksikliği, gerçek dünyanın karmaşıklığının modelde dışlanması ve paydaş katılımının yetersizliği. Sonuç olarak, sadece model doğruluğunu artırmak yetmiyor; geliştiricilerin sistemleri daha şeffaf ve dünyayı daha iyi temsil eder şekilde tasarlaması gerekiyor.
Zor kelimeler
- önyargılı — bir kişiye veya gruba karşı adil olmayan tutum
- algoritma — belirli görevleri yapan adım adım kurallar dizisialgoritmayı, algoritmalar
- demografik — bir topluluğun yaş, cinsiyet ve benzeri özellikleri
- ayrımcılık — kişilere adil olmayan farklı davranma durumu
- paydaş — bir proje veya kurumla ilgili kişi veya grup
- eksiklik — bir şeyin olmama veya yeterli olmama durumueksikliği
- şeffaf — bilginin veya işlemlerin açık ve anlaşılır olması
İpucu: Türkçe metni okurken veya ses kaydını dinlerken, vurgulanan kelimelerin üzerine gel, odaklan ya da dokun; anında kısa tanımlar görünür.
Tartışma soruları
- Sizce algoritmalarda önyargı nasıl ortaya çıkabilir? Örnek verin.
- Bir işe alım aracında ayrımcılık görürseniz ne yapardınız? Kısa anlatın.
- Geliştiricilerin sistemleri daha şeffaf ve dünyayı temsil eder şekilde yapması ne anlama gelir sizce?
İlgili makaleler
İki novanın doğrudan görüntüleri yeni detaylar gösteriyor
Gözlemciler, patlamalarından günler sonra iki nova yıldızının doğrudan görüntülerini elde etti. Görüntüler birden fazla gaz akımı ve gecikmeli atılma gösteriyor; bu bulgular gama ışınlarıyla ilişkili şokları anlamayı sağlıyor.
