Warum KI voreingenommen ist ^{CEFR B2}

Künstliche-Intelligenz-Werkzeuge verbreiten sich rasch und erreichen viele Menschen; im Artikel wird etwa erwähnt, dass Im April erreichte ChatGPT von OpenAI a billion aktive wöchentliche Nutzer. Gleichzeitig dokumentieren Forschende und Journalistinnen Schäden durch voreingenommene KI. Neue Forschung der University of Texas at Austin geht der Frage nach, warum Bias in Algorithmen entsteht.

Hüseyin Tanriverdi arbeitete zusammen mit John-Patrick Akinyemi und untersuchte eine Auswahl von 363 Algorithmen, die zuvor als voreingenommen identifiziert worden waren. Die Algorithmen stammten aus einem Repository mit dem Namen AI Algorithmic and Automation Incidents and Controversies. Für jeden problematischen Algorithmus suchten die Forschenden einen ähnlichen Algorithmus ohne Kritik. Sie analysierten sowohl technische Aspekte als auch die Organisationen, die die Systeme entwickelten und einsetzten.

Die Studie nennt drei miteinander verbundene Faktoren: fehlende klare Entscheidungsgrundlagen (ground truth), die Vereinfachung der realen Komplexität durch Modelle und unzureichende Einbeziehung verschiedener beteiligter Gruppen. Beispiele machen die Probleme deutlich: die Altersbestimmung eines Knochens auf Röntgenbildern ohne etablierte Methode, die Einordnung von Beiträgen in sozialen Medien als objektive Fakten und ein Fall in Arkansas, wo automatisierte Entscheidungen Hausbesuche ersetzten und Menschen mit Behinderung Hilfe verloren.

• Fehlende ground truth: erhöht das Risiko für subjektive Entscheidungen.
• Reale Komplexität: wichtige Variablen fehlen oft in den Daten.
• Beteiligte: Entwicklung durch zu homogene Gruppen schafft blinde Flecken.

Die Forschung kommt zu dem Schluss, dass zur Verringerung von KI-Bias mehr nötig ist als eine reine Verbesserung der Genauigkeit. Entwickler sollten "Black Boxes" öffnen, reale Komplexität und vielfältige Eingaben berücksichtigen und klare Entscheidungsgrundlagen schaffen. Die Studie erscheint in MIS Quarterly. Quelle: UT Austin.