KI-Werkzeuge sind weit verbreitet, doch Forschende dokumentieren Schäden durch voreingenommene Systeme. Neue Forschung der University of Texas at Austin untersucht die Ursachen für solchen Bias. Hüseyin Tanriverdi und John-Patrick Akinyemi betrachteten eine Auswahl von problematischen Algorithmen und verglichen jeden mit einem ähnlichen, nicht kritisierten Algorithmus. Dabei analysierten sie sowohl die Modelle als auch die Organisationen, die sie einsetzten.
Die Studie identifiziert drei miteinander verbundene Faktoren. Erstens fehlt in manchen Fällen eine klare Entscheidungsgrundlage, etwa wenn Ärzte keine etablierte Methode zur Altersbestimmung eines Knochens haben oder wenn Meinungen in sozialen Medien als Fakten behandelt werden. Zweitens vereinfachen Modelle die Realität und lassen wichtige Variablen weg; ein Beispiel ist, dass automatisierte Entscheidungen Hausbesuche ersetzten und damit Menschen mit Behinderung Hilfe entzogen wurde. Drittens führt die Entwicklung überwiegend durch eine demografische Gruppe zu blinden Flecken; die Einbeziehung verschiedener Beteiligter hilft, Kompromisse zu finden.
Die Forschenden folgern, dass zur Verringerung von Bias mehr nötig ist als höhere Genauigkeit. Modelle sollten reale Komplexität, vielfältige Eingaben und klare Entscheidungsgrundlagen besser berücksichtigen.
Schwierige Wörter
- voreingenommen — mit einem unfairen oder nicht neutralen Urteilvoreingenommene
- Entscheidungsgrundlage — Grund für eine bestimmte Entscheidung
- vereinfachen — etwas einfacher machen als es ist
- Variable — ein Faktor oder eine Messgröße in DatenVariablen
- blinder Fleck — etwas, das übersehen oder nicht beachtet wirdblinden Flecken
- Einbeziehung — das Mitnehmen verschiedener Personen in einen Prozess
- Verringerung — das Wenigerwerden oder die Reduktion von etwas
- Genauigkeit — wie genau oder korrekt etwas ist
Tipp: Fahre über markierte Wörter oder tippe darauf, um kurze Definitionen zu sehen – während du liest oder zuhörst.
Diskussionsfragen
- Welche Folgen kann es haben, wenn Modelle Hausbesuche ersetzen?
- Wie könnte die Einbeziehung verschiedener Beteiligter helfen, blinde Flecken zu vermeiden?
- Gibt es in Ihrem Alltag Entscheidungen ohne klare Entscheidungsgrundlage? Wenn ja, welche?
Verwandte Artikel
Weniger Teilen, mehr Nachdenken: Reaktion gegen Fehlinformationen
Forschende der University of Copenhagen schlagen vor, das Teilen in sozialen Medien kurz zu verzögern und ein kurzes Lernfenster einzuführen. Modelltests zeigen, dass Verzögerung plus Lernen die Qualität geteilter Beiträge verbessern kann.
Ungleichheit macht Pandemien schlimmer, warnt Matthew M. Kavanagh
Matthew M. Kavanagh, Direktor des Georgetown University Center for Global Health Policy and Politics, warnt, dass Ungleichheit Pandemien verschlimmert. Er fordert Schuldenaussetzung, gemeinsame Produktion und stärkere Sozialpolitik.
Soziale Medien liefern Frühwarnsignale für Bevölkerungsbewegungen
Forscher zeigen, dass die Analyse von Beiträgen in sozialen Medien frühe Warnsignale für Bevölkerungsbewegungen in Krisen liefern kann. Die Studie in EPJ Data Science vergleicht Methoden und drei Fallstudien in verschiedenen Ländern.
Soziale Medien: Nutzen, Risiken und neue KI-Gefahren
Soziale Medien verbinden Menschen, helfen marginalisierten Gruppen, verbreiten aber auch Hass, Lügen und reale Schäden. Entscheidungen von Firmen, Algorithmen und generative KI verändern Sichtbarkeit, Vertrauen und Risiko in der Öffentlichkeit.
Blutviskosität: Neue Echtzeit‑Messung ohne Blutentnahme
Forscher der University of Missouri entwickelten eine nichtinvasive Technik mit Ultraschall und Algorithmen, die die Blutviskosität in Echtzeit misst. Die Methode könnte bei Erkrankungen wie Sichelzellenanämie helfen und wurde im Journal of Dynamic Systems, Measurement, and Control veröffentlicht.
Echtzeit-Luftüberwachung in Südafrika mit kostengünstigen Sensoren
Wissenschaftler passten Methoden aus der Teilchenphysik an und bauten das System AI_r mit Sensoren und KI für Echtzeit-Luftmessung. Das Projekt will 500 Sensoren im Sedibeng-Distrikt installieren und erhält internationale Unterstützung.