KI-Werkzeuge sind weit verbreitet, doch Forschende dokumentieren Schäden durch voreingenommene Systeme. Neue Forschung der University of Texas at Austin untersucht die Ursachen für solchen Bias. Hüseyin Tanriverdi und John-Patrick Akinyemi betrachteten eine Auswahl von problematischen Algorithmen und verglichen jeden mit einem ähnlichen, nicht kritisierten Algorithmus. Dabei analysierten sie sowohl die Modelle als auch die Organisationen, die sie einsetzten.
Die Studie identifiziert drei miteinander verbundene Faktoren. Erstens fehlt in manchen Fällen eine klare Entscheidungsgrundlage, etwa wenn Ärzte keine etablierte Methode zur Altersbestimmung eines Knochens haben oder wenn Meinungen in sozialen Medien als Fakten behandelt werden. Zweitens vereinfachen Modelle die Realität und lassen wichtige Variablen weg; ein Beispiel ist, dass automatisierte Entscheidungen Hausbesuche ersetzten und damit Menschen mit Behinderung Hilfe entzogen wurde. Drittens führt die Entwicklung überwiegend durch eine demografische Gruppe zu blinden Flecken; die Einbeziehung verschiedener Beteiligter hilft, Kompromisse zu finden.
Die Forschenden folgern, dass zur Verringerung von Bias mehr nötig ist als höhere Genauigkeit. Modelle sollten reale Komplexität, vielfältige Eingaben und klare Entscheidungsgrundlagen besser berücksichtigen.
Schwierige Wörter
- voreingenommen — mit einem unfairen oder nicht neutralen Urteilvoreingenommene
- Entscheidungsgrundlage — Grund für eine bestimmte Entscheidung
- vereinfachen — etwas einfacher machen als es ist
- Variable — ein Faktor oder eine Messgröße in DatenVariablen
- blinder Fleck — etwas, das übersehen oder nicht beachtet wirdblinden Flecken
- Einbeziehung — das Mitnehmen verschiedener Personen in einen Prozess
- Verringerung — das Wenigerwerden oder die Reduktion von etwas
- Genauigkeit — wie genau oder korrekt etwas ist
Tipp: Fahre über markierte Wörter oder tippe darauf, um kurze Definitionen zu sehen – während du liest oder zuhörst.
Diskussionsfragen
- Welche Folgen kann es haben, wenn Modelle Hausbesuche ersetzen?
- Wie könnte die Einbeziehung verschiedener Beteiligter helfen, blinde Flecken zu vermeiden?
- Gibt es in Ihrem Alltag Entscheidungen ohne klare Entscheidungsgrundlage? Wenn ja, welche?
Verwandte Artikel
Chinesische Elektroautos verlagern ihren Fokus nach Afrika
Chinesische Autohersteller expandierten ins Ausland, doch hohe Zölle in den USA und Handelskontrollen in der EU schränken den Zugang ein. Viele Firmen und afrikanische Regierungen bauen nun Produktion, Händlernetz und Infrastruktur in Afrika aus.
Alternatives Spleißen hilft, unterschiedliche Lebensdauern zu erklären
Eine Studie in Nature Communications vergleicht alternatives Spleißen in 26 Säugetierarten (2.2–37 Jahre) in sechs Geweben. Das Gehirn zeigt besonders viele lebensdauer‑verknüpfte Spleißereignisse, die von RNA‑bindenden Proteinen gesteuert werden.
Tragbares Gerät erkennt frühe Gebrechlichkeit
Forscher der University of Arizona entwickelten eine tragbare Manschette, die frühe Anzeichen von Gebrechlichkeit bei älteren Menschen erkennt. Die Technologie analysiert Bewegungen direkt auf dem Gerät und sendet nur Ergebnisse zur Fernüberwachung.
Blutviskosität: Neue Echtzeit‑Messung ohne Blutentnahme
Forscher der University of Missouri entwickelten eine nichtinvasive Technik mit Ultraschall und Algorithmen, die die Blutviskosität in Echtzeit misst. Die Methode könnte bei Erkrankungen wie Sichelzellenanämie helfen und wurde im Journal of Dynamic Systems, Measurement, and Control veröffentlicht.