KI-Werkzeuge sind weit verbreitet, doch Forschende dokumentieren Schäden durch voreingenommene Systeme. Neue Forschung der University of Texas at Austin untersucht die Ursachen für solchen Bias. Hüseyin Tanriverdi und John-Patrick Akinyemi betrachteten eine Auswahl von problematischen Algorithmen und verglichen jeden mit einem ähnlichen, nicht kritisierten Algorithmus. Dabei analysierten sie sowohl die Modelle als auch die Organisationen, die sie einsetzten.
Die Studie identifiziert drei miteinander verbundene Faktoren. Erstens fehlt in manchen Fällen eine klare Entscheidungsgrundlage, etwa wenn Ärzte keine etablierte Methode zur Altersbestimmung eines Knochens haben oder wenn Meinungen in sozialen Medien als Fakten behandelt werden. Zweitens vereinfachen Modelle die Realität und lassen wichtige Variablen weg; ein Beispiel ist, dass automatisierte Entscheidungen Hausbesuche ersetzten und damit Menschen mit Behinderung Hilfe entzogen wurde. Drittens führt die Entwicklung überwiegend durch eine demografische Gruppe zu blinden Flecken; die Einbeziehung verschiedener Beteiligter hilft, Kompromisse zu finden.
Die Forschenden folgern, dass zur Verringerung von Bias mehr nötig ist als höhere Genauigkeit. Modelle sollten reale Komplexität, vielfältige Eingaben und klare Entscheidungsgrundlagen besser berücksichtigen.
Schwierige Wörter
- voreingenommen — mit einem unfairen oder nicht neutralen Urteilvoreingenommene
- Entscheidungsgrundlage — Grund für eine bestimmte Entscheidung
- vereinfachen — etwas einfacher machen als es ist
- Variable — ein Faktor oder eine Messgröße in DatenVariablen
- blinder Fleck — etwas, das übersehen oder nicht beachtet wirdblinden Flecken
- Einbeziehung — das Mitnehmen verschiedener Personen in einen Prozess
- Verringerung — das Wenigerwerden oder die Reduktion von etwas
- Genauigkeit — wie genau oder korrekt etwas ist
Tipp: Fahre über markierte Wörter oder tippe darauf, um kurze Definitionen zu sehen – während du liest oder zuhörst.
Diskussionsfragen
- Welche Folgen kann es haben, wenn Modelle Hausbesuche ersetzen?
- Wie könnte die Einbeziehung verschiedener Beteiligter helfen, blinde Flecken zu vermeiden?
- Gibt es in Ihrem Alltag Entscheidungen ohne klare Entscheidungsgrundlage? Wenn ja, welche?
Verwandte Artikel
KI‑Chatbots beeinflussen politische Meinungen
Eine Studie zeigt, dass kurze, faktische Antworten von KI‑Chatbots die politischen Ansichten der Menschen leicht verändern können. Forschende sehen die Ursache in latenten Verzerrungen großer Sprachmodelle und warnen vor mangelnder Transparenz.
Daten und Technik bei den Olympischen Winterspielen 2026
Die Winterspiele 2026 bringen mehr Daten und Technologie in Training und Berichterstattung. Teams, Forschende und Medien nutzen neue Methoden, damit Athletinnen und Athleten besser trainieren und Zuschauer Leistungen einfacher verstehen.
App enthüllt Einsamkeit junger Menschen in China
Eine kurze App namens „Are You Dead Yet?“ wurde Anfang 2026 im chinesischen App Store sehr beliebt. Sie verlangte Notfallkontakte und Check-ins und löste damit Diskussionen über alleinlebende junge Menschen und die sogenannte Einsamkeitsökonomie aus.
NeuroBridge: KI hilft, autistische Kommunikation zu verstehen
Forscher der Tufts University entwickelten NeuroBridge, ein KI-Werkzeug, das nicht-autistischen Menschen helfen soll, die Kommunikation autistischer Menschen besser zu verstehen. Das Tool zeigt Gesprächsszenarien mit drei Antwortoptionen und erhielt in Tests positives Feedback.