KI-Werkzeuge sind weit verbreitet, doch Forschende dokumentieren Schäden durch voreingenommene Systeme. Neue Forschung der University of Texas at Austin untersucht die Ursachen für solchen Bias. Hüseyin Tanriverdi und John-Patrick Akinyemi betrachteten eine Auswahl von problematischen Algorithmen und verglichen jeden mit einem ähnlichen, nicht kritisierten Algorithmus. Dabei analysierten sie sowohl die Modelle als auch die Organisationen, die sie einsetzten.
Die Studie identifiziert drei miteinander verbundene Faktoren. Erstens fehlt in manchen Fällen eine klare Entscheidungsgrundlage, etwa wenn Ärzte keine etablierte Methode zur Altersbestimmung eines Knochens haben oder wenn Meinungen in sozialen Medien als Fakten behandelt werden. Zweitens vereinfachen Modelle die Realität und lassen wichtige Variablen weg; ein Beispiel ist, dass automatisierte Entscheidungen Hausbesuche ersetzten und damit Menschen mit Behinderung Hilfe entzogen wurde. Drittens führt die Entwicklung überwiegend durch eine demografische Gruppe zu blinden Flecken; die Einbeziehung verschiedener Beteiligter hilft, Kompromisse zu finden.
Die Forschenden folgern, dass zur Verringerung von Bias mehr nötig ist als höhere Genauigkeit. Modelle sollten reale Komplexität, vielfältige Eingaben und klare Entscheidungsgrundlagen besser berücksichtigen.
Schwierige Wörter
- voreingenommen — mit einem unfairen oder nicht neutralen Urteilvoreingenommene
- Entscheidungsgrundlage — Grund für eine bestimmte Entscheidung
- vereinfachen — etwas einfacher machen als es ist
- Variable — ein Faktor oder eine Messgröße in DatenVariablen
- blinder Fleck — etwas, das übersehen oder nicht beachtet wirdblinden Flecken
- Einbeziehung — das Mitnehmen verschiedener Personen in einen Prozess
- Verringerung — das Wenigerwerden oder die Reduktion von etwas
- Genauigkeit — wie genau oder korrekt etwas ist
Tipp: Fahre über markierte Wörter oder tippe darauf, um kurze Definitionen zu sehen – während du liest oder zuhörst.
Diskussionsfragen
- Welche Folgen kann es haben, wenn Modelle Hausbesuche ersetzen?
- Wie könnte die Einbeziehung verschiedener Beteiligter helfen, blinde Flecken zu vermeiden?
- Gibt es in Ihrem Alltag Entscheidungen ohne klare Entscheidungsgrundlage? Wenn ja, welche?
Verwandte Artikel
Wie Beziehungen Erinnerungen an die Kindheit verändern
Eine Studie mit fast 1.000 Heranwachsenden zeigt, dass Erinnerungen an belastende Erlebnisse sich mit der Qualität aktueller Beziehungen verändern, besonders mit dem Verhältnis zu den Eltern. Die Forscher empfehlen mehrfache Erfassung statt einer einzigen Abfrage.
Ana María Cetto fordert offene Wissenschaft
Die mexikanische Physikerin Ana María Cetto wurde zur Präsidentin des UNESCO-Lenkungsausschusses für Offene Wissenschaft ernannt. Sie warnt vor der Privatisierung von Forschung und fördert regionale Plattformen wie Latindex, um Wissen öffentlich zugänglich zu halten.
KI macht Handprothesen natürlicher
Forscher der University of Utah rüsteten eine Handprothese mit Näherungs- und Drucksensoren und künstlicher Intelligenz aus. Teilnehmende mit Amputation zwischen Ellenbogen und Handgelenk griffen sicherer, präziser und mit weniger geistigem Aufwand.
Touchscreens im Auto erhöhen visuelle Belastung
Eine Studie im Fahrsimulator zeigt: Touchscreens lassen Autofahrer öfter von der Spur abkommen und machen die Bedienung langsamer. Forschende messen Blick, Handbewegungen und andere Signale und empfehlen Sensoren zur Überwachung der Aufmerksamkeit.
Ägyptische Systeme halten Solarmodule vom Wüstensand frei
Forscher aus Kairo entwickelten zwei Lösungen, um Sand von Solarmodulen zu entfernen: ein vibrationsbasiertes System und eine windgetriebene Halterung. Feldversuche zeigen deutlich geringere Leistungsverluste bei den neuen Aufbauten.