KI-Werkzeuge sind weit verbreitet, doch Forschende dokumentieren Schäden durch voreingenommene Systeme. Neue Forschung der University of Texas at Austin untersucht die Ursachen für solchen Bias. Hüseyin Tanriverdi und John-Patrick Akinyemi betrachteten eine Auswahl von problematischen Algorithmen und verglichen jeden mit einem ähnlichen, nicht kritisierten Algorithmus. Dabei analysierten sie sowohl die Modelle als auch die Organisationen, die sie einsetzten.
Die Studie identifiziert drei miteinander verbundene Faktoren. Erstens fehlt in manchen Fällen eine klare Entscheidungsgrundlage, etwa wenn Ärzte keine etablierte Methode zur Altersbestimmung eines Knochens haben oder wenn Meinungen in sozialen Medien als Fakten behandelt werden. Zweitens vereinfachen Modelle die Realität und lassen wichtige Variablen weg; ein Beispiel ist, dass automatisierte Entscheidungen Hausbesuche ersetzten und damit Menschen mit Behinderung Hilfe entzogen wurde. Drittens führt die Entwicklung überwiegend durch eine demografische Gruppe zu blinden Flecken; die Einbeziehung verschiedener Beteiligter hilft, Kompromisse zu finden.
Die Forschenden folgern, dass zur Verringerung von Bias mehr nötig ist als höhere Genauigkeit. Modelle sollten reale Komplexität, vielfältige Eingaben und klare Entscheidungsgrundlagen besser berücksichtigen.
Schwierige Wörter
- voreingenommen — mit einem unfairen oder nicht neutralen Urteilvoreingenommene
- Entscheidungsgrundlage — Grund für eine bestimmte Entscheidung
- vereinfachen — etwas einfacher machen als es ist
- Variable — ein Faktor oder eine Messgröße in DatenVariablen
- blinder Fleck — etwas, das übersehen oder nicht beachtet wirdblinden Flecken
- Einbeziehung — das Mitnehmen verschiedener Personen in einen Prozess
- Verringerung — das Wenigerwerden oder die Reduktion von etwas
- Genauigkeit — wie genau oder korrekt etwas ist
Tipp: Fahre über markierte Wörter oder tippe darauf, um kurze Definitionen zu sehen – während du liest oder zuhörst.
Diskussionsfragen
- Welche Folgen kann es haben, wenn Modelle Hausbesuche ersetzen?
- Wie könnte die Einbeziehung verschiedener Beteiligter helfen, blinde Flecken zu vermeiden?
- Gibt es in Ihrem Alltag Entscheidungen ohne klare Entscheidungsgrundlage? Wenn ja, welche?
Verwandte Artikel
Weniger Luftverschmutzung in Ostasien beschleunigt Erwärmung
Eine Studie verbindet den Rückgang von Aerosolen in Ostasien, vor allem China, mit einer beschleunigten Erwärmung der Erdoberfläche seit etwa 2010. Berichte zeigen regionale Folgen und rufen nach Emissionsminderungen und Unterstützung.
Nanotechnologie für frühere Krankheitsdiagnosen
Bei der 75. Lindauer Tagung stellte die südafrikanische Forscherin Jaymi Leigh January Biosensoren vor, die mit Nanotechnologie sehr kleine Krankheits-Biomarker erkennen. Ziel sind erschwingliche, tragbare Tests und frühere Behandlungen.
KI-Test sagt Rückfallrisiko bei Brustkrebs voraus
Forscherinnen und Forscher beschreiben in Nature Communications einen Test auf Basis künstlicher Intelligenz (AI). Der Test kombiniert klinische Daten und Pathologie-Schnitte, ist schneller und günstiger als genomische Tests und braucht noch klinische Studien.
Holzratten sind gegen Klapperschlangen‑Gift resistent
Neue Forschung zeigt, dass Holzratten durch eine Genveränderung gegen Klapperschlangen‑Gift geschützt sind. Forscher fanden viele Kopien des Gens SERPINA3, deren Proteine Teile des Gifts binden und dessen Wirkung blockieren können.