Künstliche-Intelligenz-Werkzeuge verbreiten sich schnell und erreichen viele Menschen. Einige Systeme zeigen Vorurteile, zum Beispiel in der Medizin oder bei Bewerbungen.
Eine Studie an einer Universität untersuchte problematische Algorithmen und verglich sie mit ähnlichen nicht kritisierten Systemen. Die Forschenden nennen drei einfache Gründe: fehlende klare Entscheidungsgrundlagen (wenn es keine sichere richtige Antwort gibt), die Vereinfachung der realen Situation durch Modelle und die geringe Beteiligung unterschiedlicher Gruppen bei der Entwicklung. In einem Beispiel ersetzten automatische Entscheidungen Hausbesuche und das führte zu Problemen für Menschen mit Behinderung.
Die Autorinnen und Autoren sagen, dass allein bessere Genauigkeit nicht ausreicht. Entwickler sollen Systeme so gestalten, dass sie die reale Komplexität besser berücksichtigen.
Schwierige Wörter
- algorithmus — Anleitung für einen Computer oder ein ProgrammAlgorithmen
- vorurteil — negative Meinung über eine Gruppe ohne BeweiseVorurteile
- entscheidungsgrundlage — Informationen oder Regeln für eine EntscheidungEntscheidungsgrundlagen
- vereinfachung — etwas leichter oder weniger kompliziert machen
- beteiligung — Teilnahme von Menschen an einer Arbeit
- hausbesuch — Besuch bei jemandem zu HauseHausbesuche
Tipp: Fahre über markierte Wörter oder tippe darauf, um kurze Definitionen zu sehen – während du liest oder zuhörst.
Diskussionsfragen
- Hast du Erfahrungen mit automatischen Entscheidungen? Was ist passiert?
- Warum ist die Beteiligung unterschiedlicher Gruppen wichtig?
- Was könnte man tun, damit Systeme die reale Komplexität besser berücksichtigen?
Verwandte Artikel
Direkte Bilder von Novae zeigen komplexe Ausbrüche
Astronominnen und Astronomen machten direkte Aufnahmen von zwei Novae kurz nach ihren Ausbrüchen. Die Bilder und Spektren zeigen mehrere Ausflüsse, kollidierende Ströme und verzögerte Auswürfe, verbunden mit Gammastrahlenmessungen von Fermi.
Afrikanische Schweinepest auf den Philippinen: Tests und Impfstoff
Die Afrikanische Schweinepest bedroht Schweinehaltung und Ernährungssicherheit auf den Philippinen. Regierung und Partner stellen neue Diagnose‑Werkzeuge vor, doch über einen aus Vietnam importierten Impfstoff gibt es Streit und Sicherheitsbedenken.
Jungmantarochen schaffen mobile Lebensräume vor Südflorida
Junge karibische Mantarochen tragen Gruppen anderer Fische und bilden so kleine, mobile Lebensräume vor der Küste. Forschende untersuchten Videoaufnahmen und warnen, dass Bootsverkehr und Freizeitfischerei diese Tiere gefährden können.
