Künstliche-Intelligenz-Werkzeuge verbreiten sich schnell und erreichen viele Menschen. Einige Systeme zeigen Vorurteile, zum Beispiel in der Medizin oder bei Bewerbungen.
Eine Studie an einer Universität untersuchte problematische Algorithmen und verglich sie mit ähnlichen nicht kritisierten Systemen. Die Forschenden nennen drei einfache Gründe: fehlende klare Entscheidungsgrundlagen (wenn es keine sichere richtige Antwort gibt), die Vereinfachung der realen Situation durch Modelle und die geringe Beteiligung unterschiedlicher Gruppen bei der Entwicklung. In einem Beispiel ersetzten automatische Entscheidungen Hausbesuche und das führte zu Problemen für Menschen mit Behinderung.
Die Autorinnen und Autoren sagen, dass allein bessere Genauigkeit nicht ausreicht. Entwickler sollen Systeme so gestalten, dass sie die reale Komplexität besser berücksichtigen.
Schwierige Wörter
- algorithmus — Anleitung für einen Computer oder ein ProgrammAlgorithmen
- vorurteil — negative Meinung über eine Gruppe ohne BeweiseVorurteile
- entscheidungsgrundlage — Informationen oder Regeln für eine EntscheidungEntscheidungsgrundlagen
- vereinfachung — etwas leichter oder weniger kompliziert machen
- beteiligung — Teilnahme von Menschen an einer Arbeit
- hausbesuch — Besuch bei jemandem zu HauseHausbesuche
Tipp: Fahre über markierte Wörter oder tippe darauf, um kurze Definitionen zu sehen – während du liest oder zuhörst.
Diskussionsfragen
- Hast du Erfahrungen mit automatischen Entscheidungen? Was ist passiert?
- Warum ist die Beteiligung unterschiedlicher Gruppen wichtig?
- Was könnte man tun, damit Systeme die reale Komplexität besser berücksichtigen?
Verwandte Artikel
Werkzeug verringert parteiische Verbitterung im X‑Feed
Forscher entwickelten eine Browser‑Erweiterung mit einem großen Sprachmodell, die antidemokratische Beiträge im X‑Feed herunterstuft, ohne Posts zu löschen. Ein Experiment während der Wahl 2024 zeigte eine kleine, aber messbare Verbesserung der Einstellungen.
Direkte Bilder von Novae zeigen komplexe Ausbrüche
Astronominnen und Astronomen machten direkte Aufnahmen von zwei Novae kurz nach ihren Ausbrüchen. Die Bilder und Spektren zeigen mehrere Ausflüsse, kollidierende Ströme und verzögerte Auswürfe, verbunden mit Gammastrahlenmessungen von Fermi.
Wie Braun-Kuhstärlinge den wässrigen Klang erzeugen
Neue Forschung zeigt, wie Kuhstärlinge mit ihrer Syrinx und gezielter Atmungssteuerung einen wässrigen, tropfenähnlichen Klang erzeugen. Stare lernten diese Laute nachzuahmen; die Studie beleuchtet auch Verbindungen zur menschlichen Sprache.
Wie kleine Zellen große Gehirnnetzwerke formen
Eine Studie in Nature Communications verbindet Zell‑ und Molekül‑Daten mit fMRI‑Netzwerken. Forschende zeigen, dass biologische Merkmale auf Zellebene mit großräumigen Gehirnnetzwerken und damit mit Kognition und psychischen Erkrankungen verknüpft sind.