Künstliche-Intelligenz-Werkzeuge verbreiten sich schnell und erreichen viele Menschen. Einige Systeme zeigen Vorurteile, zum Beispiel in der Medizin oder bei Bewerbungen.
Eine Studie an einer Universität untersuchte problematische Algorithmen und verglich sie mit ähnlichen nicht kritisierten Systemen. Die Forschenden nennen drei einfache Gründe: fehlende klare Entscheidungsgrundlagen (wenn es keine sichere richtige Antwort gibt), die Vereinfachung der realen Situation durch Modelle und die geringe Beteiligung unterschiedlicher Gruppen bei der Entwicklung. In einem Beispiel ersetzten automatische Entscheidungen Hausbesuche und das führte zu Problemen für Menschen mit Behinderung.
Die Autorinnen und Autoren sagen, dass allein bessere Genauigkeit nicht ausreicht. Entwickler sollen Systeme so gestalten, dass sie die reale Komplexität besser berücksichtigen.
Schwierige Wörter
- algorithmus — Anleitung für einen Computer oder ein ProgrammAlgorithmen
- vorurteil — negative Meinung über eine Gruppe ohne BeweiseVorurteile
- entscheidungsgrundlage — Informationen oder Regeln für eine EntscheidungEntscheidungsgrundlagen
- vereinfachung — etwas leichter oder weniger kompliziert machen
- beteiligung — Teilnahme von Menschen an einer Arbeit
- hausbesuch — Besuch bei jemandem zu HauseHausbesuche
Tipp: Fahre über markierte Wörter oder tippe darauf, um kurze Definitionen zu sehen – während du liest oder zuhörst.
Diskussionsfragen
- Hast du Erfahrungen mit automatischen Entscheidungen? Was ist passiert?
- Warum ist die Beteiligung unterschiedlicher Gruppen wichtig?
- Was könnte man tun, damit Systeme die reale Komplexität besser berücksichtigen?
Verwandte Artikel
Weniger Teilen, mehr Nachdenken: Reaktion gegen Fehlinformationen
Forschende der University of Copenhagen schlagen vor, das Teilen in sozialen Medien kurz zu verzögern und ein kurzes Lernfenster einzuführen. Modelltests zeigen, dass Verzögerung plus Lernen die Qualität geteilter Beiträge verbessern kann.
Ungleichheit macht Pandemien schlimmer, warnt Matthew M. Kavanagh
Matthew M. Kavanagh, Direktor des Georgetown University Center for Global Health Policy and Politics, warnt, dass Ungleichheit Pandemien verschlimmert. Er fordert Schuldenaussetzung, gemeinsame Produktion und stärkere Sozialpolitik.
Soziale Medien liefern Frühwarnsignale für Bevölkerungsbewegungen
Forscher zeigen, dass die Analyse von Beiträgen in sozialen Medien frühe Warnsignale für Bevölkerungsbewegungen in Krisen liefern kann. Die Studie in EPJ Data Science vergleicht Methoden und drei Fallstudien in verschiedenen Ländern.
Soziale Medien: Nutzen, Risiken und neue KI-Gefahren
Soziale Medien verbinden Menschen, helfen marginalisierten Gruppen, verbreiten aber auch Hass, Lügen und reale Schäden. Entscheidungen von Firmen, Algorithmen und generative KI verändern Sichtbarkeit, Vertrauen und Risiko in der Öffentlichkeit.
Blutviskosität: Neue Echtzeit‑Messung ohne Blutentnahme
Forscher der University of Missouri entwickelten eine nichtinvasive Technik mit Ultraschall und Algorithmen, die die Blutviskosität in Echtzeit misst. Die Methode könnte bei Erkrankungen wie Sichelzellenanämie helfen und wurde im Journal of Dynamic Systems, Measurement, and Control veröffentlicht.
Echtzeit-Luftüberwachung in Südafrika mit kostengünstigen Sensoren
Wissenschaftler passten Methoden aus der Teilchenphysik an und bauten das System AI_r mit Sensoren und KI für Echtzeit-Luftmessung. Das Projekt will 500 Sensoren im Sedibeng-Distrikt installieren und erhält internationale Unterstützung.