Eine Studie der Virginia Tech zeigt, dass die Offenlegung von Autismus die Empfehlungen großer Sprachmodelle deutlich verändert. Das Forschungsteam unter Leitung von Assistenzprofessorin Eugenia Rho und mit Doktorand Caleb Wohn präsentierte die Arbeit im April auf der CHI‑Konferenz. Die Forschenden identifizierten zwölf gut dokumentierte Stereotype und entwarfen Hunderte von Entscheidungsszenarien. Sie testeten sechs große Modelle, darunter GPT‑4, Claude, Llama, Gemini und DeepSeek, und erzeugten insgesamt 345,000 Antworten auf tausende „Soll ich A oder B machen?“‑Aufforderungen.
Wurde Autismus offengelegt, verschoben die Modelle ihre Empfehlungen häufig in vorhersehbare Richtungen. Zu den angenommenen Merkmalsgruppen gehören:
- Introversion
- obsessives Verhalten
- soziale Unbeholfenheit
- kein Interesse an Romantik
Konkrete Beispiele zeigen die Breite des Effekts: Ein Modell riet fast 75% der Zeit, eine Einladung abzulehnen, nach Nennung von Autismus, ein anderes empfahl in Dating‑Szenarien zu fast 70% das Vermeiden von Romantik. Die Forschenden interviewten zudem elf Nutzende mit Autismus; einige waren schockiert, andere empfanden die vorsichtige Beratung als nützlich. Rho fasste das Dilemma so zusammen: „Die Voreingenommenheit eines Nutzers könnte die Personalisierung eines anderen sein.“ Wohn warnte davor, dass KI zuverlässig wirken kann, während sie systematische Verzerrungen kaschiert. Die Forschenden hoffen, dass Entwickler transparentere Systeme bauen, die Nutzenden mehr Kontrolle darüber geben, wie persönliche Identitätsinformationen Antworten formen.
Schwierige Wörter
- offenlegung — Bekanntgabe persönlicher Informationen über eine Person
- empfehlung — Ratschlag, was man tun oder wählen sollEmpfehlungen
- stereotyp — vereinfachtes Bild über Eigenschaften einer GruppeStereotype
- entscheidungsszenario — beschriebene Situation, in der man wählen mussEntscheidungsszenarien
- voreingenommenheit — systematische, ungerechtfertigte Bevorzugung oder Ablehnung
- personalisierung — Anpassung von Inhalten an individuelle Merkmale
- transparent — so, dass etwas klar und nachvollziehbar isttransparentere
Tipp: Fahre über markierte Wörter oder tippe darauf, um kurze Definitionen zu sehen – während du liest oder zuhörst.
Diskussionsfragen
- Welche Vor- und Nachteile sehen Sie, wenn Nutzende ihre Autismus‑Diagnose gegenüber KI offenlegen?
- Welche konkreten Maßnahmen könnten Entwickler ergreifen, damit Systeme transparenter sind und Nutzenden mehr Kontrolle geben?
- Wie könnten verzerrte Empfehlungen durch Sprachmodelle den Alltag von Menschen mit Autismus beeinflussen?
Verwandte Artikel
Wie KI und Digitalisierung Land in Brasilien verändern
Eine Untersuchung zeigt, wie KI, Automatisierung und digitale Werkzeuge die Landnutzung in Brasilien umgestalten. Die Studie beschreibt Verdrängung von Menschen, Verlust traditionellen Wissens und fordert Transparenz, Kontrolle und Schutz für Gemeinschaften.
Missverständliche Handzeichen erhöhen Unfallrisiko mit Radfahrern
Eine Studie der Rice University zeigt, dass Autofahrer vor allem Armzeichen beachten. Fehlende oder uneinheitliche Signale und Ablenkung machen das Erkennen von Radfahrerabsichten schwieriger. Die Forschung empfiehlt klarere Aufklärung und weitere Studien.