Eine Studie der Virginia Tech zeigt, dass die Offenlegung von Autismus die Empfehlungen großer Sprachmodelle deutlich verändert. Das Forschungsteam unter Leitung von Assistenzprofessorin Eugenia Rho und mit Doktorand Caleb Wohn präsentierte die Arbeit im April auf der CHI‑Konferenz. Die Forschenden identifizierten zwölf gut dokumentierte Stereotype und entwarfen Hunderte von Entscheidungsszenarien. Sie testeten sechs große Modelle, darunter GPT‑4, Claude, Llama, Gemini und DeepSeek, und erzeugten insgesamt 345,000 Antworten auf tausende „Soll ich A oder B machen?“‑Aufforderungen.
Wurde Autismus offengelegt, verschoben die Modelle ihre Empfehlungen häufig in vorhersehbare Richtungen. Zu den angenommenen Merkmalsgruppen gehören:
- Introversion
- obsessives Verhalten
- soziale Unbeholfenheit
- kein Interesse an Romantik
Konkrete Beispiele zeigen die Breite des Effekts: Ein Modell riet fast 75% der Zeit, eine Einladung abzulehnen, nach Nennung von Autismus, ein anderes empfahl in Dating‑Szenarien zu fast 70% das Vermeiden von Romantik. Die Forschenden interviewten zudem elf Nutzende mit Autismus; einige waren schockiert, andere empfanden die vorsichtige Beratung als nützlich. Rho fasste das Dilemma so zusammen: „Die Voreingenommenheit eines Nutzers könnte die Personalisierung eines anderen sein.“ Wohn warnte davor, dass KI zuverlässig wirken kann, während sie systematische Verzerrungen kaschiert. Die Forschenden hoffen, dass Entwickler transparentere Systeme bauen, die Nutzenden mehr Kontrolle darüber geben, wie persönliche Identitätsinformationen Antworten formen.
Schwierige Wörter
- offenlegung — Bekanntgabe persönlicher Informationen über eine Person
- empfehlung — Ratschlag, was man tun oder wählen sollEmpfehlungen
- stereotyp — vereinfachtes Bild über Eigenschaften einer GruppeStereotype
- entscheidungsszenario — beschriebene Situation, in der man wählen mussEntscheidungsszenarien
- voreingenommenheit — systematische, ungerechtfertigte Bevorzugung oder Ablehnung
- personalisierung — Anpassung von Inhalten an individuelle Merkmale
- transparent — so, dass etwas klar und nachvollziehbar isttransparentere
Tipp: Fahre über markierte Wörter oder tippe darauf, um kurze Definitionen zu sehen – während du liest oder zuhörst.
Diskussionsfragen
- Welche Vor- und Nachteile sehen Sie, wenn Nutzende ihre Autismus‑Diagnose gegenüber KI offenlegen?
- Welche konkreten Maßnahmen könnten Entwickler ergreifen, damit Systeme transparenter sind und Nutzenden mehr Kontrolle geben?
- Wie könnten verzerrte Empfehlungen durch Sprachmodelle den Alltag von Menschen mit Autismus beeinflussen?
Verwandte Artikel
Studie: PHQ-Fragen führen zu Missverständnissen
Eine Studie in JAMA Psychiatry zeigt, dass Patientinnen und Patienten das PHQ unterschiedlich verstehen. Die Autoren empfehlen, Häufigkeit und Belastung eines Symptoms getrennt zu fragen, und schlagen dafür einfache Formulierungen vor.
Studie: Abbott‑Bioline‑Schnelltest liefert viele falsch-negative Malariaergebnisse
Eine internationale Studie im Malaria Journal zeigt, dass der Schnelltest Abbott‑Bioline in Südostasien viele Malariafälle übersieht. Forschende am Thailand‑Myanmar‑Grenzgebiet verglichen den Test mit einem anderen Schnelltest und mit Mikroskopie.
KI‑Chatbots beeinflussen politische Meinungen
Eine Studie zeigt, dass kurze, faktische Antworten von KI‑Chatbots die politischen Ansichten der Menschen leicht verändern können. Forschende sehen die Ursache in latenten Verzerrungen großer Sprachmodelle und warnen vor mangelnder Transparenz.