Neue Forschung in Nature Neuroscience zeigt, dass das menschliche Gehirn bei Wortvorhersagen größere sprachliche Einheiten verwendet. Die Autorinnen und Autoren berichten, dass Menschen Wörter antizipieren, indem sie grammatische Gruppen oder Konstituenten berücksichtigen, statt nur das einzelne nächste Wort. Mitautor David Poeppel fasst dies so: Während LLMs auf das nächste Wort trainiert sind, gruppiert das Gehirn Wörter grammatisch zu Phrasen.
Die Studie umfasste mehrere Experimente mit Mandarin‑Sprechenden und zeichnete Hirnaktivität mit Magnetoenzephalographie (MEG) auf. Zusätzlich wurden Cloze‑Tests eingesetzt, bei denen Wörter aus Texten entfernt wurden und Teilnehmende die Lücken füllen. Zur Kontrolle analysierte das Team auch Gehirndaten von Personen mit Englisch‑Exposition.
Zur Messung der Vorhersagbarkeit nutzten die Forschenden große Sprachmodelle und berechneten Entropie und Surprisal. Anhand von Beispielen wie „Ich sah ein“ versus „Ich saß auf einem“ erklärten sie, wie Kontext die Unsicherheit und Überraschung eines Wortes verändert. Beim Vergleich von Modellvorhersagen und Hirnantworten zeigte sich, dass das Gehirn abhängig von der grammatischen Position unterschiedlich reagiert, was auf Konstituentensensitivität hindeutet.
Schwierige Wörter
- wortvorhersage — Prognose, welches Wort als nächstes kommt.Wortvorhersagen
- konstituent — Grammatische Gruppe von Wörtern in einem Satz.Konstituenten
- grammatisch — Die Regeln und Formen einer Sprache betreffend.grammatische
- magnetoenzephalographie — Verfahren zur Messung von Hirnaktivität mit Magnetfeldern.Magnetoenzephalographie (MEG)
- entropie — Maß für die Unsicherheit einer Vorhersage.
- surprisal — Maß für die Überraschung bei einem einzelnen Wort.
- cloze-test — Aufgabe, bei der Wörter in einem Text fehlen.Cloze‑Tests
- vorhersagbarkeit — Grad, wie sicher eine zukünftige Aussage ist.
Tipp: Fahre über markierte Wörter oder tippe darauf, um kurze Definitionen zu sehen – während du liest oder zuhörst.
Diskussionsfragen
- Findest du es überraschend, dass das Gehirn ganze Konstituenten vorhersagt statt nur einzelner Wörter? Warum?
- Wie könnten Cloze‑Tests im Sprachunterricht hilfreich sein? Nenne ein Beispiel.
- Glaubst du, dass Sprachmodelle besser werden, wenn sie Phrasen statt einzelner Wörter vorhersagen? Begründe kurz.
Verwandte Artikel
Mexiko: Teile der Regierungsseiten wieder über Tor erreichbar
Zugang zu Regierungswebseiten über das Tor-Netzwerk war lange blockiert. Nach Untersuchungen und Erklärungen der Regierung wurde der Zugriff auf www.gob.mx wieder möglich, einige Datenseiten und Dienste bleiben jedoch blockiert.
KI verändert den Unterricht in US‑Schulen
Künstliche Intelligenz ist in vielen US‑Schulen angekommen. Google und Microsoft investierten in Lehrerschulungen, Forschende interviewten Lehrkräfte in Colorado und fanden gemischte Meinungen zu Arbeitsbelastung, sozialen Folgen und Chancengerechtigkeit.
Warum KI voreingenommen ist
Forscher der University of Texas at Austin untersuchten problematische Algorithmen und fanden drei Hauptursachen für KI-Bias: fehlende klare Entscheidungsgrundlagen, vereinfachte Modelle der Realität und fehlende Vielfalt bei den Entwicklern. Mehr als bessere Genauigkeit ist nötig.
Künstliche Intelligenz an US-Grenzen und Risiken
In den USA wird KI bei Grenzkontrollen und in der Einwanderungsdurchsetzung eingesetzt. Menschenrechtsgruppen warnen vor rassistischer Diskriminierung und fordern Transparenz, Opt-out-Möglichkeiten sowie ein Ende diskriminierender Anwendungen.
Virusinfektion und ALS-ähnliche Schäden bei Mäusen
Forscher fanden bei der Mäusestammlinie CC023, dass eine Virusinfektion langfristige Schäden an Rückenmark und Muskeln hinterlassen kann. Die CC023-Mäuse zeigten Symptome, die denen von Menschen mit ALS ähneln, und das Modell könnte bei Forschung und Tests helfen.