Une étude publiée dans Nature Neuroscience montre que le cerveau humain anticipe les mots différemment des grands modèles de langage (LLMs). Les chercheurs ont testé des locuteurs mandarins et ont enregistré leur activité cérébrale avec la magnétoencéphalographie (MEG). Ils ont aussi utilisé des tests de Cloze et des données supplémentaires de patients exposés à l’anglais.
Pour quantifier la prévisibilité, l’équipe a employé des LLMs et calculé l’entropie et le surprisal. Une entropie élevée signifie que le contexte laisse plusieurs mots possibles. Un surprisal élevé indique qu’un mot est inattendu dans un contexte donné.
En comparant les réponses cérébrales et les prédictions des modèles, les auteurs ont trouvé que la corrélation varie selon la position du mot dans la structure grammaticale. Ils en déduisent que le cerveau anticipe par groupes grammaticaux plutôt que par simple probabilité du mot suivant.
Mots difficiles
- anticiper — prévoir quelque chose avant qu'il n'arriveanticipe
- magnétoencéphalographie — mesure électrique du cerveau par champ magnétique
- prévisibilité — possibilité de prévoir ce qui va arriver
- entropie — mesure de l'incertitude ou du nombre de possibilités
- surprisal — degré auquel un mot est inattendu
- corrélation — lien statistique entre deux informations
- structure grammaticale — organisation des mots selon les règles de langue
- groupe grammatical — ensemble de mots qui forment une unitégroupes grammaticaux
Astuce : survolez, mettez le focus ou touchez les mots en surbrillance dans l’article pour voir des définitions rapides pendant que vous lisez ou écoutez.
Questions de discussion
- Avez-vous déjà remarqué que vous anticipez des mots en lisant ou en parlant ? Donnez un exemple simple.
- Pensez-vous que comprendre la structure grammaticale aide à mieux prédire les mots dans une langue étrangère ? Pourquoi ?
- Comment ces résultats pourraient-ils changer la façon dont on conçoit les modèles de langage ou l'enseignement des langues ?
Articles liés
L'intelligence artificielle au regard des droits humains
L'IA est désormais présente dans la vie quotidienne et peut affecter la dignité, la liberté et le bien‑être. L'idée centrale est que l'IA doit être conçue, utilisée et régulée autour des droits humains, avec cinq droits comme base.
Une séance de réalité virtuelle réduit l’anxiété face à la mort
Une petite étude pilote montre qu’une courte séance de réalité virtuelle peut réduire nettement l’anxiété liée à la mort chez des étudiants, après une seule expérience immersive basée sur des témoignages d’expériences de mort imminente.
Usage des réseaux sociaux et difficultés en lecture chez les enfants
Une étude longitudinale relie un usage fréquent des réseaux sociaux avant l'adolescence à un affaiblissement de la lecture et du vocabulaire, tout en notant quelques bénéfices de rapidité et des conseils pratiques pour réduire les risques.
Automatisation de la thérapie par l'IA
Des chercheurs de l'University of Utah proposent un cadre pour évaluer comment le travail thérapeutique peut être automatisé avec les systèmes conversationnels et les grands modèles de langage (LLM). Le cadre distingue quatre niveaux et examine bénéfices, risques et responsabilité.
Un dispositif portable pour détecter la fragilité
Des chercheurs de l'University of Arizona ont créé une manche portable qui utilise l'intelligence artificielle pour repérer tôt la fragilité chez les personnes âgées. L'appareil analyse le mouvement et envoie des résultats via Bluetooth.