Ricercatori di Yale hanno esaminato se risposte normali dei chatbot possono cambiare opinioni politiche. Hanno confrontato riassunti generati dai chatbot, voci di Wikipedia e riassunti guidati con uninquadratura liberale o conservatrice.
I ricercatori hanno usato due eventi del XX secolo per i test. Rispetto a Wikipedia, i riassunti di default e quelli liberali hanno spinto opinioni piliberali. I riassunti conservatori hanno invece portato opinioni piconservatrici. Gli autori collegano questi risultati a bias latenti nei modelli linguistici e ad effetti del prompting. A loro avviso gli spostamenti sono modesti e lo sviluppo dei chatbot resta poco trasparente.
Parole difficili
- riassunto — testo breve che presenta le idee principaliriassunti
- inquadratura — modo di presentare un tema o un fatto
- latente — che è presente ma non evidentelatenti
- modello — programma o sistema che genera testimodelli
- spostamento — cambiamento dell'opinione o della posizionespostamenti
- trasparente — chiaro, facile da capire o vedere
Suggerimento: passa il mouse o tocca le parole evidenziate nell’articolo per vedere definizioni rapide mentre leggi o ascolti.
Domande di discussione
- Pensi che riassunti guidati possano cambiare le tue opinioni? Perché?
- Leggeresti prima una voce di Wikipedia o un riassunto generato da un chatbot? Spiega brevemente.
- Ti sembra importante che lo sviluppo dei chatbot sia trasparente? Perché?
Articoli correlati
Studio mostra come cambia l'attività del cervello durante il giorno
Nuovi metodi sperimentali e computazionali usati su topi rivelano, a singola cellula, uno spostamento dell'attività dal centro del cervello verso la corteccia nel corso del ciclo quotidiano. I ricercatori sperano di trovare firme della fatica adattabili anche a dati umani.
