Esploristoj de Brown University kontrolis ĉu modernaj lingvaj modeloj havas ian komprenon pri la reala mondo. Ili klarigas, ke chatbotoj lernas el granda kvanto da interreta teksto, kiu enhavas faktojn, erarojn kaj sensencaĵojn.
La teamo montris al la modeloj frazojn kun malsama plausibleco, ekzemple trinkaĵon malvarmigita per glacio, per neĝo, per fajro aŭ per la vorto "hieraŭ". Por ĉiu frazo esploristoj rigardis la internajn matematikajn statojn, procedo nomata mekanista interpretado, kiu similas al "neŭroscienco por AI-sistemoj".
La eksperimento kuris tra pluraj malfermfontecaj modeloj por resti model-agnostic, kaj la esploristoj trovis internajn vektorojn kiuj rilatas al la plausiblecaj kategorioj. Tiuj vektoroj ankaŭ kongruis kun homaj juĝoj en enketo.
Malfacilaj vortoj
- esploristo — persono kiu studas kaj faras eksperimentojnEsploristoj
- lingva modelo — komputila programo por labori kun lingvolingvaj modeloj
- chatboto — programo kiu babilas kun uzantojchatbotoj
- plausibleco — kiom kredinda aŭ ebla estas io
- mekanista interpretado — analizo pri la internaj funkcioj de modelo
- vektoro — matematika objekto kun nombroj en vicovektorojn
- malfermfonteca — programo kun fontkodo havebla por ĉiujmalfermfontecaj
Konsilo: ŝovu la musmontrilon, fokusu aŭ tuŝu la reliefigitajn vortojn en la artikolo por vidi rapidajn difinojn dum legado aŭ aŭskultado.
Diskutaj demandoj
- Ĉu vi iam uzis chatboton? Kion vi ŝatis aŭ ne ŝatis?
- Ĉu vi pensas, ke estas problemo se modeloj lernas el eraraj tekstoj? Kial?
- Kiel vi povus provi ĉu modelo vere komprenas la realan mondon?
Rilataj artikoloj
Artefarita inteligenteco en usonaj lernejoj: oportunoj kaj zorgoj
Artefarita inteligenteco jam eniras multajn usonajn lernejojn. Esploro de University of Washington montris miksitajn opiniojn de instruistoj: ili vidas malpliigon de laboro sed ankaŭ zorgas pri sociaj efikoj kaj egaleco.
Ana María Cetto kaj malferma scienco en Latin-Ameriko
Ana María Cetto, meksika fizikisto, estis nomumita prezidanto de la gvida komitato pri Malferma Scienco de UNESCO. Ŝi pledas por pli granda aliro al scienco kaj subtenas regionajn platformojn por dividi scion kiel publikan bonon.
