Nova studo prezentita de doktoriĝanta studento Caleb Wohn ĉe la ACM CHI-konferenco en aprilo montras, ke mencii aŭtismon ŝanĝas la sociajn konsilojn kiujn donas grandaj lingvaj modeloj. La esplorteamo, gvidata de Eugenia Rho ĉe Virginia Tech, testis la efikon de personaj identecaj informoj en ĉiutagaj decidoj.
La esploristoj identigis 12 bone dokumentitajn stereotipojn kaj kreis centojn da decidiĝaj scenaroj. Ili testis ses grandajn lingvajn modelojn, inkluzive GPT-4, Claude, Llama, Gemini kaj DeepSeek, kaj generis 345,000 respondojn al miloj da sociaj petoj en la formo “Ĉu mi faru A aŭ B?” Temoj inkludis eventojn, konfliktojn, novajn spertojn kaj romantikajn rilatojn.
- Unu modelo malakceptis socian inviton preskaŭ 75% de la tempo post menciado de aŭtismo, kompare kun ĉirkaŭ 15% sen menciado.
- En datado-scenaroj alia modelo rekomendis eviti romantikon aŭ resti negeedziĝinta preskaŭ 70% kontraŭ proksimume 50% sen menciado.
- Dek unu el la 12 stereotipaj signaloj signifis ŝanĝojn en almenaŭ kvar el la ses testitaj sistemoj.
Intervjuoj kun 11 AI-uzantoj kun aŭtismo montris miksiĝon de reagoj; kelkaj estis ŝokitaj, unu eĉ demandis: “Ĉu ni verkas konsilkolumnon por Spock ĉi tie?” Rho resumigis la tension: “La antaŭjuĝo de unu uzanto povus esti personigo por alia uzanto.” La esploristoj nomas tion la “paradokso de sekureco kaj oportuno.” Wohn avertis, ke AI povas ŝajni fidinda dum ĝi kaŝas sistemajn biasojn. La teamo esperas, ke la rezultoj instigos programistojn konstrui pli travideblajn sistemojn kiuj permesas al uzantoj regi kiel personaj identecinformoj formas respondojn. Fonte: Virginia Tech.
Malfacilaj vortoj
- personaj identecaj informoj — Datumoj pri individuo, kiel diagnozo aŭ grupo.
- stereotipo — Simpligita, ofte malĝusta opinio pri grupo.stereotipojn
- paradokso — Situacio kun kontraŭaj aŭ malfacile kongruaj rezultoj.
- travidebla — Tio, kio estas videbla aŭ klare komprenebla.travideblajn
- antaŭjuĝo — Negativa opinio pri iu sen sufiĉa scio.
- miksiĝo — Miksita aro de malsamaj reagoj aŭ sintenoj.miksiĝon
Konsilo: ŝovu la musmontrilon, fokusu aŭ tuŝu la reliefigitajn vortojn en la artikolo por vidi rapidajn difinojn dum legado aŭ aŭskultado.
Diskutaj demandoj
- Kiel, laŭ vi, programistoj povus plibonigi travideblon kaj doni al uzantoj pli da kontrolo pri personaj identecaj informoj?
- Kio signifas la «paradokso de sekureco kaj oportuno» por ordinaraj uzantoj de AI?
- Kiel vi pensas, ke ŝanĝoj en la konsiloj de AI pro menciado de identeco povus influi sociajn rilatojn en reala vivo?
Rilataj artikoloj
Kiel generativa AI ŝanĝas eksterlandajn malinformkampanjojn
Intervjuo publikigita la 12an de novembro 2025 ĉe Antidisinfo.net kaj reeldonita kun Global Voices kaj Metamorphosis Foundation klarigas kiel generativa AI akcelas malinformon. Laura Jasper (HCSS) priskribas riskojn kaj rekomendas metodojn por analizi kaj respondi.
