Studo publikigita en PNAS Nexus esploris ĉu ordinara respondo de AI-babileblo, ne intencita por persvadi, tamen ŝanĝas sociajn kaj politikajn opiniojn. La esploristoj analizis du 20-ajarcentajn eventojn: la Seattle General Strike (kvin-taga laborhaltigo en februaro 1919) kaj la Third World Liberation Front-protestojn en 1968. Inter la aŭtoroj estas Daniel Karell, asistanta profesoro de sociologio ĉe Yale, kaj Matthew Shu, 2025 diplomiĝinto de Yale College; kunautoro j venis de Yale kaj Rutgers University.
En la eksperimenton 1,912 partoprenantoj legis aŭ defaŭltajn resumojn de GPT-4o, Vikio-enkondukojn, aŭ resumojn kiujn la teamo petis prezenti per liberala aŭ konservativa kadro. Kompare kun Wikipedia, la defaŭltaj AI-resumoj kaj la liberaj kadroj movis partoprenantojn al pli liberalaj opinioj. Resumoj petitaj esti konservativaj igis pli konservativajn opiniojn relative al Wikipedia.
La aŭtoroj atribuas la efikon al latentaj biasoj en la trejnado de grandaj lingvaj modeloj, dum konservativaj kadroj eble devenas ĉefe de petaj (promptaj) biasoj. Ili raportas ke liberala kadro plialtigis liberalajn opiniojn inter diversaj politiaj grupoj, dum konservativa kadro havis statistike signifajn efikojn ĉefe inter memidentigitaj konservativuloj. Karell avertas ke, male al la travidebla redaktado de Wikipedia, la evoluo de babilebloj restas netransparenta, kaj la kompanioj evoluigantaj ĉi tiujn modelojn havas la kapablon formi opiniojn.
Malfacilaj vortoj
- kadro — maniero prezenti informon aŭ interpretadonkadroj
- biaso — subtila prefero en datumoj aŭ algoritmobiasoj
- latenta — kaŝita, ne rekte videbla sed ekzistantalatentaj
- trejnado — procezo instrui modelon per datumoj
- babileblo — komputila programo por interagi per tekstoAI-babileblo, babilebloj
- defaŭlta — antaŭdifinita opcio uzata kiel normadefaŭltajn, defaŭltaj
- netransparenta — sen malfermeco; malmalklara pri funkciado aŭ motivoj
- travidebla — malfermita kaj facile kontrolata de publiko
- atribui — asigni kaŭzon aŭ klarigon por ioatribuas
Konsilo: ŝovu la musmontrilon, fokusu aŭ tuŝu la reliefigitajn vortojn en la artikolo por vidi rapidajn difinojn dum legado aŭ aŭskultado.
Diskutaj demandoj
- Kiel, laŭ vi, latentaj biasoj en la trejnado de modeloj povus influi publikan opinion aŭ debaton?
- Kion signifas por vi la diferenco inter travidebla redaktado de Wikipedia kaj netransparenta evoluo de babilebloj?
- Kiojn rimedojn povus uzi universitatoj aŭ reguligistoj por malpliigi la efikon de biasoj en AI-resumoj?
