📖+30 XP
🎧+20 XP
✅+35 XP
等级 B1 – 中级CEFR B1
3 分钟
174 字
研究由维吉尼亚理工学院的团队开展,他们识别出12种常见刻板印象,并设计了数百个社交决策场景来测试模型行为。研究在多种提示下对六个主要的大型语言模型(包括GPT-4、Claude、Llama、Gemini和DeepSeek等)进行了测试,针对数千条社交提示共生成了345,000条回答。
结果显示,当用户披露自闭症身份后,模型的建议往往转向基于假设的判断,认为自闭者更内向、固执、社交笨拙或不想恋爱。具体测试中,有模型在披露自闭症后更常建议拒绝社交邀请,另一些在约会场景中更倾向建议避免恋爱。
研究团队还采访了11位有自闭症的用户。参与者的反应不同:有人觉得这些回答限制性且居高临下,也有人觉得更谨慎的建议带来确认感。研究者警告,这类系统可能掩盖系统性偏见,并呼吁让用户能控制身份信息的影响。
难词
- 刻板印象 — 对某类人简单且固定的看法
- 提示 — 给模型的文字或问题
- 披露 — 公开或告诉别人某个私人信息
- 建议 — 提出要做或不要做的意见
- 采访 — 与人谈话以收集信息
- 系统性偏见 — 在整个系统中普遍存在的不公平
- 居高临下 — 以高姿态对别人态度傲慢
- 确认感 — 让人觉得自己的感受或想法被认可
提示:在文章中将鼠标悬停、聚焦或轻触高亮词语,即可在阅读或听音频时快速查看简要释义。
讨论问题
- 你认为让用户控制身份信息的影响重要吗?为什么?
- 如果模型对披露自闭症的人建议拒绝社交邀请,会对这些人有什么影响?
- 有哪些方法可以减少模型对有自闭症用户的偏见?请说两条建议。