研究：人工智能偏见源于无法建模现实复杂性 ^{CEFR B1}

人工智能正在快速普及，但研究和報道也記錄到帶有偏見的系統造成實際傷害，例如不同人口群體得到不同的醫療處理和在招聘中的歧視。

德克萨斯大学奥斯汀分校的研究者分析了一組被他人認定有偏見的算法，並把每個有問題的算法與類似但未被指責的算法進行比較，同時審查了相關的組織。研究樣本包含多個此類算法，研究者從比較中找出偏見的來源。

研究識別出三類會增加不公平結果風險的因素：缺乏可認可的真實標準（例如對 X 光判斷缺乏共識）、模型在建模時省略重要變量（如自動化決定取代上門護理導致幫助被切斷）、以及在設計時未讓多樣利益相關者參與。研究認為，減少偏見需要超出單純提高準確度的做法，還要打開“黑箱”、考慮現實複雜性並多元化輸入。