言語モデルは現実の妥当性を判断するか ^{CEFR B2}

ブラウン大学の研究チームは、現代の大規模言語モデルが現実世界の因果的制約のような情報を内部に符号化しているかを調べ、結果を国際会議で発表しました。実験では「氷で飲み物を冷やした（常識的）」「雪で冷やした（起こりにくい）」「火で冷やした（不可能）」「昨日で冷やした（無意味）」など、妥当性が異なる一連の文をモデルに提示しました。

研究者は機構的可解釈性という手法で、モデルが生成する内部の数学的状態を解析しました。Lepori はこの手法を「AIシステムの神経科学のようなもの」と説明し、モデルが内部の“脳の状態”に何を符号化しているかを逆に解き明かすことを目指すと述べています。

実験は複数のオープンソースモデル（例: OpenAIのGPT‑2、MetaのLlama 3.2、GoogleのGemma 2）で行われ、十分に大きなモデルは妥当性カテゴリーに対応する内部ベクトルを発達させました。これらのベクトルは起こりにくいと不可能をおおむね85%の精度で区別し、あいまいな文では人間の判断の分裂も反映しました。

研究者らはこうしたベクトルが2 billionを超えるパラメータを持つモデルで現れ始めると報告し、これは今日の兆を超えるパラメータ規模のモデルと比べると小さいサイズだと指摘しました。発見はより賢く信頼できるモデルの開発に役立つ可能性があります。

• 機構的可解釈性で内部表現を解析
• 内部ベクトルが人間の妥当性判断と対応
• 発見はAIの信頼性向上につながる可能性