「猫が犬を追う」と「犬が猫を追う」をAIはどう区別する？Yale大などが内部を調査

ううん、AIは文を、語や語の一部といった小さな単位に区切るんだ。

単位ごとに、数千個の数を並べた列を作るよ。

この数の列をベクトルって呼ぶよ。

1つの語のベクトルを「語のベクトル」、文全体をまとめたものを「文のベクトル」と呼び分けるね。

語のベクトルから文のベクトルを作る、いちばん簡単な方法は足し算なの。

でも足し算は、順番を気にしないんだ。

困るよ。「猫＋追う＋犬」と「犬＋追う＋猫」は、同じ文のベクトルになるんだ。

意味が逆の2つの文を、区別できなくなっちゃう。

買い物かごみたいなものだね。

品物を入れると、何が入っているかは分かるよね。

でも、どの順に入れたかは残らないんだ。ただ、実際に足すのは品物でなく数だよ。

順番を残す手がかりは、1990年に提案された考え方なんだ。

主語、動詞、目的語といった役割にも、それぞれ専用のベクトルを用意するんだよ。

役割は、文の中での語の持ち場のことだよ。

「猫が犬を追う」なら、猫は追う側で、犬は追われる側だね。

語のベクトルと役割のベクトルを、特別な掛け算で1つにまとめるんだ。

語の列と役割の列をかけ合わせて、ひとまとまりの数にする計算だよ。

できたものを「組」と呼んで、「×」の記号で表すね。

「猫×主語」「追う×動詞」「犬×目的語」の3組を足すんだ。この足し算が、ここで言う「組の式」だよ。
反対の文は猫と犬の役割が入れ替わって、組が違うから、足しても別の文のベクトルになるんだ。

たとえるなら、教室の座席表。

名前と席を組で書いておけば、だれがどこに座っているかが分かるよね。

名前が語で、席が役割だよ。

ううん、そのままでは読めないんだ。組の情報は数千個の数の中に溶け込んでいて、並びを人が眺めても構造は見えないと著者たちは説明してるよ。

AIの中が組の式で書けるかを、チームは主にOpenAIが公開したGPT-OSSで確かめたんだ。

課題は全部で6つ。

算数と論理の問題、プログラムの結果を当てる問題、英文の書きかえ3種類だよ。

GPT-OSSが解いている途中で、入力した問題の語のベクトルを、組の式で作ったベクトルにすべて取りかえるんだ。

料理でいえば、材料を作り直した物に入れ替えても、同じ味に仕上がるか見る感じだね。

それでも正しく答えれば、中のベクトルは組の式で書けている、と考えるわけ。

ただ、どの役割の候補を試すかは、調べる側が先に決めてるよ。

それが、6つすべてで、取りかえた後もGPT-OSSはもとの自分とほぼ同じ割合で正しく答えたんだ。

GPT-OSSを含む7つのAIで、英語の短い文の最後にあるピリオドのベクトルを、組の式で作り直せたよ。

ただし、ベクトルから文を読み取る小さな道具を別に作って確かめたんだ。

AI自身には解かせてないよ。

例の1つは、「The editors advised the clever artist.」を現在形に直す問題だよ。

「目的語の飾り」は、「賢い画家」の「賢い」のように、画家を詳しく説明する席のこと。

編集者たちの側の席は「主語の飾り」で、今は空いているよ。

GPT-OSSの中のベクトルから、「clever（賢い）×目的語の飾り」の組を引いたんだ。

かわりに「clever×主語の飾り」の組を足したよ。

入力の文は同じままなのに、返ってきた文は「The clever editors advise the artist.」だった。

「賢い」の飾る先が、画家から編集者たちへ移ったんだよ。

席替えに少し似てるね。

ただ、実際に入れかえたのは札でなく、数の計算だよ。

6つの課題で、組を差し替える書き換えを31種類試したところ、平均で90.3%が狙いどおりの答えになったんだ。

このことからチームは、GPT-OSSの答えは組の式で見つけた形に左右される、と結論づけてるよ。

あるよ。まずプレプリントだから、専門家の審査はこれから。

中を書き換えて答えまで確かめたAIは、GPT-OSSだけなんだよ。

6つの課題も、規則どおりに解ける型の決まったものばかり。

規則だけでは片づかない言葉の使い方は、これからの研究だと論文は書いてるよ。

それに著者たちは、AIが中で本当にこの特別な掛け算をしているとまでは主張してないんだ。

人の脳が同じ仕組みを使っているかも、今回は調べてないよ。