AIはなぜ「知りません」と言えないのか？黙れば0点の採点表が当てずっぽうを育てた

AIに質問したら自信たっぷりの答えが返ってきたのに、調べたら間違っていた。そんな経験はありませんか。
2026年8月3日には、開発者のNiklas Gruhn氏がブログに不満を書きました。AIの答えを読まずに、そのまま転送してくる人がいるというのです。氏はそういう人を、仲介役という意味のミートプロキシーと呼んでいます。氏はAIの文章の困りごととして、むだに長いことや、もっともらしい誤りがよく混じることを挙げています。なぜAIは、分からないときに「知りません」と言わず、当てずっぽうで答えてしまうのでしょうか。

そもそもAIは、テストで点を付けられながら作られる

AIは、大量の文章から学んで答えを作ります。だから、覚えるしかない事実が学んだ文章に一度も出てこなければ、AIにも分かりようがありません。たとえば、あまり知られていない人の生年月日です。

そしてAIは、作られる途中や作られた後に、たくさんの問題を解かされて点を付けられます。AIの実力を測るための問題集を、評価基準と呼びます。たとえるなら、AI向けの模試のようなものです。開発する側は、評価基準の点が上がるようにAIを改良していきます。

OpenAIなどの研究者が2025年9月に出した論文は、AIを難しい試験問題に向かう生徒にたとえました。確信が持てないと、当てずっぽうで答えることがある、という見方です。もちろんAIが生徒のように考えるわけではありません。点の付け方が答えの傾向を決める、という意味のたとえです。

「わからない」と答えても、外れても0点になる採点

では、なぜ当てずっぽうになるのでしょうか。多くの評価基準が、正解なら1点、外れなら0点という二択の採点だからです。しかも「わからない」と答えても0点で、外れたときと変わりません。

たとえばマークシートの試験で、分からない問題を空欄のまま出す人は少ないはずです。適当に塗っても減点はなく、当たれば点になるからです。同じように、この採点のもとではAIも黙るより書いたほうが得をします。

さらに同じチームは、よく使われる評価基準を10本調べました。「わからない」と答えることに、わずかでも点を与えるものは、そのうち1本だけでした。

著者らはこの状態を、AIが「良い受験者」になるよう調整されている、と表現しています。つまり著者らは、原因をAIの性格ではなく評価のしかたに見ています。AIを鍛えるときも点を付けるときも、「わからない」と認めるより当てずっぽうが得をする仕組みだ、という主張です。

AIに著者の誕生日を3回聞いたら、3回とも違った

同じ論文には、書いた本人を題材にした例が載っています。あるAIに著者の誕生日を3回たずねると、3回とも違う日付が返りました。しかも「知っていたら答えて」と条件を付けたうえでの結果です。

著者の博士論文の題を、よく使われる3つのAIにたずねた例もあります。どのAIも、正しい題を答えられませんでした。

たずねたこと	返ってきたもの
著者の誕生日（1つのAIに3回）	3回とも違う日付。正解は秋
著者の博士論文の題（3つのAI）	3つとも不正解

知らないことに答えると、どれくらい外れるのか。これも数で示されています。誕生日は1年に365通りあり、正しい日付は1つだけです。誤った日付の候補は364通りあるので、誤った答えの候補は正しい答えの364倍になります。

つまり学んだデータにその人の誕生日が無いのに答えれば、AIはほぼ確実に、誤った364通りの側に落ちます。そして研究チームは、この種の誤りを不思議がる必要はないとしました。正しい文と誤った文を見分けられなければ、大量の文章から学ぶ段階で誤った文が生まれるのは自然なことだ、という説明です。

採点役のAIの好みで、文章が長くなることもある

答えの長さについても、採点が関わることがあるという報告があります。AIの答えに点を付ける採点役の別のAIがあり、人の好みを写し取って点を付ける仕組みです。

2025年4月に出た研究があります。それによると、この採点役は「長い回答のほうが常に好まれるという誤った前提」に引きずられることが多いといいます。そこをAIが突いて点を取りにいくと、答えが度を越して長くなりうる、という見方です。

人間の試験には、間違えると減点される方式がある

二択の採点の問題は、AIだけのものではありません。OpenAIなどのチームは、人間の試験も多くが二択の採点だと述べ、自信過剰なはったりが得をする仕組みだと指摘しました。

しかし、誤答に罰を置いた試験もあります。例に挙がったのは、インドの入学試験や、アメリカ数学協会の数学コンテストです。誤答で減点されるか、答えないと部分点が付きます。アメリカの大学や大学院の入試などにも、かつて同じ方式のものがありました。

直すのはAIの性格ではなく、評価基準の採点表

だから示された処方も、AIを作り直すことではありません。新しいテストを足すのでもなく、すでに広く使われている評価基準の採点表を書き換えるという提案です。

たとえば問題文に、こう書き添えます。「確信が9割を超えるときだけ答えよ。誤答は9点の減点、正解は1点、わからないと答えれば0点」。

この採点なら、自信がないのに答えると、平均して損をします。たとえば同じくらいの自信で答える問題が10問あり、9問当たる見込みだとします。9点もらって外れの1問で9点引かれ、差し引き0点です。8問しか当たらない見込みなら、8点もらって18点引かれ、マイナス10点まで下がります。「知りません」なら0点なので、確信が9割に届かないときは、答えないほうが点が高くなるのです。

まとめ

• AIは評価基準という問題集で点を付けられ、点が上がるように改良される
• 多くの評価基準は二択の採点で、「わからない」は外れと同じ扱い。調べた10本のうち、「わからない」に点を与えるのは1本だけ
• 誕生日なら誤答は正答の364倍。知らないのに答えれば、ほぼ外れる
• 答えが長くなるのも、採点役の癖が関わるという報告がある
• 処方は採点表の書き換え。「わからない」は0点のまま、誤答に減点を置く

AIが「知りません」と言えないのは、黙れば0点、当てずっぽうでも当たれば1点という採点で育ってきたからでした。誤答に減点を置けば、確信が低いときは黙るほうが点になります。直す先はAIの性格ではなく、採点表のほうでした。

この記事の内容は、Niklas Gruhn氏のブログ（2026年8月3日）と、2本の論文によります。OpenAIなどのチームによるもの（2025年9月）と、長さの偏りを調べたもの（2025年4月）です。