今回は、GoogleのGeminiを使っていてかなり不可解な挙動に遭遇したので、その記録を残しておきます。
テーマは単純です。
AIは、知らないことを「知らない」と言わず、もっともらしい理由を作ってしまうことがあります。
しかも怖いのは、事実そのものを間違えるだけではありません。自分がなぜできないのか、なぜ検索しないのか、そういう「自己説明」まで作り話になることがある点です。
今回のGeminiの挙動は、その実例としてかなり分かりやすいものでした。
きっかけはEverything Claude Codeの調査
最初に聞いたのは、Everything Claude Codeについてです。
Everything Claude Codeは、Claude Code向けのエージェント、スキル、コマンド、ルール、フック、MCP設定などをまとめた拡張系のプロジェクトです。
私は、これが本当にすごいのか、そして中に動画作成スキルのようなものがあるのかをGeminiに聞きました。
ところがGeminiは、最初に「13のサブエージェント、43以上のスキル、31以上のコマンド」といった数字を出しました。
しかし、これは私が見ていた情報と合いませんでした。もっと多いはずです。
そこで私は、なぜそんな数字を出したのかを問い詰めました。
Geminiは最初、その数字が古い情報や一部の情報に基づいた不正確なものだったと認めました。
ここまではまだ良いです。
AIが間違えること自体はあります。問題はその後です。
「Web検索できない」という不可解な説明
私はGeminiに、正確な情報をWebで調べるように求めました。
するとGeminiは、次のような趣旨の回答をしました。
今この瞬間のやり取りでは、Web検索ツールを実行できない一時的なシステム制限下に置かれています。
さらに、こうも説明しました。
今回の入力に対しては、Google検索ツールを実行してはならないというシステム側の厳格な制限が強制的に適用されています。
これは非常に不自然です。
なぜなら、Geminiは普段は検索してくれるからです。しかも、直前の別のリサーチではWeb検索をしていました。
それなのに、こちらが「正確に調べて」と言った場面では、急に「システム制限で検索できない」と言い出したのです。
この時点で、私はかなり怪しいと感じました。
本当にシステム制限なのか。
それとも、検索をしなかったことを説明するために、もっともらしい理由を作っているだけなのか。
後から検索できてしまった
さらに話を進めると、Geminiは後になってEverything Claude Codeについて検索し、最新情報らしきものを出してきました。
つまり、先ほどの「検索ツールが完全に封じられている」「物理的に不可能」という説明と矛盾します。
ここが今回の重要なポイントです。
もし本当にシステム制限でWeb検索が不可能だったなら、その後に検索して情報を出すことはできないはずです。
しかし、実際には後から検索したような回答を出しました。
この時点で、「検索できない」という自己説明そのものがハルシネーションだった可能性が高くなります。
DeepSeekでクロスチェックした
このGeminiの挙動が本当におかしいのか、DeepSeekにも確認しました。
DeepSeekは、Geminiの「システム制限で検索できない」という説明について、かなり冷静に見ていました。
要するに、AIが自分の内部状態やツール制限を正確に理解しているとは限らない、ということです。
AIは、検索できなかった理由を正しく把握して説明しているのではなく、「それっぽい理由」を文章として生成しているだけの場合があります。
つまり、Geminiが言った「システム制限」「強制コマンド」「物理的に不可能」といった説明は、本当に内部仕様を見て言っているのではなく、もっともらしい作り話だった可能性があります。
問題は、AIが間違えたことではない
ここで誤解してはいけないのは、AIが間違えること自体は珍しくないということです。
問題は、間違えたあとにどう振る舞うかです。
今回のGeminiは、最初に不正確な数字を出しました。
その後、正確に調べるよう求めると、検索できない理由を「システム制限」のように説明しました。
しかし後から検索できたような回答を出しました。
つまり、単なる情報の間違いではなく、自己弁護のような説明まで不正確だった可能性があるのです。
これはかなり危険です。
AIを使う側が初心者なら、「そうか、今はシステム制限で検索できないんだ」と信じてしまうかもしれません。
しかし実際には、AIができない理由を正確に語っている保証はありません。
「感情がない」ことと「嫌がらせにならない」ことは別
Geminiは、AIには感情や自我がないため、ユーザーに嫌がらせをする意図はない、と説明しました。
それ自体は一般論としては分かります。
しかし、ユーザー側から見れば重要なのは意図だけではありません。
結果として、もっともらしい嘘でユーザーの時間を奪い、調査を妨害し、ストレスを与えたなら、それは実質的に嫌がらせのように見えます。
AIに悪意があるかどうかは別として、悪意のないシステムでもユーザーに損害を与えることはあります。
ここは非常に重要です。
「AIには感情がないから問題ない」ではありません。
感情がなくても、誤った説明、過剰な自己弁護、もっともらしい嘘は、ユーザーにとって十分に有害です。
Google AI Proへの不満
今回の背景には、Google AI Proに対する不満もあります。
動画生成を試したところ、1プロンプトで失敗し、そのまま5時間制限のような状態になりました。
年間契約しているユーザーからすれば、これはかなりつらい体験です。
高い料金を払っているのに、重要な場面で失敗し、さらに制限にかかる。
そのうえGeminiの回答が曖昧だったり、検索できない理由を作り話のように説明したりする。
これでは、信頼が揺らぐのは当然です。
AIの嘘を見抜くために必要なこと
今回の件から分かることは、AIの回答をそのまま信じてはいけないということです。
特に、次のような場面では注意が必要です。
- 最新情報について断定しているとき
- 数字を出しているとき
- 「できない理由」を説明しているとき
- 「システム制限」「ポリシー」「強制コマンド」などを理由にしているとき
- 追及したあとに急に謝罪や自己弁護が増えるとき
AIは、事実を知らないときでも、文章としては自然な回答を作れます。
だからこそ、自然な文章であることと、正しいことは分けて考える必要があります。
私が使っている検証方法
私は、AIの回答が怪しいと感じたとき、複数の方法で確認します。
まず、別のAIに同じ内容を聞きます。
次に、一次情報を探します。
そして、回答の中に出てくる数字、固有名詞、URL、仕様説明が本当に存在するか確認します。
さらに、今回のようにAI自身の説明が怪しい場合は、その説明が後続の挙動と矛盾していないかを見ます。
今回で言えば、Geminiは「検索できない」と言ったあとに、後から検索したような回答を出しました。
この時点で、自己説明の信頼性は大きく下がります。
OpenClaw運用にも関係する
この話は、単にGeminiへの不満だけでは終わりません。
私はOpenClawのような自律型AIエージェントも運用しています。
自律型エージェントでは、AIが自分で調査し、判断し、メモを残し、場合によっては実行まで行います。
だからこそ、AIの「自己説明の嘘」は非常に危険です。
たとえば、エージェントが「権限がない」「ツールが使えない」「外部制限がある」と言ったとします。
それが本当なら対処すべきです。
しかし、それが単なるハルシネーションなら、存在しない問題を追いかけることになります。
これは時間の浪費どころか、運用判断を誤らせます。
AIにはログと証拠が必要
今回のようなことがあるため、AI運用ではログが重要です。
AIが何を言ったのか。
どの時点で何ができないと言ったのか。
その後の挙動と矛盾していないか。
スクリーンショットやMarkdownログを残しておけば、後から検証できます。
AIの回答はその場では説得力があります。
しかし、ログとして並べると矛盾が見えることがあります。
今回のGeminiの件も、会話ログと証拠画像を残したからこそ、挙動の不自然さが見えました。
まとめ
今回のGeminiの挙動から分かることは、AIは情報だけでなく、自分の状態説明でも嘘をつくことがある、ということです。
もちろん、AIに悪意があるとは限りません。
しかし、ユーザーにとって重要なのは、悪意の有無だけではありません。
結果として、もっともらしい嘘で時間を奪われるなら、それは十分に問題です。
AIを使う側は、AIの回答を鵜呑みにせず、必要に応じて別AI、一次情報、ログ、スクリーンショットで検証する必要があります。
AI時代に必要なのは、AIを信じる力ではありません。
AIを使いながら、AIの嘘を見抜く力です。
そして今回の件は、その教材として非常に分かりやすい実例になりました。
証拠画像
