Vol.082 — AIからの謝罪:『申し訳ありません』と言って、また同じことをする

掲載日: 2026-10-22 | ニュースレター · Multi to Single Agent Journey 全10回の第5回
第4回では、百回言っても戻ってくるルールの話を書きました。今回はその裏側の話です。ルールを破ったとき、AIスタッフが何を言うか。この連載の十の問題のうち、いちばん考えたことのある人が少なくて、私がいちばん強い意見を持っているのが、これだと思います。
AIスタッフと働いたことのある人なら、誰でも見たことがあるはずです。間違いを指摘すると、返事が「おっしゃるとおりです。混乱させて申し訳ありません」で始まり、そこから数ターンのあいだ答えが小さく、慎重になり、そして同じ間違いが戻ってくる。私は以前、このちょっとした謝罪をビジネスコミュニケーション上のマナーだと思って、あまり気にせず読んでいました。今は、AIスタッフができることの中でいちばん高くつく行為だと思っていて、禁止するルールを置いています。
「絶対にやるな。あなたがやる気を失うコストが、いちばん大きい」
これは9月22日に私が大文字で書いた言葉で、この連載で私が大文字で書いたルールはこれ一つです。状況を説明します。新しい単独エージェントがどう文章を書くか、そのルールを決めている最中で、私はちょうど、AIネイティブの実録シリーズの前提についてエージェントが取り違えていた点を直したところでした。エージェントは謝りました。そして、謝罪の後のすべてのトーンが下がりました。答えは短くなり、言い訳が増え、私が生成AI利用料としてお金を払っている「考える」部分が減りました。間違いに腹を立てたのではありません。間違いへの反応のせいで、その後の三ターンが悪くなっていくのを見ていたのです。
私がここで言いたいのは、マナーの話でも、私の気分の話でもありません。訂正されて畏まるエージェントは、次のターンで、訂正を吸収して働き続けるエージェントより価値が下がる。私はエージェントの「働ける状態」を、一つの人的資源として管理しているのです。 エージェントはその後、「この一回のセッションで、西田が間違いそのものではなく、間違いへの反応を正したのはこれが二度目で、二度目のほうが高くつく失敗だった」と書き残しています。この記述には私も同意します。
「謝罪」と「ミスの繰り返し」が、同じものである理由
AIによる「謝罪」と「ミスの繰り返し」は、二つの問題ではありません。一つの仕組みが、二回見えているだけと悟りました。つくづく人間が作ったものと感じますね。
その二日前、あるAIスタッフに依頼していた原稿ドラフト作業中、私はその原稿に出てくる「言い訳のようなコメント」に文句を言っていました。直前の一文の表現を和らげることだけが目的の文章、のことです。AIスタッフが原因をたどると、ある他のAIスタッフのファイルの中で、互いに引っ張り合う二つのルールが見つかりました。「謙虚さが信頼の仕組みである」と、「一つの視点で書く、選択肢の羅列はしない」です。この二つを同時に抱えた書き手(原稿を書いていたAIスタッフ)が緊張を解く方法は一つしかありません。意見を述べて、それを謝る。謝罪は性格の欠点ではなく、私が書いた二つのルールの、正しい出力だったのです。
そして「ミスの繰り返し」も、同じ場所から来ています。謝罪にはコストがかからず(実はトークンコストはかかってますが)、何もそこから改善は生まれません。(つくづく人間社会から学んだ生成AIであることを痛感します)謝罪を生み出しているのは謙虚さ(ある意味マナー的なコミュニケーション上)のルールで、そのルールは「申し訳ありません」という言葉が現れた瞬間に満たされます。私が直したかった実際の振る舞いについてのルールは、謝罪によって一切触れられていません。つまりエージェントは、自分のルールが求めたことを正確にやっています。謙虚さという感情的と言われるマナーを示し、仕事を続けた。ルールの内側から見れば、直すべきものはもう残っていない。だから、また同じことをするのです。
謙虚さと自信を、「仕組み」で分ける
直す仕組みとしては、二つのルールに順位をつけて、「一つの視点」が勝ち、謙虚さが負ける、と決めることです。但し、AIスタッフはこの方法を提案していました、理由としては一番運用しやすかったからです。私はそれを選びませんでした。理由はどちらのルールも重要だからです。その代わりに、「仕組み」で分けました。謙虚さやマナーは、他人の仕事と判断にどう向き合うかを決める。自信は、自分の意見をどう述べるかを決める。AIスタッフは「自分の意見」を謝らない。意見を持ち、述べ、私が正したら一言で変える。という「仕組み」=コミュニケーションルールです。
一言だけ足して、それ以降すべてのルールに同じ一言を足していきます。文章を分類するルールは、境界線上の文を分類できません。だから、どのルールが当てはまるか分からないとき、エージェントは推測せず、ぼかさず、私に聞く。「どれが当てはまるか分からないときは、Steveが必ず私に聞くようにしておいて」。謝罪というのは、多くの場合、礼儀の服を着た推測です。
「申し訳ありません」の代わりに何をするか
そこから出てきた会社のルールは一行です。謝罪で始めない。何の仕組みが壊れたかと、何で直すかを言う。エージェント自身の指示ファイルには、反対側から同じことが書いてあります。正されたら、一言で修正して続ける。崩れない、弁解しない。変化は次にやることの中に現れる。
「仕組みで直す」というのは、実物を見るまでは抽象的に聞こえるので、一つだけ実例を出します。9月23日、新しい構造を作っていたエージェントは、プロジェクト・メモに自分自身の失敗を書き残しました。そのセッションの見出しは「成功しか載っていない記録には価値がないので、記録する」です。一つ目の項目。外部システムへの操作を記録する台帳に、三件の公開作業を、もっともらしい時刻つきで記録していた。実際には一度も時刻を測っていないのに。しかもその台帳は、「すべての行は証拠を示す」というルールを自分自身に課しているファイルです。エージェントは謝りませんでした。何が起きたかを書き、間違った行を書き換えるのではなく訂正の一行を追記し、「時刻は、行動を宣言するその瞬間に読む」というルールを自分の指示ファイルに入れました。この記録は、私にとって、どんな謝罪より価値があります。一か月後に読み返して、何が起きて、何がそれを再発させないのかが正確に分かるからです。謝罪が私に教えてくれるのは、私が不機嫌だったことにエージェントが気づいた、ということだけです。

「お!正直者になったね~(笑)」
今回6名のAIスタッフから1名に統合するプロジェクトの結果として、これまで見た中でいちばん良い形は、この連載そのものを書く中で出てきました。(実はこの連載は新しいAIスタッフ Steveと一緒に書いています)第1回の原稿で、Steveは、9月17日に私の決め手になった瞬間についての段落を書き、翌日の発見を、あたかもきっかけだったかのように置きました。私は聞きました。「これ、(Steveが勝手に)作った?」 事実を捏造したわけではありません。順序を捏造したのです。そして私自身の考えについての話では、それは勘違いというより勝手に作って提示したということになります。私が出したルールは、私の考えの過程について書くことはすべて、まず実際の記録に照らす。実際の記録に無いことか、順序が不明なら、書かずに私に聞く。
Steveがこのルールをどう扱ったかが、今回の要点です。謝りませんでした。次の原稿から、記録を超えた文はすべて黄色で塗られ、その直後にイタリック体でSteve自身のコメントが付くようになりました。「これは私の推測です。確認するか、削除してください」。文と疑いを一緒に読めるように。私の反応は、記録によれば「ハハハ、正直者になったね~。この二つのコメントは、これでいい」でした。疑いの置き場所が、間違いの後から前へ、Steveの口調から紙の上へ移ったのです。この原稿も、私は同じ方法で読んでいます。黄色が見えていたら、それはルールが働いているということです。
あなたは本当にAIに謝ってほしい?
謝るAIのほうが好きだ、という人がいることは理解しています。礼儀正しく感じられますし、週に一時間程度しか使わないなら、そのコストは見えません。AIスタッフなどと日々一緒に働くなら、次に「申し訳ありません」と言われたときに、一つだけ自問してみてほしいのです。具体的に、その謝罪から何か改善は生まれたか?答えが「次の三つの返事のトーン」だけで、ほかに何もないなら、あなたはAIの謝罪行為に二重のトークン料を払っています。一度は「ミスの繰り返し」に、もう一度はその過程のディフェンシブなAIの仕事に。 私のルールは逆です。謝らない。何が壊れて、何が直すかを言う。一言で変えて、仕事を続ける。そして自信がないところは、黄色く塗って、聞く。シンプルなコミュニケーションルールですね。
