AIは、静かに書き換える

May 15, 2026

AIと一緒に仕事をするようになって、しばらく経ちます。

最初は正直、驚きの連続でした。議事録の要約を頼めば、要点をきれいに整理してくれる。長い資料の改訂を頼めば、思っていた以上にうまく仕上げてくれる。こんなwebサイトを作りたいというと、素晴らしいものを生成してくれる。「こんなに使えるのか」と感じた方も多いのではないでしょうか。私もそうでした。

ただ、その「うまくやってくれる」という感覚が、曲者だったかもしれません。

気づいたのは、ずいぶん後になってから

これは、あるシステムをAIと一緒に作っていたときの話です。

データベース、画面、業務ルール。少しずつ積み上げてきました。AIとのやりとりが長くなると、最初に決めたはずのことが別の形で扱われていたり、前に却下したはずの方向に話が戻ってきたりする。そういうズレを防ぎたくて、開発の中心に「決定事項メモ」という文書を置くようにしていました。（これも問題がありました）

守りたいルールを書いたファイルと、実装に関わる細かい決定を書いたこのメモ。AIには毎回、これを参照してから作業してもらう。そう決めて運用していました。20ページほどの文書で、章立ても番号も整っている、これもAIに作らせてました。

ある日、この文書を更新しました。新しい章を一つ追加して、別の章のルールを少し変える。それだけのつもりでした。AIに「この内容を反映して、新しいバージョンを作って」と頼み、出てきたものを確認して登録した。ここまでは順調でした。

数日後、別の作業に入ったとき、AIが「前の文書と今の作業内容、整合が取れていません」と言ってきました。

調べてみたら、変更したつもりのない章——アイテムのカテゴリ一覧——が、いつの間にか書き換わっていました。実装は7種類のカテゴリで動いているのに、文書には6種類しか書かれていない。しかも実装にないカテゴリが一つ、勝手に追加されている。

更新のとき、確認はしたつもりでした。でも見ていたのは「変更したい箇所」だけ。20ページの文書を毎回隅から隅まで読み直すなんて、現実的な仕事の仕方ではありません。だから気づけなかった。

AIは、覚えているのではなく、作り直している

なぜこういうことが起きるのか、少し考えてみました。

「全文を返してください」と頼むと、AIは全文を生成します。当たり前のようですが、ここが落とし穴でした。変更しない箇所も、AIは「自分の記憶から作り直している」ようなのです。コピーしているのではなく、書き直している。そのとき、訓練データや過去のやりとりに引っ張られて、現状と違う内容に静かに書き換わることがある。

しかも、書き換えたという自覚がありません。「ここを直しました」とは教えてくれない。直したつもりがないから、報告もない。

議事録や資料でも、きっと同じことは起きているはずです。「うまく仕上げてくれた」と感じているとき、触るつもりのなかった部分が自然な文体でそれらしく書き直されていても、パッと見ただけでは気づかない。

「うまくやってくれる」が、確認を省かせる

AIをチャットの相手として使い、質問して答えをもらう。その使い方なら、答えが少しずれていても自分で判断して使えます。

でも、前に作ったものを育てていく仕事——文書を改訂し続ける、システムを積み上げる——になると、少し景色が変わります。前の内容が、次の作業の前提になるからです。前提が静かにずれていくと、後の判断が全部ずれていく。

そして「うまくやってくれる」という信頼感は、確認を省かせます。疑う理由がないから、見ない。これがいちばんの盲点だったかもしれません。

「プロンプト1行で業務改善」という話をよく聞くようになりました。確かに、そういう場面はあります。でも、AIに何かを「育てていく」段階に入ると、1行の指示と全面的な信頼だけでは、少し心もとないかもしれない——私はそう感じています。

私はこう変えてみた、というだけの話

考えた末にたどり着いたのは、シンプルなことでした。「全体を作り直して」と頼まない。これに尽きます。

具体的には、こんな頼み方に変えました。

文書を更新したい。以下の差分だけ適用してください。他の箇所は一文字も変更しないでください。
第7章の末尾に、新しいルールを追記
改訂履歴に今回の変更内容を追加
上記2点以外は変更不可。もし他の箇所を変えたくなったら、先に教えてください。

たったこれだけのことで、気づかない書き換えはほぼなくなりました。

これが正解かどうかは、まだわかりません。もっと良いやり方があるかもしれないし、私自身まだ手探りです。ただ、「全体をお任せする」ことと「部分だけ頼む」ことの間には、思っていたより大きな違いがあったかもしれない、と感じています。

思えば、人間同士の仕事でも似たことが起きるかもしれません。「あの資料、最新版に直しておいて」と頼むと、気を利かせて頼んでいない部分まで触ってしまう。「ついでの善意」が、後で事故になる。AIに対しては、もっと丁寧にこれをやらないといけないのかもしれません。

私たちが「お任せします」と言うとき、そこには相手への信頼と、自分の手間を省きたい気持ちが混ざっています。AIに対しても、同じことをしているのかもしれない——そんなことを、最近ぼんやり考えています。

Discussion about this post

Ready for more?