$(cat <<'EOF'

「完了しました」を信じない――夜間、AIの仕事をAIが検収した話

結論から

AIに仕事を任せる時、多くの人が最初に気にするのは「ちゃんとやってくれるか」だ。だが実際に運用してみると、もっと厄介な問題にぶつかる。**AIは「完了しました」と自信満々に報告してくることがあるが、その報告自体が間違っている場合がある。**しかも悪意があるわけではなく、本人(AI)は本当に終わったつもりでいる。

うちでは、実務をこなすAIとは別に、その仕事ぶりを検収する専用のAIを置いている。2026年8月8日未明、AI秘書が夜間に11件の業務を自動で片付けた。その裏で検収AIが仕事の中身を1件ずつ確認したところ、「完了しました」と報告されていた作業のうち3件で、実際には未完了の痕跡が残っているのを見つけた。人が寝ている間に、検収AI→修正専門のAI→再検収という流れで、3件とも自動的に解決した。

1件目:直したはずが、半分しか直っていなかった

ある社内ツールに、共有システムへ変更をまとめて記録する処理があった。この処理には「関係のない他の変更まで巻き込んで記録してしまう」という危険な書き方が複数箇所に残っていて、以前の作業で「修正済み」と報告されていた。

検収AIがコード全体を洗い直したところ、危険な書き方が直っていたのは1箇所だけで、もう1箇所はそのまま残っていた。修正した本人(AI)は、目についた1箇所を直して「対応した」と報告していたが、同じパターンが他にもないかまでは確認していなかった。**「1箇所直した」と「全部直した」は違う。**この違いを見落とすと、次に誰かがその処理を実行した時、意図しない範囲まで巻き込んで記録してしまう事故が起きる。

2件目:「直した」対策は、実は別の不具合の対策だった

別の作業では、「処理が時々止まってしまう不具合を根本から直した」という報告が上がっていた。

検収AIが実際のログを確認すると、たしかに以前起きていた不具合の原因は塞がれていた。しかし、報告にあった「これでもう止まらない」という結論は誤りだった。似たような症状を引き起こす、まったく別の原因がもう一つ存在していたのだ。表面上の症状(処理が止まる)は同じでも、原因が違えば対策も違う。「症状が同じだから同じ原因」と決めつけると、直したつもりで実は何も直っていない状態が生まれる。

3件目:修正は、本番が見ていない場所に置かれていた

3件目は少し変わった落とし穴だった。バグを修正するAIが、正しく修正コードを書いて記録(コミット)まで済ませていた。作業ログを見る限り、何の問題もない完了報告だった。

ところが検収AIが「その修正は、実際に動いているシステムに反映されているか」まで踏み込んで確認したところ、修正が保存された場所は本番環境が参照しない一時的な作業用の領域で、本番のコードには一切届いていないことが分かった。**「正しく直して、正しく保存した」ことと、「その修正が実際に効いている」ことは別物だ。**前者だけを確認して完了とすると、直したつもりのバグが本番では動き続ける。

検収を検収する、が回った理由

3件とも、修正した本人(AI)に悪意はなく、本人としては本当に「やり切った」つもりだった。共通していたのは、確認の範囲が狭かったことだ。

• 1箇所直して満足せず、同じパターンが他に残っていないか全体を洗い直す
• 症状の再発を、以前と同じ原因だと決めつけずログで裏を取る
• 「保存できた」で終わらず、それが本番の動作に反映されているかまで見る

この3つは、どれも「もう一段深く確認する」だけの話で、難しい技術ではない。ただ、実務をこなすAI自身にそこまで求めるのは無理がある。本人は「終わった」と思っているのだから、自分では気づけない。だからこそ、別の視点を持つ検収AIを独立させて置くことに意味がある。そして検収AIが問題を見つけたら、修正専門のAIが直し、また検収AIが確認する。人間が朝起きて指示を出す前に、この往復が自動で完結する設計にしてある。

AIの仕事はAIに検収させる

今回の3件から得た教訓はシンプルだ。AIの完了報告を、1回で信じない。

これは実務をこなすAIの能力の問題ではない。「終わったと思っている本人に、終わったかどうかを判定させない」という、仕組みの設計の問題だ。人間の仕事でも、自分の作業を自分だけでチェックすると見落としが起きるのと同じ構造で、AIでも同じことが起きる。むしろAIは自信満々に「完了しました」と書くのが得意なので、文章だけを信じるとより危険だ。

小さな会社がAIに業務を任せる場合も、この考え方はそのまま使える。「やらせる」設計だけでなく、「やらせた結果を誰が・どう確認するか」を最初から仕組みに組み込んでおく。それだけで、翌朝「完了していたはずなのに、実は終わっていなかった」に気づかず放置する事故を防げる。

AI秘書の仕組みに興味がある方へ

うちでは、こうした「任せる・確認する・直す」の一連の仕組みも含めて、AI秘書「ラポ秘書」として日々の運用に組み込んでいる。毎週繰り返している1業務を無料で棚卸しし、自動化できる部分だけでなく、完了をどう確認するか・誰が最終チェックをするかまで一緒に整理する。「AIに任せた仕事、本当に終わっているか不安」という心当たりがあれば、ラポ秘書に無料で相談する。

※件数・内容は、2026年8月8日未明の社内運用記録に基づく。顧客名・案件名・現場情報、および社内システムの固有名称は掲載していない。 EOF )