AIが書いたコード、読めないまま使っていい？ AI同士にレビューさせたら同じ急所を3回直すことになった話

前の記事で書いたとおり、ブログ告知を Threads へ自動投稿する小さなツールを Claude Code に書かせました。ツールは動いています。ただ正直に言うと、私はそのコードの中身を全部は追えていません。眺めはしましたが、読み切れてはいません。

それでも使う以上、「動いたから大丈夫」で済ませていいのか、という引っかかりは残ります。ただ、読めない人間には自分で確かめる手段がありません。そこで、書いた AI とは別の AI にコードをレビューさせることにしました。組み合わせは、Claude が書いて Codex（GPT-5系）が検査する形です。

結果は4往復で重大指摘3件。その3件は、入口こそ違うものの、すべて同じ1つの急所を突いていました。この記事は、中身を追えない人間が、AI 同士の検品でその急所を塞いでもらうまでの記録です。

AI にコードを書かせている人が「動いた」の先で何を確認するべきか、実例で書きます。作業は 2026年8月です。

何を作らせていて、どこが一番危なかったか

題材のツールは、ブログ記事を公開したあと Threads に告知を1件投稿するものです。Python の標準ライブラリだけで動く、小さなコマンドラインツールです。作らせた経緯と、設定画面まわりで詰まった5ヶ所はThreads API の記事にまとめています。

Threads の投稿は2段階です。まず投稿の中身（コンテナ）を作り、次にそれを公開します。危ないのは、公開のリクエストを送った「後」です。そこで通信が乱れると、投稿されたのかされていないのか、ツールからは分からなくなります。

分からないまま「失敗しました」と表示すれば、使う人は再実行します。公開が実は成功していれば、同じ投稿が2件並びます。しかも投稿用の権限では削除ができないため、消すのは手作業です。小さなツールでも、ここだけは取り返しがつきにくい場所でした。

白状すると、この「一番危ない場所」も、最初から自分で見えていたわけではありません。1回目のレビューで指摘されて、初めて場所が分かりました。

1回目の指摘: 安全の案内が出ないまま落ちる

Codex の1回目のレビューで、重大判定が1件付きました。平たく言うと、公開のリクエストを送った直後に通信が乱れると、ツールが安全の案内を出さないまま異常終了する、という指摘です。案内が出なければ、使う人は失敗と思って再実行します。まさに上の急所でした。

指摘の原文には、原因になる失敗の種類がいくつか並んでいました。壊れた応答や、読み取りの時間切れです。正直、その区別は私には読み取れません。分かったのは「乱れ方によっては、案内より先にツールごと落ちる」という一文だけで、判断にはそれで足りました。

修正は Claude に指示しました。その系統の失敗を捕まえて、「成否不明です。再実行する前に、プロフィールで投稿の有無を確認してください」という案内に倒す形です。テストも増えて、このときは塞がったつもりでいました。

2回目の指摘: 直したはずの網を、別の失敗が素通り

次の往復で、同じ急所にまた重大判定が付きました。今度は、応答が途中で切れる失敗（IncompleteRead）です。1回目に張った網とは別の系統に属していて、網を素通りするという指摘でした。

ここで効いたのが、Codex が指摘に添えてきた再現テストです。通信を使わずにその失敗を起こし、ツールが案内なしで落ちる様子を目の前で見せる小さなコードでした。中身は読めなくても、「実行したら本当に落ちた」は分かります。机上の意見と違って、これは疑いようがありません。

直し方そのものも、ここで変わりました。失敗の種類を1つずつ数えて捕まえるのをやめて、「公開リクエストを送った後に起きた失敗は、種類を問わず成否不明として扱う」。守る場所を、失敗の種類ではなく境界（公開リクエストの直後）に置く形です。Claude にそのとおり直させました。

3回目の指摘: Ctrl+C。人間の指も想定外だった

これで終わりだと思っていたら、3往復目のレビューがまた同じ急所を突いてきました。今度の入口は Ctrl+C、人間による中断です。公開の応答待ちは最大30秒あるので、待ちきれずに止めるのは現実に起こります。

「種類を問わず」と直したはずなのに、なぜ漏れるのか。説明によると、Python の決まりで、Ctrl+C による中断は「あらゆる失敗を受け止める」という書き方のさらに外側を通るのだそうです。そこに外側があることを、私はこのとき初めて知りました。ここは深追いせず、そういうものだと覚えるだけにしました。

対処は、公開の境界に限ってその外側まで受け止め、安全の案内を出してから、中断そのものは通常どおり進める形です。回帰テストが3件増えました。4往復目のレビューで「重大指摘なし」。ここでようやく収束です。

学び: 覚えるのは「境界で守る」の一文だけでいい

3回の指摘を並べると、壊れた応答、途中で切れた応答、人間の中断と、入口はばらばらです。共通するのは「公開という取り返しのつかない操作の直後で失敗が起きると、成否不明のまま落ちる」という1点だけでした。

失敗の種類を数える直し方は、知っている失敗にしか効きません。知らない失敗は必ず残ります。「この境界から先で何が起きても、成否不明に倒す」と場所で決めて、ようやく止まりました。

コードを読めない私がこの4往復から持ち帰ったのは、実質この一文だけです。ただ、一文でも使い道はあります。AI への指示書（ルールファイル）にこの一文を書き足して、次のツールでは最初から適用させるようにしました。

ファイルをアップロードしてから記事に紐づける WordPress のツールなど、取り返しのつかない操作を挟む道具は、同じ2段階の構造を持っています。コードは読めなくても、ルールは日本語で書けます。

人間の仕事は、レビュー指摘の採否を決めること

中身を追えない人間に、検品でやる仕事はないのか。やってみると逆でした。指摘ごとに「受け入れるか、断るか」を決める仕事は、AI には渡せません。そして裁くための材料（なぜ危ないか・本当に起きるのか・直すと何が変わるか）は AI に出させればよく、2回目の再現テストはその最たる例です。

実際、4往復の指摘をすべて受け入れたわけではありません。たとえば「トークンが古くなったら投稿自体を止める」という安全装置の案は断りました。失効してもコマンド1つで復旧できる作りにしてあるので、安全装置を増やす複雑さが割に合わないからです。断った理由も記録に残しています。

逆に、こちらの判断が覆された例もあります。「この設定を変えると動作が壊れるのでは」と見送っていた変更を、Codex が実測で「壊れない」と示してきて、見送りを撤回しました。

レビュー AI との付き合い方は、全部従うでも、聞き流すでもなく、指摘ごとに理由を付けて裁くことだと思います。今回の実測は、重大3件・中程度9件・4往復・テストは26件から45件でした。手を動かしたのはずっと AI で、私の手元に残ったのは採否の記録です。

ちなみに、この回し方はコード専用ではありません。この記事自体も、公開前に AI の機械検品（禁止表現や表記の照合）を通してから出しています。

まとめ: 「動いた」で止めず、壊れ方まで検品させる

題材になったツールの詰まりどころ（エラーが出ない設定画面、16桁 ID の取り違えなど5ヶ所）はThreads API の記事にまとめています。AI に書かせるコードの鍵の置き場所は1Password の記事に書きました。

このブログは、AI に道具を作らせて、AI 系の商材を検証して、結果を数字ごと公開する実験ノートです。「読めないなら使わない」ではなく、「読めないなりの検品体制を作って使う」。その記録をこれからも残していきます。