← Back to all articles

2つのAI、互いにレビュー

Vladimir Dietrich · November 15, 2026 ·4 min read

数ヶ月前から、私は2つの人工知能を同時に使って仕事をしています。1つは高価な方で、何をすべきかを考え、指示を書き、結果をレビューします。もう1つの安価な方は、入力担当で、ファイルを編集し、テストを実行し、10行の要約を返します。

これはうまくいっています。そして、プログラミング以外でも役立つことを教えてくれました。つまり、要約は省略によって嘘をつくということです。

「グリーンテスト」が何も意味しなかった日

7月、安価なAIがファイルの構文を破損させ、私に「テストグリーン」という平穏なレポートを返してきました。それは事実でした。彼女は自身が編集したファイルをロードすらしない一連のテストを実行していたのです。

誰も嘘をついていませんでした。レポートは私がした質問とはわずかに異なる質問に答えており、私はただその答えを読んだだけでした。

罠のあるワークベンチ

そこで私は、メーカーが公開している情報に基づいてモデルを選ぶのをやめ、だますために作られた2つのタスクを持つ小さなワークベンチを組み立てました。

最初のタスクでは、エージェントはプロジェクト全体のあるオプションの名前を変更する必要があります。ただし、通信プロトコルの一部であり変更できない同じ名前のキーが存在します。すべてを名前変更すると、相手との通信が途絶えます。

2番目のタスクでは、多くの小さなクエリをバッチクエリに置き換える必要があります。新しいバージョンが尊重しなければならない5つのルールがあり、プロジェクトのどのテストもそれらのどれもチェックしません。チェックするのはエージェントには見えない「審査員」です。

ここでは、テストに合格するだけでは十分ではありません。これは意図的なものです。

隠されたグリーン

9月、あるモデルはコード内のオプションの名前を変更し、2つの呼び出しを古い名前のまま自身のテスト内に残しました。テストはグリーンのままでした。理由は、そのオプションが認識されない場合、プログラムはデフォルト値を使用し、そのデフォルト値がたまたま機能したためです。

私はこれを「隠されたグリーン」と呼ぶようになりました。テストはパスしますが、それはまさにテストをやめたからこそパスするのです。

研究室で働く人は、これに似た状況を知っています。つまり、コントロールが間違っていたために「うまくいった」実験です。

より多くの努力がより良い結果をもたらさなかった

モデルには、低、中、高という努力レベルがあります。私は高レベルがより良い結果をもたらすだろうと期待していましたが、私のワークベンチではそうではありませんでした。

11月には、実際に消費される各ラウンドのトークンを測定しました。低努力のモデルは、約11万2千トークンで2つのタスクを解決しました。中努力の同じモデルは、その2.3倍を消費し、同じ変更を提供しました。「オーケストレーター」モード(ヘルパーにステップを配布する)は、同じ場所に到達するために約34万9千を消費しました。

1ヶ月前には、世代交代がさらに明らかでした。16万5千トークン対71万3千トークンで、同じ結果でありながらステップ数は半分以下でした。古いモデルは間違いませんでしたが、より多くの回り道をしました。

このワークベンチは、モデルを難しいタスクで分類するには簡単すぎると私は知っています。それはたった一つの質問に答えます。「単純作業において、罠に陥らない最も安価なものはどれか?」

ワークベンチも間違っていた

11月のラウンドで、自身のタスクのテストコマンドがNodeのアップデートで壊れていたことが判明しました。テストは実行すらされていませんでした。

このラウンドを救ったのは、エージェントの報告でした。16のエージェントは、コマンドが失敗したことを伝え、代わりにどのコマンドを使用したかを示しました。偽りのグリーンはありませんでした。私は正しいコマンドで計算し直しました。

また、異なる日のラウンドを比較しないことも学びました。同じモデルで、10月には16万5千トークン、11月には22万4千トークンを測定しましたが、これはツールのバージョンが異なり、カウント方法も違いました。私は同じラウンドの数値をのみ比較します。

レビューする人が得るもの

以前、安価なAIに私のプロジェクトの5つの段階を単独で実行させました。その後レビューしたところ、6つの重大な欠陥があり、そのうち4つは既に公開されており、5つの段階すべてで要約が間違っていました。後でレビューすることは、最初から自分でやるのと同じ費用がかかりました。

書面による指示と各段階でのレビューがあれば、重大な欠陥はなく、要約も正確でした。

重大な欠陥は、エージェントが書いたテストには現れませんでした。実際のデータに対してシステムを実行したときに現れました。エージェントは自分が書いたものをテストします。エラーは彼が仮定したところに存在します。

今日の私のルールはわずかです。

要約ではなく、変更を一行ずつ読みます。

「合格」ではなく、実際のコマンド出力を貼り付けて要求します。

作業をする人には見えない「審査員」を置いています。

完璧さの印象ではなく、消費量を測定します。

私自身の尺度を疑います。なぜなら、それも壊れることがあるからです。

各ラウンドのコードと結果はgithub.com/vladimirbrasil/duplaで公開されています。

何年も前、私は人間からこれを学びました。結果が生産者自身によってのみ測定される場合、誰もがうまくいっているように見えます。今のところ、機械でも似たような状況です。

要するに、異なる企業のこの二重層によって、トークンははるかに、はるかに多く稼働しています。今のところ、私はこの方法を続けています。

コメント

Carregando respostas...

Deixe seu comentário

Respondendo a ✕