現況:AIが作った200問超を、AIが4段階でチェックした
先日、社内で使っている資格試験対策アプリ向けに、AIに200問を超える練習問題を作らせました。作りっぱなしにはせず、機械的な検品パイプラインも用意しました。「出典が書かれているか」「別のAIに解かせて正答と一致するか」「計算問題は実際に計算し直して合うか」「アプリに正しく登録されているか」という4段階のチェックです。
結果は全問がこの4段階を通過しました。数字だけ見れば「AIが作って、AIが検品して、全部合格」という、いかにも自動化がうまくいった話に見えます。
対応:人が20問だけ、実際に読んでみた
それでも念のため、無作為に抜き出した20問だけを人の目で読み直してみました。結果は、はっきり分かれました。文句なしの合格は5問。残りの15問、つまり4分の3は「修正が必要」または「そのままでは使えない」でした。
原因を掘り下げると、検品の仕組み自体に構造的な穴があったことが分かりました。一番大きかったのは、正解の選択肢だけ説明が長くなるという偏りです。実測したところ、200問超のうち8割の問題で、正解が4つの選択肢の中で一番文字数が長い選択肢になっていました。何も考えずに「一番長い選択肢を選ぶ」だけで8割正解できてしまう計算です。
これは、検品に使っていた「別のAIに解かせて一致するか確認する」という仕組みにとって致命的でした。別のAIも同じ手がかり(長い選択肢は正解っぽい)を使って解いていたため、正答と一致しやすくなっていただけで、問題の質を確認できていなかったのです。AIが解けたことは、問題が正しく作られている証拠にはなっていませんでした。
他にも、出典として書かれている文書名が実在しない、既存の問題と実質的に同じ内容が重複している、といった問題も見つかりました。「出典が書いてあるか」を確認するチェックは、その出典が本物かどうかまでは見ていなかったのです。
結果:「形式が正しい」と「中身が正しい」は別物
その後、選択肢の長さの偏りを検知する仕組みを追加し、法令の条文と数値を直接照合する検証も組み込みました。これでかなりの部分は改善しましたが、それでも新しい落とし穴が見つかりました。ある数値が「法令のどこかに存在するか」までは確認できても、「その数値が、この設問が指している条件に本当に当てはまるか」までは見分けられなかったのです。同じ条文の中にある、別の場面向けの数値を、そのまま正解として扱ってしまうケースが残っていました。
ここで気づいたのは、AIに作らせたものをAIにチェックさせると、同じ盲点をそのまま引き継いでしまう、ということです。作る側と見る側が同じような視点で物事を見ていると、双方が気づかない穴は素通りしてしまいます。機械的なチェックが「全部通過」と言っていても、それは「形式が整っている」ことの証明であって、「中身が正しい」ことの証明ではありません。最終的には、作る過程を知らない人が実際に中身を読んで確認する工程を、恒久的な最後の砦として残すことにしました。
この経験は、資格試験の問題作りに限った話ではないと感じています。見積書や提案書、議事録の要約など、AIに作らせた成果物をAIにチェックさせて終わりにする場面は増えています。ですが「AIが作って、AIが確認した」だけでは、両者が同じ思い込みを共有していれば、そのまま素通りしてしまう危険が残ります。
AI任せにしない検品体制を、一緒に考えませんか ラポルタでは、日々の業務にAI秘書「ラポ秘書」を組み込みながら、AIが作った成果物をどう検品するかという運用そのものも試行錯誤しています。AI活用を進めたいけれど「本当に大丈夫か」が気になる方は、お気軽にご相談ください。 ラポ秘書に無料で相談する