第3章　生成して、検証して、決める

速いから、つい、うのみにする

一つ、白状する。私も、最初は失敗した。

AIが、一瞬で立派な答えを出してくる。あまりに速くて、もっともらしいから、つい、そのまま使ってしまう。あるとき、AIが挙げてきた参考文献を、確かめずに、資料へ載せた。後で気づいた。その論文は、存在しなかった。

AIは、嘘を、堂々とつく。しかも、本当のことと、同じ顔で。速さに引きずられて検証を飛ばすと、この嘘が、そのまま自分の成果物に、混じる。

だから、AIと組む仕事には、一つの「型」が要る。

AIと組む仕事は、たった一つのループでできている。

生成 → 検証 → 決定 → 記録。

これを、高速で回す。ポイントは、四つを同じ速度でやらないことだ。生成は速く、検証はていねいに、決定はあなたが、記録は必ず。この非対称が、速さと安全を、両立させる。

多くの人がつまずくのは、生成の速さに引きずられて、検証まで速くしてしまうこと。AIが一瞬で出してくるから、つい、一瞬で受け入れてしまう。そこが、いちばん危ない。

四つの工程を、もう少し開く。

【表：四つの工程】

生成は、一案だけでなく、複数案を出させていい。むしろ、三案を比べたほうが、速く決まる。検証は、AI自身にもやらせる（「この出力の弱点を、自分で挙げて」）が、最後は人間の目を通す。決定は、絶対に渡さない。記録は、後で同じ判断を繰り返さないために、残す。

私は、医療の文章を扱う。ここで検証を省くと、患者に害が及ぶ。だから、生成と検証を、別々のAIにやらせることがある。

一つのAIに文章を書かせ、別のAIに「この記述は、引用された論文と、本当に一致しているか」を照合させる。書き手と、校閲を、分ける。人間の編集部と、同じ構えだ。

なぜ分けるのか。同じAIに「あなたの書いたもの、合ってる?」と聞くと、自分の答えを、つい擁護しがちだからだ。別の役として立てると、遠慮なく、粗を探す。

それでも、最後に「これを世に出す」と決めるのは、私だ。AIが二重三重にチェックしても、署名はしない。署名は、責任を取る者がする。AIは、責任を取れない。

検証をていねいにやると、遅くなる気がする。じつは、逆だ。

検証を飛ばして出した間違いは、後で必ず、もっと大きなコストで戻ってくる。間違った数字で会議をすれば、その会議ごと、やり直しになる。誤った情報を出せば、信頼ごと、失う。

検証は、生成で稼いだ速さを、無駄にしないための保険だ。速く作れるようになったぶん、検証に時間を回せる。これが、正しい配分になる。速さは、検証を削るためにあるのではない。検証に、時間を回すためにある。

ループの中で、一箇所だけ、全力でブレーキを踏む場所がある。取り返しのつかない操作だ。

ファイルを消す。本番に公開する。外部にメールを送る。お金を動かす。こういう一手は、どれだけAIが「やっていいですよ」と言っても、人間が確認してから、実行する。

私のシステムでは、ここを規律として固定し、AIが勝手に踏み込めないようにしてある（組み方は、第9章で見せる）。可逆な作業は、どんどん任せる。不可逆な操作は、必ず止まる。アクセルは広く、ブレーキは固く。

【演習：一周、回してみる】

次にAIへ仕事を頼むとき、四工程を意識して、一周する。

そして、「消す・公開・送信・支払い」だけは、何があっても、自分の手で最終確認する。

次章では、ループを回す前の話をする。そもそも、いきなり作り始めないこと。「作る前に、調べる」だ。