まず結論：止める・戻す・学ばせる
正直に言っておく。AIは、失敗する。暴走もする。見当違いのことを、堂々とやってのける。
だから、うまく使う人と、そうでない人を分けるのは、「失敗させないこと」ではない。失敗からの、戻り方だ。前提を「失敗する」に置いて、戻る道を用意しておく。やることは三つ。止める、戻す、学ばせる。
暴走を、止める
おかしいと思ったら、すぐ止める。これがいちばん大事で、いちばん見落とされる。
AIが妙な方向に走り出したとき、「もう少し様子を見よう」は禁物だ。違和感は、たいてい当たっている。即座に止める。途中で止めても、何も失われない。むしろ、走らせ続けるほうが、後始末が増える。
止めることに、遠慮はいらない。
巻き戻して、なかったことにする
止めたら、戻す。ここで効いてくるのが、作業を小さく刻んでおくことだ。
一気に大改造をさせると、おかしくなったとき、どこから狂ったか分からない。小さく刻んで進めておけば、「ここまで戻す」が簡単にできる。一歩ずつ確かめながら進むと、失敗しても、一歩だけ戻ればいい。
戻せる単位で進む。これは、速さを犠牲にしない。むしろ、安心して速く進める。
同じ失敗を、繰り返さないために記録する
最後に、学ばせる。同じ失敗を二度させないために、何が起きたかを、記憶に残す（第7章）。
「この頼み方だと、こう間違える」と分かったら、それをメモに残す。次から、AIはその前提を踏まえて動く。失敗が、一回ごとに、仕組みの改良になる。
失敗を、なかったことにしない。次の精度に変える。これが、OSが育つということだ。
持ち帰り
- 違和感を覚えたら、様子見せず、すぐ止める
- 作業は小さく刻んで進める。戻せる単位を保つ
- 失敗の原因が分かったら、記憶に残して、二度目を防ぐ
ここまでが第5部。最小構成、指示の磨き方、失敗の作法。あなたのOSを、自分の手で組む準備ができた。
最後の第6部で、少しだけ顔を上げる。これだけ速くなった先に、人間には、何が残るのか。