メインコンテンツへスキップ
AMPL/ dev
開発系講座一覧

Claude の答えを確かめる仕組み

Claude は、写真を読み違えることがあります。答えを決まった形で受け取り、読めないところは空けてもらい、最後は人が見て直せる形にしておきます。作品の中の Claude の答えは、そのまま使わず、確かめてから使います。

試しに書いたノートの写真を、売れ残り帳で初めて読ませてみました。表に、数がすっと入ります。佐藤さん(会社員で、実家の和菓子店を手伝う、架空の人物)がノートと見比べると、栗まんじゅうの「0」が、「6」になっていました。

問い

佐藤さんの疑問

Claude が返してきた数が合っているかは、どう確かめればいいんだろう。

ます目を描いた紙の上に、虫めがねが置かれている挿絵。

ここまでで、佐藤さんの作品は、ノートの写真を Claude API に送り、読み取った数を受け取れるようになりました。

第6部の最後のこの回では、その答えを、どう確かめてから使うかを見ていきます。

Claude は、読み違えることがある

Claude API の公式の説明(Vision)には、写真を読むときの注意が書かれています。

DOCUMENTATION

“Always carefully review and verify Claude’s image interpretations, especially for high-stakes use cases. Do not use Claude for tasks requiring perfect precision or sensitive image analysis without human oversight.”

Claude による写真の読み取りは、いつも注意して見直し、確かめてください。間違えると困る使い方では、なおさらです。完全な正確さが要る仕事や、慎重さが要る画像の分析に、人の目を通さずに Claude を使わないでください。

AnthropicVision(Claude API Docs)

同じ説明によると、写真の質が低い、向きが回っている、200ピクセルより小さい、といったときに、読み違えたり、ないものを読んだりすることがあります。数を数えるのも、だいたいの数になることがある、とあります。

写真(画像)を読む力は高くても、手書きのノートには、字のくせも、紙の影もあります。読み違えは起きるもの、として作ります。

ノートに鉛筆で書いた見比べ。ノートとClaudeを比べる。豆大福 4 4 ○、どら焼き 2 2 ○、栗まんじゅう 0 6 ×。6が丸で囲まれ、矢印で、0を6と読んだ、と書かれている。
佐藤さんのノート(説明のために作った絵です)。左の数がノート、右の数が Claude の読み取り。0 を 6 と読んでいました。

確かめる仕組み、3つ

1. 答えを、決まった形で受け取る

答えを、ふつうの文ではなく、「お菓子の名前と数の組」のような決まった形で受け取ります。Claude API には、答えを決まった形にそろえる仕組み(構造化出力)があります。公式の説明によると、この仕組みを使うと、答えの形は、ほぼ決まったとおりにそろいます。ただし、Claude が答えるのを断った場合や、答えが長さの上限で途中で切れた場合は、そろわないことがある、とも書かれています。

それに、そろうのは形です。中の数が合っているかまでは、保証されません。

2. 読めないところは、空けてもらう

第6部の第7回のシステムプロンプト(毎回伝える役目と決まり)に、「読めないときは、推測せず『読めない』とする」と書きました。Claude API の公式の説明(読み違いを減らす)にも、Claude に「分からない」と言ってよいと、はっきり伝えると、まちがった情報を大きく減らせる、と書かれています。

「読めない」と返ってきたところは、表を空けておき、目立つ色で示します。

3. 最後は、人が見て直す

読み取った数は、そのまま使わず、「2. 売れ残りを確かめる」の表に入れて、佐藤さんかお父さんが見ます。表に入るだけで、「お父さんに送る」のボタンは、人が表を見てから押します。第4部で作った表には、もともと「数が違っていたら、+と−で直してください」と書いてありました。ここが、そのまま確かめの場になります。

あすの目安の下には、「これは目安です。作る数を決めるのは、お父さんです」とあります。読み取りも、目安も、決めるのは人です。

答えは、人が見てから使う

架空の例

Claude 読み取る 決まった形 名前と数の組 読めない所は空ける 人が見て直す 佐藤さんかお父さん 送る 人が押す Claude 読み取る 決まった形 名前と数の組 読めない所は 空ける 人が見て直す 佐藤さんかお父さん 送る 人が押す
図1答えは決まった形で受け取り、読めないところは空けて、人が見て直してから送ります。

Claude Code に、確かめの仕組みを作ってもらう

確かめの仕組みを頼む例
読み取りの答えを、確かめてから使う形にしてください。
・答えは、お菓子の名前と数の組という決まった形で受け取ってください。
・6つのお菓子の名前以外が返ってきたら、表に入れず、表の下に「お菓子の一覧にない名前を読み取りました」と出してください。
・「読めない」と返ってきたお菓子は、数を空けて、目立つ色で「読めませんでした。手で入れてください」と出してください。
・読み取った数は、表に入れるだけにして、お父さんに送る前に、必ず人が見て確かめる流れにしてください。
作ったら、暗い写真、傾いた写真、字のかすれた写真で試したときに、どう出るかを見せてください。

この依頼文は、説明のための架空の例です。試す写真は、本物のお店のノートではなく、試すために自分で書いた紙で作ります。部屋を暗くして撮る、紙を斜めにして撮る、鉛筆で薄く書く、といった写真も用意します。

Claude の答えは、そのまま使いません。決まった形で受け取り、読めないところは空け、最後は人が見て直せるようにします。

注意

ただし、間違えると困る使い方には、Claude の読み取りを任せない

和菓子の売れ残りの数なら、読み違えても、人が見て直せます。でも、お金の額、薬の量、人の体にかかわる数のように、間違えると困るものを、Claude の読み取りだけで決める作りにしてはいけません。公式の説明にも、完全な正確さが要る仕事に、人の目を通さずに使わないように、とあります。

作品の中で Claude に何を任せ、何を人が決めるか。この線引きは、審査でも見られるところです。第8部で、もう一度扱います。

次回の問い

佐藤さんの次の疑問です。手元で動くようになった作品を、URL で人に渡して触ってもらうには、どうすればよいのでしょうか。

参考

ビジョン(Claude API Docs)
写真を読むときの、できることと注意。日本語。
platform.claude.com · platform.claude.com
ハルシネーションを減らす(Claude API Docs)
「分からない」と言ってよいと伝えるなど、読み違いを減らす方法。
platform.claude.com · platform.claude.com

このレッスンは役に立ちましたか?