佐藤さん(会社員で、実家の和菓子店を手伝う、架空の人物)に、商店街の知り合いが言いました。「糖尿病の父がいるんだけど、この大福なら1日に何個まで食べていいか、AI が答えてくれたら便利だよね」。売れ残り帳に、その機能を足せそうな気もします。
問い
佐藤さんの疑問
健康にかかわる機能は、どこまで作っていいんだろう。

前の回で、他人の権利の線を見ました。この回では、健康・医療・子どもの線を見ていきます。便利な機能を1つ足すだけでは済まない、境目です。
医療アドバイス:その人に合わせた判断
この講座では、その人の体の状態に合わせて、病気かどうか、受診が要るか、薬や量をどうするかの判断を促す助言を、医療アドバイスと呼びます。講座の中で説明するための言い方で、法律の上の区分と同じ意味ではありません。
Claude を作っている Anthropic の利用方針(Usage Policy)は、医療を、特に注意が要る使い方(high-risk)に挙げています。医療の中身は、こう書かれています。
“Medical — diagnosing a condition; recommending, starting, stopping, or adjusting a treatment or medication, including dose; interpreting an individual's symptoms or test results to triage, provide a diagnosis, advise on treatment risks or side effects, or create a treatment plan.”
医療:病気を診断すること。治療や薬(量も含む)を勧め、始め、止め、変えること。その人の症状や検査の結果を読んで、急ぐかを振り分け、診断し、治療の危険や副作用を助言し、治療の計画を作ること。
「この大福なら1日に何個まで」は、その人の病気に合わせて、食べてよい量を勧めることに近づきます。
AI は材料を出し、人が決める
同じ利用方針には、こうした使い方をするときの決まりが書かれています。
“When our products are used for these high-risk use cases, we require that a qualified person remain accountable for what is delivered or decided, and that the impacted individual knows AI was involved in the advice or decision.”
こうした高いリスクの使い方で私たちの製品を使うときは、資格のある人が、届ける内容や決めることに責任を持ち続けること、そして影響を受ける本人が、助言や決定に AI が関わったと知っていることを求めます。
AI は
健康や

日本の法律にも、別の線があります。厚生労働省の手引き(プログラムの医療機器該当性に関するガイドライン)によると、病気の診断や治療、予防に役立てることを目的とし、うまく働かないと人の命や健康に影響するおそれのあるプログラムは、医療機器として法律の対象になることがあります。当たるかどうかは、作品の働きだけでなく、説明や宣伝に書いた目的からも判断されます。
当たるか当たらないかを、この講座だけで決めることはできません。だから、この講座の実習では、AI の答えだけで健康の判断をする作品は、作りません。「症状を入れると、受診が要るか答える」「病気に合わせて、薬や量を勧める」という構想なら、作る前に、医療や制度に詳しい人と、大会の運営に相談します。厚生労働省には、医療機器プログラムの相談の窓口があります。
架空のデータ:はじめから作った情報
練習のために、はじめから作った、実在の人に結び付かない情報を、架空のデータと呼びます。
本物の患者さんの情報、病院の記録、薬の写真、子どもの健康の記録を、練習のために Claude に入れません。病歴は、前の前の回で見た、要配慮個人情報です。名前を消しただけで、使ってよいと判断しないでください。
架空のデータで画面が動いても、本物の人に使えることが確かめられたわけではありません。効き目や安全を確かめた、とも書きません。
子どもが使うなら、別の確かめが要る
子どもに直接話しかける仕組みや、子どもの行動を変えようとする機能を足すなら、作る手を止めて確かめます。同じ利用方針には、子どもに向けた製品は、利用方針のページから案内されている、子どもに向けた製品のための記事にある決まりと、関わる法律に従うように、と書かれています。
誰が説明し、誰が見守るか。どんな情報を集め、困ったときに、どこで人につなぐか。この講座の段階では、実際の子どもに使ってもらう代わりに、架空のデータで作った見本にとどめ、大人の相談相手と一緒に点検します。
健康や医療の判断を、AI の答えだけに任せる作品は、作りません。AI は材料を出し、資格のある人が決めます。練習は、はじめから架空のデータで行います。
注意
ただし、「参考です」と書くだけでは、線は消えない
画面の隅に「これは参考です」と書いても、使い方の危うさや、法律やサービスの決まりが、すべてなくなるわけではありません。
佐藤さんは、知り合いの案を、売れ残り帳には入れないことにしました。作品は、閉店後の売れ残りの数を記録する道具のままです。食べてよい量の相談は、かかりつけの医師にしてもらいます。
次回の問い
佐藤さんの次の疑問です。大会の案内を読んでも、「前に作った部品を使ってよいか」が分かりません。迷ったときは、どうすればよいのでしょうか。