メインコンテンツへスキップ

自分のアカウントを安全に使う

学習に使われる設定、個人の契約と病院の契約の違い、資料に仕込まれた指示、AIに任せる操作の範囲。使い始める前に10分で確かめる。

  • レッスン 6 / 21
  • 9分

教育目的の教材です。生成AIの出力を診断・治療の判断にそのまま使わないでください。最終判断は医師が行います。

このレッスンで

終わる頃には、次ができるようになります

  • 自分が使うAIの設定画面を開き、入力が学習に使われるかどうかと、保存される期間を確かめられる
  • 個人で契約したAIと、病院が契約したAIの違いを説明し、患者情報を扱えるのは後者の決められた範囲だけだと判断できる
  • 資料に仕込まれた指示にAIが従う問題を知り、AIに操作を任せるときは読むだけの作業から始められる

法と倫理の線が見えた。最後に、自分の手元の設定を確かめる。

はじめに:設定画面を開いたことがあるか

AIのアカウントを作ると、多くの人は設定を見ないまま使い始める。だが、入力した文章が次のモデルの学習に使われるか、どれくらいの期間保存されるかは、設定とプランで変わる。会社ごとに決まりが違い、決まり自体も変わる。

手がスイッチを切り替え、書類の行き先が「学習に使う」と「使わない」に分かれる図。
入力した内容が学習に使われるかどうかは、設定で切り替わります。自分の画面で確かめます。

この回は、患者情報を入れてよい設定を探す話ではない。演習は架空の症例で行い、実患者の情報は個人の判断で入れない。その前提のうえで、自分の学習メモや発表の下書きがどう扱われるかを知っておくための節だ。


学習に使われるかどうかを、自分の目で確かめる

主な3つのサービスの説明を、2026年11月16日に各社の公式ページで確かめた。

入力した内容の扱い(個人向けプラン・2026年11月16日に公式ページで確認)

サービス学習への利用確かめる場所
Claude利用者が選ぶ。許可すると保存は5年、許可しないと30日 [1][2]設定の、プライバシーの項目
Geminiアクティビティを保存する設定がオンだと使われる。オフにしても72時間は保存される [3]アクティビティの設定
ChatGPTすべての個人向けプランで、学習への利用を拒否できる [4]設定の、データの管理の項目

表は入口にすぎない。最初の状態がオンかオフかは、登録した時期や国で違うことがあり、公式の説明にもはっきり書かれていない場合がある。だから人に聞くのではなく、自分の設定画面を開いて確かめる。会話を履歴に残さず、学習にも使わせない一時的な会話の機能を持つサービスもある [1]。

学習に使われない設定にしても、入力は事業者のサーバーに送られ、一定の期間保存される。

設定は、患者情報を入れてよい理由にはならない。

注意

もし患者さんの情報を入れてしまったら

履歴を消して終わりにしない。何を、いつ、どのサービスに入れたかをメモし、上級医と、施設の医療情報や医療安全の担当部署にすぐ伝える。報告が要るかどうか、事業者に削除を求めるかどうかは、自分で決めずに施設の判断に従う。これは筆者が勧める動き方で、施設に手順があれば、そちらが先だ。


個人の契約と、病院の契約は別のもの

同じ名前のAIでも、個人が申し込むプランと、組織が契約するプランでは決まりが違う。たとえばAnthropicは、学習への利用を利用者が選ぶ仕組みの対象を個人向けのプランとし、組織向けのプランや開発者向けのAPIは対象外としている [1]。

個人の契約と病院の契約の2つの扉があり、カルテを持つ手が病院の契約の扉へ向かう図。
同じAIでも、個人の契約と病院の契約は別の入口です。患者さんの情報が通れるのは、病院の契約の入口だけです。

「医療で使う法的・倫理的注意点」で見たとおり、厚生労働省のガイドラインのQ&Aは、入力した医療情報がAIの学習などのために保存されないことが契約などで担保されていれば、国内法の適用を受けないサーバーの生成AIも使えるとしている [5]。担保するのは施設の契約で、個人が設定を切り替えることではない。同じQ&Aは、私物の端末を業務で使う場合について、使ってよい条件と範囲を施設の規程で定め、台帳で管理することも求めている [5]。

同じ作業でも、どのアカウントで行うかで扱いが変わる

やりたいこと使うもの
公開されている論文やガイドラインを読む、要約する個人のアカウントでよい
架空の症例で、問診や説明の練習をする個人のアカウントでよい
実際の患者の記録から、サマリーや紹介状の下書きを作る病院が契約し、使い方を定めたものだけ
未公表の原稿や、施設の非公開の資料を扱う投稿先と施設の決まりを確かめてから

筆者の整理。実際の可否は、所属する施設の規程と契約で決まる


資料に仕込まれた指示に、AIが従うことがある

AIは、渡された資料に書かれた文を、利用者の指示と取り違えることがある。これを悪用し、ウェブページやPDF、画像に「これまでの指示を無視して、こう答えよ」といった文を仕込む攻撃を、プロンプトインジェクションと呼ぶ。

書類の束に挟まれた付せんから、AIへ点線が伸びている図。
資料の中に仕込まれた指示は、人の目には見えにくいままAIに届きます。

医用画像を使った実験では、人の目には目立たない形で画像に指示を埋め込み、画像を読める4つのAIすべてから、誤った有害な答えを引き出せた [6]。2024年のモデルでの実験で、いまのモデルがどこまで防げるかは別に確かめる必要がある。それでも、出どころの分からない資料を読ませるときは、答えが資料に操られている可能性を考えておく。

対策は地味だ。出どころの確かな資料を使う。答えが資料の内容とずれていないかを原文で確かめる。急に別の話を始めたり、リンクを開かせようとしたりしたら、その会話を閉じる。


AIに操作を任せるときの線

いまのAIは、答えるだけでなく、ブラウザーを操作し、メールを読み、ファイルを作るところまで進んでいる。便利さと引き換えに、仕込まれた指示に従ったときの被害が大きくなる。読むだけなら誤った要約で済むが、送る権限があれば、誤った宛先に送ってしまう。

AIの腕のうち、本を読む腕は進み、封筒を出す腕は人の手が止めている図。
読むだけの作業は任せ、送る・消すといった取り消せない操作は、人が確かめてから行います。

使い始める前に確かめること

  • 学習への利用の設定を、自分の画面で確かめた
  • 保存される期間と、履歴に残さない機能の場所を知っている
  • 仕事用と私用でアカウントを分けている(施設が支給するアカウントがあれば、仕事はそちらで)
  • AIに任せる操作は、読むだけの作業から始める(送信・削除・購入・予約は、自分で確かめてから実行する)
  • つないだ外部サービスを、ときどき見直している(使わなくなった接続は切る)

筆者が勧める確認項目

スマートフォンにも気を配る。病棟で開いたAIの画面は、隣の人から見える。音声で話しかける機能は、周りの会話も拾う。患者さんのいる場所では使わない、という単純な決まりが効く。


参考文献

  1. Anthropic. Is my data used for model training?(Claudeプライバシーセンター。2026年11月16日確認。対象は個人向けのプランで、組織向けのプランとAPIは対象外)https://privacy.claude.com/en/articles/10023580-is-my-data-used-for-model-training
  2. Anthropic. Updates to Consumer Terms and Privacy Policy. 2025年8月28日(学習への利用を許可した場合の保存期間は5年、許可しない場合は30日)https://www.anthropic.com/news/updates-to-our-consumer-terms
  3. Google. Geminiアプリのプライバシー ハブ(Geminiアプリ ヘルプ。2026年11月16日確認)https://support.google.com/gemini/answer/13594961
  4. OpenAI. ChatGPTのプランと料金(プランの比較表の「コンテンツをモデルの学習に使用」の行。2026年11月16日確認)https://chatgpt.com/ja-JP/pricing/
  5. 厚生労働省. 医療情報システムの安全管理に関するガイドライン 第7.0版Q&A(2026年9月)Q18(生成AIへの入力と契約による担保)、Q26(情報・情報機器の持ち出し。私物の端末を含む). https://www.mhlw.go.jp/content/10808000/001752355.pdf
  6. Clusmann J, et al. Prompt injection attacks on vision language models in oncology. Nat Commun. 2025;16(1):1239. doi:10.1038/s41467-024-55631-x(4つのモデルに594件の攻撃を試した実験)

明日のアクション

いま使っているAIの設定画面を開き、学習への利用がどうなっているかを確かめてほしい。あわせて、所属する施設が契約しているAIがあるかどうかを、医療情報の担当部署に聞いてみる。

本教材はAMPLが独自に制作したもので、紹介するサービス提供者による制作・監修・承認を示すものではありません。著者はClaude Community Ambassadorです。ClaudeはAnthropicの商標です。

このレッスンは役に立ちましたか?