生成AIは、医療現場の文章作成や情報整理を助けます。しかし、出力が自然な文章であることと、内容が正しいことは別です。安全性はツールだけで決まらず、入力する情報、使う目的、確認する人、施設の運用を合わせて設計する必要があります。
安全は一つの機能ではなく、承認、入力、下書き表示、判断範囲、出典確認、人の確認、見直しの7本で支えます。
1. 施設の承認を先に確認する
個人で使えるサービスでも、業務で使えるとは限りません。施設の利用規程、情報管理部門の指示、契約されたアカウントや環境を確認します。規程がなければ、実患者情報を扱う前に責任者へ相談します。
2. 未承認サービスに患者情報を入力しない
診療録、調剤情報、看護記録、検査情報などは要配慮個人情報に該当します。氏名やIDを削除しても、年齢、日付、希少な病名、詳しい経過などの組み合わせから本人が推測されることがあります。
練習では架空データ、公開情報、自作したダミー資料を使います。
3. AIの出力を「下書き」と表示する
生成AIは、存在しない文献、誤った数値、もっともらしい説明を作ることがあります。AIが作った部分を判別できるようにし、担当する医療従事者が原資料と照合します。
4. 高リスクの判断を任せない
次の用途では、生成AIの出力だけで行動を決めません。
- 診断や治療方針の決定
- 薬剤名、投与量、禁忌、相互作用の確認
- 急変リスクや緊急度の判定
- 患者へ直接送る個別の医学的助言
- 法律、制度、施設規程の最終解釈
使う場合も、選択肢や確認観点を整理する補助にとどめ、一次資料と担当者の判断を優先します。
5. 出典を開いて確認する
AIが示した文献名やURLが実在するとは限りません。ガイドライン、添付文書、行政資料、原著論文を実際に開き、対象、日付、結論が出力と一致するか確認します。
6. 共有前に人が責任を持つ
紹介状、申し送り、患者説明、院内資料などは、作成者または担当者が内容を確認してから共有します。「AIが書いた」は確認を省く理由になりません。
7. 小さく試し、記録して見直す
導入時は、患者情報を含まない低リスクの作業から始めます。入力、出力、修正点、所要時間、事故につながりそうだった点を記録し、本当に業務改善になったかを評価します。
用途を3段階で考える
| 段階 | 例 | 基本対応 |
|---|---|---|
| 練習しやすい | 架空データで文章を整える、公開資料を要約する | 出力確認を行う |
| 組織確認が必要 | 院内文書、申し送り、業務データの整理 | 承認環境、権限、確認者を決める |
| 高リスク | 診断、投薬、緊急度判定、個別助言 | AIだけで決めない。一次資料と担当者判断を優先する |
入力前チェック
- 施設が承認した利用目的と環境か
- 実患者の情報を含んでいないか
- サービスの保存、学習利用、国外移転、削除条件を確認したか
- AIを使う必要がある作業か
出力後チェック
- 原文にない事実が追加されていないか
- 数字、単位、日時、固有名詞が正しいか
- 医学的主張を一次資料で確認したか
- 担当者が確認したか
- 誤送信や過剰共有がないか
問題が起きたとき
患者情報を誤って入力した、誤情報を共有した、想定外の保存が判明した場合は、個人で解決しようとせず、施設の情報管理・個人情報保護・医療安全の手順に従って速やかに報告します。
参考資料
- 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」
- 個人情報保護委員会・厚生労働省「医療・介護関係事業者における個人情報の適切な取扱いのためのガイダンス」
- 厚生労働省「医療情報システムの安全管理に関するガイドライン 第6.0版」
- WHO「Ethics and governance of artificial intelligence for health」
本記事は一般的な安全教育資料であり、個別の法律相談や臨床判断を代替しません。
