患者がChatGPTの答えを持って来たら

患者が「AIにこう言われました」と話したとき、最初に正誤を争う必要はありません。その会話には、症状の経過、不安、受診を決めた理由が含まれています。

AIを診断の代わりと見なさず、患者が持ってきた情報の一つとして扱います。

AIの答えより、会話の経路を聞く

まず三つを確認します。「何を入力しましたか」「どの返答が気になりましたか」「今日は何を確かめたいですか」。画面を見せてもらえるなら、質問と返答を一緒に読みます。

この順番なら、「AIは間違っている」で会話を閉じずに済みます。入力が足りなかったのか、緊急性の表現が強すぎたのか、もっともらしい誤情報が混じったのかを分けられます。

医師は、問診、診察、検査、経過を合わせて判断します。AIとの会話だけで診断を確定したり、受診を不要と断定したりしません。

高い得点は、臨床で安全という証明ではない

HealthBenchは、262人の医師が作成に参加した5,000件の模擬的な健康会話で、AIの返答を評価するベンチマークです。人が会話ごとに作った基準を使い、モデルベースの採点器で評価します。緊急時の案内、不確実性、文脈確認、説明の深さなどを測ります。HealthBench

これは重要な前進です。ただし、会話例への回答を採点することと、実際の患者で診断遅延、再受診、有害事象、生活の質を測ることは別です。ベンチマークで高得点でも、地域の受診経路、薬の入手性、家族状況までは自動で分かりません。

WHOは、大規模マルチモーダルモデルが誤った、不完全な、偏った情報を生成しうることを挙げ、医療での統治と独立した監査を求めています。WHOのガイダンス

入力する前に、データを信号で分ける

患者が便利さを得るために、診療情報を一般向けAIへ渡してよいとは限りません。サービスの契約、保存、学習利用、削除、国外移転は製品ごとに違います。

公開された一般情報や架空症例は、試行に使えます。組織が承認した環境で扱うデータも、匿名加工情報、仮名加工情報、識別子を外しただけの個人情報を区別し、承認条件を確認します。氏名、生年月日、顔写真、検査画像、診療録の貼付けは、個人判断で一般向けAIへ入力しません。

患者自身の端末利用でも、医師は「入れてはいけない」と叱るより、何が保存されるか分からない情報は入力前に立ち止まる、と説明できます。

診察室で使う三つの返し方

第一に受け止めます。「調べて不安になったのですね」。第二に分けます。「合っている点と、追加確認が必要な点を一緒に見ます」。第三に次の行動を決めます。「今日はここを診察し、この症状なら早めに受診してください」。

練習には架空の相談を使います。AIの返答を、正しい情報、未確認、危険な断定の三つに分け、追加で聞く質問を三つ書きます。合格条件は、AIを擁護することでも否定することでもありません。患者の不安を残さず、判断を診療の経路へ戻すことです。

会話を診療へ戻す手順を持ったら、次は「理解された」と感じる経験とAIの内面を分けます。