セクション1: テキスト生成の基本プロセス
次の単語の予測
生成AIは、次の単語を予測することでテキストを生成します。入力を受け取ってから終了条件に達するまで、この予測を1語ずつ繰り返すことで、文脈に沿った文章が組み上がっていきます。
入力を受け取る
プロンプトを読み込む
確率を計算
次に来る単語の出現確率を計算する
単語を選択
確率に基づいて次の単語を選ぶ
繰り返す
選んだ単語を追加し、終了条件まで02に戻る
確率分布
AIは次の単語の候補すべてに対して出現確率を計算します。
医療現場での例:「患者は胸痛を訴え、心電図で」という文の後、AIは以下のような確率分布を持つ可能性があります。
- 「異常所見」:30%
- 「ST上昇」:25%
- 「不整脈」:20%
- 「正常」:15%
- その他:10%
セクション2: サンプリング戦略
グリーディーとランダム
2つの基本サンプリング
温度パラメータ
温度パラメータは、サンプリングのランダム性を制御する値です。低い温度(0.1-0.5)では確定的で一貫性のある出力に、中程度(0.7-1.0)ではバランスの取れた出力に、高い温度(1.5-2.0)では創造的で多様な出力になります。グリーディーサンプリングは温度がほぼゼロの状態に近いイメージです。
診断書や診療記録など正確性が重要な文書では、低い温度(0.3-0.7)が推奨されます。設定できるツールでは、まずこの範囲から試すのが安全です。
セクション3: Top-kとTop-pサンプリング
Top-k と Top-p(Nucleus)
セクション4: 医療文書生成での実践
文書の種類によって、推奨される温度とサンプリング方法は変わります。
温度0.3-0.5、Top-p(p=0.9)。最大長は不要に長くならないよう制限する
温度0.7-0.9、Top-p(p=0.95)。最大長は詳細な報告書が書けるよう長めに設定する
温度0.2-0.4、グリーディーまたはTop-k(k=10)。最大長は要約の長さに応じて設定する
どの設定でも、生成された文書は必ず品質を確認し、文書の種類や目的に応じて調整することが重要です。
セルフチェック
1. 温度パラメータ(Temperature)が低い場合(0.1-0.5)の出力の特徴として正しいものはどれですか?
2. グリーディーサンプリングの特徴として正しいものはどれですか?
3. 医療現場で診断書を生成する際の推奨設定として最も適切なものはどれですか?
明日のアクション
明日、生成AIツールで同じ医療文書の作成を、異なる温度設定(低温:0.3と高温:0.9など)で試してみましょう。出力の違いを比較し、自分の業務でどの温度設定が最適かを検討してください。APIが利用できない場合は、プロンプトで「正確かつ簡潔に」と「創造的に詳しく」と指示を変えて違いを体感してみましょう。