メインコンテンツへスキップ

生成プロセスとサンプリング

テキスト生成の仕組み、温度パラメータ、Top-p/Top-kサンプリング、確率的生成を学びます

  • レッスン 6 / 9
  • 9分

このレッスンで

終わる頃には、次ができるようになります

  • 生成AIが次の単語の確率分布から単語を選択し文章を生成する仕組みを説明できる
  • 温度パラメータが出力の一貫性と多様性にどう影響するかを、低温・高温それぞれの特徴から説明できる
  • 診断書と症例報告書で推奨される温度設定とサンプリング方法の違いを使い分けられる

セクション1: テキスト生成の基本プロセス

次の単語の予測

生成AIは、次の単語を予測することでテキストを生成します。入力を受け取ってから終了条件に達するまで、この予測を1語ずつ繰り返すことで、文脈に沿った文章が組み上がっていきます。

01

入力を受け取る

プロンプトを読み込む

02

確率を計算

次に来る単語の出現確率を計算する

03

単語を選択

確率に基づいて次の単語を選ぶ

04

繰り返す

選んだ単語を追加し、終了条件まで02に戻る

テキスト生成の基本プロセス

確率分布

AIは次の単語の候補すべてに対して出現確率を計算します。

医療現場での例:「患者は胸痛を訴え、心電図で」という文の後、AIは以下のような確率分布を持つ可能性があります。

  • 「異常所見」:30%
  • 「ST上昇」:25%
  • 「不整脈」:20%
  • 「正常」:15%
  • その他:10%

セクション2: サンプリング戦略

グリーディーとランダム

2つの基本サンプリング

グリーディー
最も確率の高い単語を常に選ぶ。同じ入力には常に同じ出力になり一貫性が高いが、多様な表現は生まれにくい。診断書など一貫性が重要な文書に向く。
ランダム
確率に基づいてランダムに単語を選ぶ。多様で予想外の表現が生まれるが、同じ入力でも出力が変わる。症例報告書など多様な表現が求められる文書に向く。

温度パラメータ

温度パラメータは、サンプリングのランダム性を制御する値です。低い温度(0.1-0.5)では確定的で一貫性のある出力に、中程度(0.7-1.0)ではバランスの取れた出力に、高い温度(1.5-2.0)では創造的で多様な出力になります。グリーディーサンプリングは温度がほぼゼロの状態に近いイメージです。

診断書や診療記録など正確性が重要な文書では、低い温度(0.3-0.7)が推奨されます。設定できるツールでは、まずこの範囲から試すのが安全です。


セクション3: Top-kとTop-pサンプリング

Top-k と Top-p(Nucleus)

Top-k
確率の高い上位k個の単語だけから選ぶ。低確率の単語を排除して品質を保ちつつ、k個の中で多様性を維持できる。専門用語の選択など品質と多様性を両立したい場面に向く。
Top-p(Nucleus)
累積確率がpに達するまでの単語から選ぶ。確率分布の形に応じて選択範囲が動的に変わり、文脈に応じた柔軟な選択ができる。様々な医療文書に適用できる汎用性がある。

セクション4: 医療文書生成での実践

文書の種類によって、推奨される温度とサンプリング方法は変わります。

診断書

温度0.3-0.5、Top-p(p=0.9)。最大長は不要に長くならないよう制限する

症例報告書

温度0.7-0.9、Top-p(p=0.95)。最大長は詳細な報告書が書けるよう長めに設定する

要約

温度0.2-0.4、グリーディーまたはTop-k(k=10)。最大長は要約の長さに応じて設定する

文書タイプ別の推奨設定

どの設定でも、生成された文書は必ず品質を確認し、文書の種類や目的に応じて調整することが重要です。



セルフチェック

1. 温度パラメータ(Temperature)が低い場合(0.1-0.5)の出力の特徴として正しいものはどれですか?

2. グリーディーサンプリングの特徴として正しいものはどれですか?

3. 医療現場で診断書を生成する際の推奨設定として最も適切なものはどれですか?

明日のアクション

明日、生成AIツールで同じ医療文書の作成を、異なる温度設定(低温:0.3と高温:0.9など)で試してみましょう。出力の違いを比較し、自分の業務でどの温度設定が最適かを検討してください。APIが利用できない場合は、プロンプトで「正確かつ簡潔に」と「創造的に詳しく」と指示を変えて違いを体感してみましょう。

このレッスンは役に立ちましたか?