状況
LLMによる患者教育介入の効果を調べるSRを進めている。スクリーニング(abstract判定)の話は別に書いたが、そもそもその前のプロトコル設計が相当な手間だった。
PICO、検索式、適格基準、データ抽出フォーム、バイアスリスク評価の計画……PRISMA 2020準拠でプロトコルを揃えると、初稿だけで3〜4日かかる。しかも疫学が専門でない自分には、「この検索式で本当に網羅できているか」「NOS(Newcastle-Ottawa Scale)とRoB 2はどちらを使うべきか」といった判断に時間がかかる。ここをAIで加速できないかと思って使い始めた。
やったこと
Claudeに「コクランレビュアーの経験を持つ疫学専門家」として振る舞わせ、自分のリサーチクエスチョンとPICOを渡した。
あなたはコクランレビュアーの経験を持つ疫学専門家です。以下のリサーチクエスチョンについて、システマティックレビューのプロトコルを設計してください。
# リサーチクエスチョン
LLMを用いた患者・家族への教育介入は、通常の教育と比較して知識・理解・行動変容を改善するか
# PICO
- P(対象): 一般人(患者・家族・健康成人)
- I(介入): LLMによる教育介入
- C(比較): 通常教育 or LLMなし
- O(アウトカム): 知識・理解・満足度・行動変容のいずれか
# 出力形式
## 1. 適格基準
- 組み入れ基準(研究デザイン、対象、介入、アウトカム)
- 除外基準
## 2. 検索戦略
- PubMed検索式(MeSH用語+自由語の組み合わせ)
- CENTRAL、Embase用の検索式
- ハンドサーチの対象ジャーナル
- グレーリテラチャーの検索方法
## 3. スクリーニングプロセス
- タイトル/アブストラクトスクリーニングの基準
- フルテキストスクリーニングの基準
- PRISMA フローチャートの想定
## 4. データ抽出
- 抽出項目リスト
- データ抽出フォームの設計
## 5. バイアスリスク評価
- 使用するツール(RoB 2, ROBINS-I, NOS等)
- 評価項目
## 6. データ統合
- メタアナリシスの実施可能性の判断基準
- 効果指標(RR, OR, MD, SMD)
- 異質性の評価(I², Q検定)
- サブグループ解析・感度分析の計画
- 出版バイアスの評価方法
## 7. エビデンスの確実性
- GRADE評価の計画
注意:プロトコルはPROSPEROへの事前登録を推奨します。
返ってきた草案を読んで、自分の研究に合わない部分(「LLMとルールベースChatbotの切り分け方」「ChatGPT/Claude/Gemini等の固有名詞をどこまで検索式に入れるか」)を指摘して追加で詰めた。この往復が2〜3回。
検索式に関しては、AI出力をそのままPubMedに貼って試し打ちし、ヒット件数と代表論文を見ながら微調整するというプロセスが有効だった。「この式だとヒット数が800件を超える。絞り込みたい」と返すと、除外する概念や追加する限定条件を提案してくれる。
効いたところ
- プロトコル草案の初稿を1日以内に作れるようになった(以前は3〜4日)
- PRISMA 2020の必須チェック項目を網羅した骨格を最初から渡してくれるので、「GRADE評価の計画を書き忘れた」という抜け漏れが起きにくい
- バイアスリスク評価ツール(RoB 2 vs ROBINS-I vs NOS)の選択理由をその場で確認できるので、後から「なぜこれにしたか」を言語化しやすい
- 検索式のロジック(AND/OR/MeSH展開)を対話しながら調整できるので、検索漏れの懸念を潰しやすい
限界・気をつけていること
- PROSPEROへの事前登録は必須: AI出力でプロトコルを速く作れても、登録前にSRを始めてはいけない。「速く作れる」は「登録を省略できる」ではない
- 適格基準はレビュアー間で合意する: 境界的な論文(例えばLLMとルールベースChatbotの中間的なシステム)をincludeするかどうかは、2名のレビュアーが独立して判定し、カッパ係数で一致率を確認する。AIが基準を作っても、運用する判断は人
- 検索式は文献管理ツールで実際に叩く: AI生成の検索式はロジックとして正しくても、MeSHのバージョンや特定データベース固有の構文で動かないことがある。PubMed・Embase・CENTRALそれぞれで試し打ちして件数を確認する
- AI使用の方法欄明記: プロトコル文書に「プロトコル草案の設計にLLM(Claude)を使用し、著者が内容を確認・修正した」と書く。Cochrane等の投稿規定でAI使用の開示が求められ始めている
- 「草案」として扱う: AI出力は出発点。疫学的な妥当性(交絡・バイアスの整理)や自分の研究文脈との整合性は、自分とコレビュアーで確認する
横展開
プロトコル設計のあとは、スクリーニング(別ケース参照)、データ抽出フォームの整形、リスクオブバイアス評価の下書き、GRADE評価の素案作成と、SRの各工程でAIを使える。いずれも「機械的な骨格を速く作る」には効くが、研究の信頼性に直結する最終判断は人が担う。この分担ラインを最初に決めておくと、AI活用の範囲が迷わなくなる。