ヒューマン イン ザ ループ型AI：PV症例の処理とレビューを効率化する実証済みのアプローチ

By Sanjay Vyas, President of Patient Safety Services & Clinical Logistics and Managing Director of India

Aneiss Ghodsi, Head of AI Engineering, Parexel AI Labs

公開日：2024年10月7日

人工知能（AI）が広く実用化される中、多くの企業がAIを活用して既存業務の自動化や変革を進めようとしています。しかし、実際にはすべてのプロセスを一足飛びに完全自動化することは難しく、多くの組織がその課題に直面しています。

パレクセルでは、多くのAIソリューションに「ヒューマン イン ザ ループ (人が関与するAI)」のアプローチを採用することで、安全性を維持しながら、より積極的にAIを導入しています。AIシステムと高度な専門知識を持つ人材をシームレスに組み合わせた共生型プラットフォームにより、完全自動化が現時点では現実的でない業務や、人による説明責任が求められる場面でもAIを効果的に活用できます。このアプローチにより、従来の業務プロセスから段階的に自動化を進めながら、安全性や品質を損なうことなく、むしろそれらを向上させることが可能になります。パレクセルでは、このヒューマン イン ザ ループの考え方を活用し、数年にわたってファーマコビジランス（PV）業務にAIを適用してきました。

ヒューマン イン ザ ループ型AIとは

ヒューマン イン ザ ループ型AIは、人とAIシステムが学習・開発・運用のいずれかの段階で連携するあらゆる仕組みを指す言葉として使われています。臨床開発においてパレクセルが重視しているのは、本番環境で人とAIが協働する仕組みです。このアプローチの対極にあるのが、人による監督や責任を伴わない完全自動化です。しかし、臨床研究のように高い倫理性とリスク管理が求められる分野では、このような完全自動化は多くの場合、適切でなく非効率的です。

機械学習（ML）モデルやAIシステムは、複雑な課題に取り組むほど、必ず一定の不確実性を伴います。特に近年急速に発展しているディープラーニングでは、判断の根拠が分かりにくく、挙動を完全に保証することも容易ではありません。そこでパレクセルでは、AIが人を支援するユーザー中心のワークフローを構築しています。AIがすべてを制御するのではなく、意思決定プロセスには必ず人が関与し、AIの出力を「事実」ではなく「提案」として確認します。理想的なシステムとは、人間とAIが互いの強みを補完し合い、相乗効果を発揮できるようにするものです。その実現には、以下の要素が重要です。

• モデルとワークフローの設計

どのようなモデルを構築するかは、モデルそのものの作り方以上に重要です。開発者はユーザーの目的を踏まえて適切なモデルを選択し、人がAIの支援を受けながら効率的に業務を進められるワークフローを設計します。

• 最適なモデルの構築

モデルにはそれぞれに適した用途があります。そのため、最終的なシステムやユーザーの目的を十分に理解したうえで、モデルの特性や長所・短所を考慮し、複数の技術を組み合わせながら最適なモデルを構築します。

• AIファーストのアプリケーション設計

アプリケーション設計の初期段階からAIを組み込みます。例えば、AIによる予測結果とその根拠を紐付けて提示することで、ユーザーがAIを適切に活用できるワークフローを実現します。

• ユーザートレーニング

どれほど優れたAIでも、成果は利用者のスキルに左右されます。AIソリューションを最大限に活用するためには、ユーザーが自らの業務フローの中でAIと適切に協働できるようになることが重要です。

PV業務を支えるAIモデル

AIはAIを前提に設計されたシステムでこそ、最大限の効果を発揮します。既存システムへAIだけを追加しても、十分な成果は期待できません。パレクセルではPVソフトウェアの開発にあたり、文献レビュー画面の操作性をはじめとするユーザー体験を重視し、AIが自然で使いやすい形で業務を支援できるよう設計しました。また、意思決定に必要な情報をどのように表示するか、どのAIモデルを採用するか、さらにその結果をどのように提示すれば直感的で理解しやすいかについても、慎重に検討しています。

AIモデルの構築

PV症例の処理とレビューを支援するため、パレクセルではPVワークフローに最適化された複数のAIモデルを開発し、目的に応じたワークフローアプリケーションへ実装しています。重要度の高い症例を優先的に処理するため、AIは各文献における安全性事象の発生確率を評価し、関連性の高い論文の全文取得やAIによる初期翻訳を自動で実施します。さらに自然言語処理（NLP）によって、有害事象（AE）や対象製品に関連する箇所を特定し、レビュー担当者へ直接提示します。これにより、時間を要するレビュー作業を大幅に効率化し、人的コストを削減しています。

AIモデルの評価

AIモデル開発には、信頼性の高い評価方法が欠かせません。パレクセルでは、過去の実績データや実運用での知見に加え、適合率（Precision）、再現率（Recall）、F1スコアといった標準的な機械学習指標を組み合わせることで、AIシステムの精度と網羅性を検証しています。

モデルは用途や目的に応じて評価方法を使い分けます。特定の状況下での挙動を保証しなければならないモデルについては、その状況に基づいてテストが行われ、ステークホルダーと協議されます。例えば、ブランド名や一般名を多言語で正確に抽出するモデルでは、機械学習ではなく辞書ベースの堅牢な手法を採用し、リリース前に厳格な検証を実施します。

一方、不確実性を伴うモデルについては、ゴールドスタンダードのテストデータを用いて評価し、業務要件に応じた性能基準を満たしていることを確認します。例えば、有害事象を検出するモデルでは見逃しを防ぐため再現率を重視する一方、MedDRAコードを予測するモデルでは誤検出を抑えるため適合率を重視します。そのため、コードの見落としを補うための人的レビューをワークフローに組み込んでいます。

最終的にモデルの有用性は、ステークホルダーのニーズを満たしているかどうかによって判断されます。AIに共通する絶対的な精度基準は存在しないため、AI専門家とプロジェクトの目的や業務フローを熟知したSME（特定分野の専門家）が連携し、適切な評価指標と基準を決定しています。

導入とトレーニング

パレクセルでは、AIモデルの運用やナレッジ管理を支える専用ツールを開発しています。導入時には、各プロジェクトや利用者の要件に合わせた設定、ユーザー受け入れテスト（UAT）、ユーザートレーニングを実施します。AIを初めて利用するユーザーも多いため、トレーニングでは明確な業務フローを整備するとともに、AIが提示する提案をどのように理解し、活用すべきかについても丁寧に説明しています。

AIファーストソリューションがもたらす成果

AIファーストの製品設計とユーザートレーニングを組み合わせることで、パレクセルは現在、数十社のお客様にAIを活用したPV文献症例処理ソリューションを提供しています。このソリューションでは、文書受領時の安全性シグナルの判定、有害事象レビューの優先順位付け、PVに関連する単語やフレーズの抽出・ハイライトなど、ワークフロー全体にAIを組み込むことで、従来の手法や一般的な最新システムを大きく上回る効率化を実現しています。その結果、文献症例処理の完了までの中央値を50%以上短縮し、年間約40万件の症例処理において処理能力を2倍以上に向上させました。この成果は現在も改善を続けており、従来のPVプロセスと比較して年間数万時間規模の作業時間削減につながっています。

ファーマコビジランスはパレクセルがAIを最初に導入した領域の一つですが、現在ではヒューマン イン ザ ループ型AIの考え方をさまざまな分野へ展開しています。この戦略により、完全自動化が難しい業務でもAIを活用して大きな変革を実現し、パレクセルが長年培ってきた専門知識をさらに強化しています。また、サービスの品質や信頼性を維持しながら、今後さらに洗練されたソリューションを迅速かつ柔軟に取り入れていくことが可能になります。