生成AIの動向と仕組み

社会動向　第７章

学習目標

生成AIの基本構造と医療応用の可能性・リスクを理解する。

到達レベル

• 生成AIの特徴を従来AIと比較して説明できる
• 医療での利用時の注意点を説明できる

学習内容

【基本】

• 生成AIとは何か
• 大規模言語モデル（LLM）の基本的考え方
• ChatGPTの仕組みと特徴
• 医療文書作成・対話支援への応用例

【発展】

• Diffusionモデルの直感的理解
• ハルシネーションの問題
• 医療分野での安全性・信頼性の課題

なぜ医療にAIが必要なのか

社会的要請

高齢者、医師の地域偏在、診療負担の増大といった構造的課題を解決する手段として期待。

医療情報のデジタル化

電子カルテ、医用画像(DICOM)、検査データが標準化された形式で蓄積・管理され、AI学習の基礎が整備。

技術の高度化

計算資源の増大とアルゴリズムの進化により、高度なデータ解析が可能に。

技術的基盤の成熟と、医療現場が抱える構造的課題が、AI導入への期待を加速させています。

生成AIがもたらしたパラダイムシフト

生成AIは単なる分析ツールから「創造ツール」へとAIの役割を拡張しました。

従来のAI

既存のデータからパターンを学習し、正解を予測・分類する技術

生成AI

学習データの統計的構造を利用し、新たな文章、画像、音声などを自ら創り出す技術

生成AIの主な種類と代表的なモデル

これ以外も多数の生成AIモデルが開発されています。近年では、複数のモダリティを統合的に処理できるマルチモーダルAIが主流となりつつあります。

大規模言語モデル（LLM）とは何か

OpenAIのGPT系列、GoogleのPaLM/Med-PaLM、AnthoropicのClaudeなどが代表例です。「ChatGPT」はGPT系LLMを用いた対話サービスの名称です。

特徴

インターネット上のテキストや書籍、論文など膨大な文章データを事前学習した、

パラメータ数が数十億~数千億規模に及ぶニューラルネットワークモデル

事前学習：特定のタスクに特化せず、まず汎用的な言語能力を獲得させる

汎用性：追加の個別学習なしで、質問応答・要約・翻訳など多様なタスクをこなすことができる

膨大なテキストデータ

巨大なニューラルネットワーク

汎用的な言語能力

トランスフォーマーと自己注意機構

トランスフォーマーの登場により、言語能力は飛躍的に向上し、現在の高性能なLLMへと発展しました。

モデル：トランスフォーマー

現在主流のLLMは、2017年に提唱されたトランスフォーマーアーキテクチャに基づいている。

トランスフォーマーの構造（アーキテクチャ）

中核技術：Self-Attention

従来のモデルと異なり、文章全体の単語間の重要度を一度に計算することで長文の文脈も捉える事が可能

https://arxiv.org/abs/1706.03762

LLMによる文章生成の基本原理：「次に来る単語」の予測

一見複雑に見えるLLMの文章生成は、「次に最もありそうな単語」を確率的に選び続けるというシンプルなプロセスの繰り返しです。

「患者は発熱と咳を訴え‥」

LLM

最も確率的に最適な単語「肺炎の」を選択し、文末に追加する。

「患者は発熱と咳を訴え肺炎の‥」を新たな入力として、次の単語を予測する

「‥肺炎の」

(確率45%)

「‥検査を」

(確率30%)

「‥来院した」

(確率15%)

：

この逐次予測という単純な原理の繰り返し

STEP1:入力

STEP2:予測

STEP3:出力

STEP4:繰り返し

医療分野におけるLLMの活用例と課題

LLMは医療業務を強力に支援する一方、その出力を鵜呑みにせず、安全性と信頼性を担保する慎重な運用が求められます。

診療録やサマリーの自動要約：

長いカルテから重要点を抽出

研究支援：関連論文の検索や要約、論文ドラフト作成

教育対話：仮想患者役や学生の質問に答えるチューター

意思決定支援：鑑別支援リストや追加検査の提案

幻覚(ハルシネーション)：もっともらしい誤情報を生成するリスク

専門性の偏り・データバイアス：学習データの偏りが出力結果に影響

根拠提示の不十分さ：「なぜその回答か」が説明困難

責任とガバナンス：

最終判断は人間が行う必要性

活用例

課題

多様な画像生成モデルの種類と特徴

画像生成技術は多様なアプローチが存在しますが、近年は拡散モデルが主流で、テキスト条件による高品質な画像生成(DALL-E2, Stable Diffusionなど)で大きな成功を収めています。

拡散モデルの仕組み

拡散モデルは、画像を一度ノイズに分解し、その逆過程を学習することで、高品質な画像をゼロから生成します。

拡散過程（Diffusion Process）元の画像に段階的にノイズを加えて完全なノイズにする

逆拡散過程（Reverse Process）

AIがこの逆の過程を学習しノイズから画像を段階的に復元することで、新たな画像を生成する

医療画像における生成モデルの応用例

医療画像解析では、データ拡張から異常検知まで、タスクの特性に応じて拡散モデルやGANなどの生成技術が使い分けられています。

データ拡張：拡散モデルで希少疾患のMRI画像を生成し、他のタスク(セグメンテーションなど)の精度を向上

モダリティ変換：CycleGANなどでペア画像の無いMRIからCTを推定生成し、放射線治療計画を支援

欠損データの補完：拡散モデルのノイズ除去原理を利用し、画像の欠損領域を自然に修復。

異常検知：正常画像のみを学習させ、そこからの差分を異常として高精度に検出

医療特化型LLM「Med-PaLM」

・Med-PaLM（初代）：汎用モデル(Flan-PaLM)と比較し、医学的　　　　　　　　　　　　　　　　　　

　　　　　　　　　　　事実性や有害性が改善

・Med-PaLM2：

　　・医学QAベンチマーク(MedQA)で86.5%の正答率を達成

　　（前版から19%以上向上）

　　・医師によるブラインド評価では、一部の質問に対する回答

　　　品質（臨床的妥当性、根拠の明瞭さなど）が一般医の回答

　　　よりも好まれるケースが報告。

性能の進化：

医療特化により、汎用LLMが抱える専門性の課題を一定程度克服し、専門家に近い品質の回答を生成し始めています。

Googleが開発した医療分野特化型のLLM。基盤モデル(PaLM2)に対し、医療データを用いて追加の調整（チューニング）を実施したもの

https://arxiv.org/pdf/2305.09617

AIの性能を引き出す技術：プロンプトの基本

AIへの指示（プロンプト）を明確かつ具体的に工夫することで、より的確で質の高い応答を引き出すことが出来ます。

「糖尿病について説明して」

1. 明確かつ具体的に指示する

「箇条書きでまとめて」、「表形式で比較して」、「SOAP形式で記述して」

2. 出力形式を指定する

AIに期待通りの回答を得るには、質問や指示の与え方（プロンプト）を工夫する必要があり、この技術をプロンプトエンジニアリングを呼びます。

3. 役割や口調を設定する

「２型糖尿病の病態生理について、医学生にも理解出来るように、3つの主要なポイントを箇条書きで説明して」

「あなたは経験豊富な循環器内科医として、この症例について考察して下さい。」

「患者さんに説明するように、平易な言葉で回答して下さい。」

医療で生成AIを利用する際の倫理的・法的留意点

生成AIの利用は、誤情報、プライバシー侵害、責任問題などの倫理的・法的リスクを常に伴うため、厳格なルール厳守が求められます。

AIの出力を人間が検証し、

根拠を確認することが必須。

①誤情報の生成

盗用や著作権侵害のリスク。根拠論文の提示と確認などが不可欠。

②著作権・データ出所の不透明性

③個人情報・機密情報の漏洩リスク

患者情報を外部サービスに入力することは厳禁。匿名化を徹底。

④責任の所在の曖昧さ

AIは支援ツールであり、医療における最終判断の責任は常に意志が負う。

国際的な動向

WHOも2024年に指針を公表し、利用する医療者に、AI生成情報の検証義務や患者への透明性確保などを求めている。

まとめ

生成AIは慎重な運用が求められる、強力なツール

• 可能性：生成AIは、業務効率化、教育、研究において変革的な可能性を持つ
• 技術：LLMと拡散モデルが中核技術であり、それぞれ独自の仕組みを持つ
• リスク：ハルシネーション、プライバシー、バイアスは重大かつ不可避な課題である。
• 原則：最終的な責任は医師が負う。専門家による検証（Human-in-the-Loop）が重要。

医療者自身が本技術の特性と限界を正確に理解して、倫理的配慮のもとで適切に活用していくリテラシーが求められます。