2 of 18

本講義の目的

大規模言語モデル（LLM）の学習がどのような特徴を持つのかを皆で感覚的に理解し、 AIへの効果的な入力プロンプトを作成するための具体的なノウハウを習得することを目的とします。

LLMの学習特性を理解する

膨大なデータからパターンを学習し、条件付き確率に基づいて文章を生成するLLMの仕組みを感覚的に理解します。

プロンプトのノウハウを習得する

明確な指示、構造化技術、高度なテクニックを用いて、AIへの効果的な入力プロンプトを作成する方法を学びます。

明日からの業務や学習に役立てていただくことを目指します

3 of 18

アジェンダ

AIの歴史

AI技術の発展と進化の軌跡を学びます

AIが行う学習

パターン認識と統計的手法による学習プロセスを理解します

LLMの概要

大規模言語モデルの定義と基本特性を把握します

LLMと条件付き確率

LLMの仕組みと内挿・外挿の概念を学びます

プロンプトのノウハウ

効果的な入力プロンプトを作成するための技法を習得します

4 of 18

AIの歴史について

初期のAI研究から、機械学習、深層学習の発展、そして現代のLLMに至るまでの重要な進化の流れを概観します。

初期のAI研究

人間の論理的思考を模倣することを目指し、推論や探索が中心的手法でした。

従来のAI

計算能力の限界や知識表現の難しさから、期待された成果が得られない停滞期を経験。

機械学習の登場

2000年代後半から機械学習、特に深層学習（ディープラーニング）の発展により転機を告げました。

深層学習の発展

大量のデータと高性能な計算資源を用いることで、画像認識や音声認識等领域で人間を凌駕する性能を発揮。

現代のLLM

膨大なテキストデータを学習し、人間のような自然な言語を理解し、生成する能力を獲得。

5 of 18

AIが行う学習とは？

AIの学習とは、与えられたデータの中から特定のパターンや規則性を見つけ出すプロセスです。

膨大なデータ

猫の画像など、大量の情報

パターン探索

特徴や規則性の抽出

学習成果

「猫」の概念の構成

例：猫の画像認識

猫の画像を大量に見せることで、AIは「猫」という概念を構成する特徴（耳の形、ひげ、目の配置など）を自律的に学習します。

この学習を通じて、AIは未知のデータに対しても適切な判断や予測を下せるようになるのです。

AIは「理解」しているのではなく、パターンを認識・適用しています

6 of 18

LLMって何？

LLMの定義

大規模言語モデル（Large Language Model）は、膨大なテキストデータを学習することで、人間のような自然な言語を理解し、生成する能力を獲得したものです。

膨大なデータから学習

インターネット上の膨大なテキストデータ（書籍、記事、ウェブサイトなど）

統計的にパターンを抽出し、言語の規則性を把握

単語間の関係性、文法、世界の知識を習得

言語を理解・生成する仕組み

「創造」しているのではなく、学習したデータに基づいて最も確率の高い単語を次々と選択

次にどの単語が来るかを予測するゲームを延々と続けているに過ぎない

この確率的なアプローチが、LLMの驚くべき言語生成能力の源泉

LLM = 大規模言語モデル (Large Language Model)

8 of 18

LLMの学習プロセス

大規模言語モデル（LLM）は、2つの重要な段階を通じて構築されます。それぞれの段階で、モデルは異なる種類の学習データとタスクを行います。

事前学習

インターネット上の膨大なテキストデータ（書籍、記事、ウェブサイトなど）を用いる

次の単語を予測するタスクを繰り返す

単語間の関係性、文脈、文法、世界の知識を統計的に学習

ファインチューニング

特定のタスク（質問応答、要約、翻訳など）に特化した少量のデータを用いる

モデルの性能をさらに向上させるための最適化

汎用的な言語能力を特定の目的に最適化

重要なのは、LLMが「創造」しているのではなく、学習したデータに基づいて最も確率の高い単語を次々と選択し、文章を「生成」しているという点です。

9 of 18

LLMと条件付き確率

LLM（大規模言語モデル）は、条件付き確率のモデルに基づいています。与えられた文脈から次の単語の出現確率を計算し、最も確率の高い単語を選択して文章を生成します。

条件付き確率による単語予測

今日の天気は

晴れ

雨

曇り

LLMは「今日の天気は」の後に続く単語の確率を計算します

確率的アプローチ

LLMは「創造」しているのではなく、学習したデータに基づいて最も確率の高い単語を次々と選択しています。確率的なアプローチがLLMの驚くべき言語生成能力の源泉です。

繰り返される予測ゲーム

LLMは、次にどの単語が来るかを予測するゲームを延々と続けているようなものです。一つの単語を予測し、次の単語を予測するというプロセスを繰り返しながら文章を生成します。

10 of 18

内挿と外挿

LLMは学習データに基づいて「内挿」には優れていますが、学習データにない情報を推測する「外挿」は苦手です。

内挿（Interpolation）

定義：学習データ範囲内のパターンを補完したり、既知の知識を組み合わせて新しい情報を生成したりすること

得意な領域

「リンゴは赤い」→「イチゴは赤い」

文脈に合った適切な単語の予測

学習データ内のパターンに基づいて推論

外挿（Extrapolation）

定義：学習データ範囲外の未知の領域を推測したり、全く新しい概念を創造したりすること

苦手な領域

架空の生物の生態の詳細な記述

既存の物理法則を覆す新しい理論の提唱

学習データにない情報については正確な予測が困難

プロンプト設計では、LLMの内挿の得意な特性を活かし、外挿を避けるように意識することが重要です

11 of 18

プロンプト作成の基本原則

効果的なプロンプトを作成するためには、以下の基本原則を意識することが重要です。これらの原則を組み合わせることで、AIが意図した通りに高品質な出力を生成させることができます。

明確な指示

AIに何をさせたいのかを具体的かつ簡潔に指示します。曖昧な表現は避け、具体的なタスクを明示することが重要です。

役割設定

AIに特定の役割（例：「あなたは経験豊富なマーケターです」「あなたはプロの翻訳家です」）を与えることで、その役割に応じた視点や知識に基づいた回答を促します。

文脈の提供

AIがタスクを理解するために必要な背景情報や前提条件を提供します。これにより、AIはより適切で関連性の高い出力を生成できます。

出力形式の指定

どのような形式で回答してほしいか（例：「箇条書きで」「Markdown形式で」「JSON形式で」）を明確に指定します。

制約条件の明示

回答の長さ、使用する語彙、含めるべき情報や避けるべき情報など、AIの出力に対する制約を具体的に伝えます。

具体例の提示（Few-shotプロンプティング）

期待する出力の例をいくつか示すことで、AIはより正確に意図を把握し、同様の形式や内容で回答を生成しやすくなります。

LLMの効果的な活用法 | 10/16

12 of 18

構造化の技術：Markdown記法

Markdown記法を活用することで、プロンプトを見やすく整理し、AIに指示をより明確に伝えることができます。

Markdownを使用しない場合

以下の文章を要約してください。300字以内で、重要なポイントを3つに絞り、箇条書きで出力してください。対象文章は以下です。[ここに要約したい文章を挿入]

Markdownを使用する場合

# 指示�## 要約の条件�- 300字以内�- 重要なポイントを3つに絞る�- 箇条書きで出力�## 対象文章�[ここに要約したい文章を挿入]

見出し

セクションの区切りや重要な指示を示すのに有効です

リスト

複数の条件や手順を明確に整理するのに役立ちます

コードブロック

出力形式や特定の構造を指定するのに有効です

コツ: Markdown記法は、AIが指示を解釈しやすくするために不可欠な構造を提供します。複雑なプロンプトでも、適切に構造化することで精度が向上します。

13 of 18

構造化の技術：Gherkin法

Gherkin法は、ソフトウェア開発のテストシナリオ記述に用いられる手法ですが、プロンプトにおいても効果的に活用できます。「Given（前提条件）」「When（行動）」「Then（期待される結果）」の形式で指示を構造化します。

Given

前提条件や背景情報

When

実行される行動やリクエスト

Then

期待される結果や出力

実践例

Given: 私は旅行代理店のマーケティング担当者です。

When: 顧客から「沖縄旅行のおすすめプラン」について問い合わせがありました。

Then: 以下の情報を含む、3日間の沖縄旅行プランを提案してください。

1日目：那覇市内の観光スポットとおすすめの食事

2日目：美ら海水族館と周辺のビーチ

3日目：お土産購入と空港への移動

Gherkin法により、プロンプトの構造が明確になり、AIが指令を正確に理解する助けになります。

14 of 18

高度なプロンプト技術：Few-shotプロンプティング

Few-shotプロンプティングとは

AIにタスクの例をいくつか示すことで、そのタスクのパターンを学習させ、より精度の高い出力を促す手法です。

AIは示された例からタスクのパターンを理解します

指示の意図をより深く理解しやすくなります

期待される形式や内容で回答を生成しやすくなります

効果的なFew-shotプロンプティングのポイント

多様な例を提示し、タスクの範囲を広げましょう

成功事例を含めることで、理想の出力を示しましょう

代表的なケースをバランスよく提示しましょう

実例：映画レビューの感情分類

入力:

「この映画は本当に感動的で、何度も涙が流れました。」�

出力:

ポジティブ��

入力:

「ストーリーは退屈で、途中で見るのをやめてしまいました。」�

出力:

ネガティブ��

入力:

「映像は美しかったが、登場人物の演技が残念だった。」�

出力:

ネガティブ��

入力:

「予想をはるかに超える傑作でした。もう一度見たいです。」�

出力:

ポジティブ

ポイント：最後の入力では、AIに新しい映画レビューを評価させるため、「予想をはるかに超える傑作でした。もう一度見たいです。」という入力と、出力欄を空にしてあります。 AIは前に学んだパターンに基づいて、適切な評価を出力するよう促されます。

15 of 18

プロンプト設計の実践ポイント

LLMの特性を踏まえ、より効果的な結果を得るためのプロンプト設計における実践的なポイント

明確な指示を出す

AIに何をさせたいのかを具体的かつ簡潔に指示します。曖昧な表現は避け、具体的なタスクを明示することが重要です。

役割設定の活用

AIに特定の役割を与えることで、その役割に応じた視点や知識に基づいた回答を促します（例：「あなたはプロの翻訳家です」）。

文脈の提供

タスクを理解するために必要な背景情報や前提条件を提供します。これにより、AIはより適切で関連性の高い出力を生成できます。

出力形式の指定

どのような形式で回答してほしいか（箇条書き、Markdown形式、JSON形式など）を明確に指定します。

制約条件の明示

回答の長さ、使用する語彙、含めるべき情報や避けるべき情報など、AIの出力に対する制約を具体的に伝えます。

構造化の技術の活用

Markdown記法やGherkin法を用いて、プロンプトを構造化することで、AIへの指示がより明確になり、期待通りの出力を得やすくなります。

内挿には優れるが外挿には限界があるLLMの特性を考慮し、適切なプロンプトを作成しましょう

16 of 18

高度なプロンプト技術：Chain of Thought

Chain of Thought とは

Chain of Thought (CoT) プロンプティングは、AIに最終的な答えだけでなく、その答えに至るまでの思考プロセスを段階的に出力させることで、複雑な推論タスクの精度を向上させる手法です。

重要なポイント

複雑な問題を小さなステップに分解して考えることを促します

AIがどのように考えているかを可視化できるため、デバッグや理解に役立ちます

数学的 reasoning や 논리的推論タスクで効果的です

例題

質問:

ジョンは5つのリンゴを持っていました。その後、メアリーから3つのリンゴをもらいました。ジョンは合計でいくつのリンゴを持っていますか？

思考の連鎖:

1. ジョンが最初に持っていたリンゴの数は5つです。

2. メアリーから3つのリンゴをもらいました。

3. 合計のリンゴの数は、最初の数と追加された数を足し合わせることで求められます。

4. 5 + 3 = 8

答え: 8

17 of 18

まとめ

本日の講義では、AI、特に大規模言語モデル（LLM）の基本的な仕組みと、その能力を最大限に引き出すためのプロンプトノウハウについて学びました。

LLMの理解

膨大なデータから学習した「条件付き確率」に基づいて次の単語を予測する確率モデル

学習データ内のパターンを補完する「内挿」は得意とする一方、未知の領域を推測する「外挿」には限界がある

「事前学習」Pre-trainingと「ファインチューニング」Fine-tuningの2段階で構成される

プロンプト作成のノウハウ

明確な指示、役割設定、文脈の提供が基本原則

Markdown記法やGherkin法を用いた構造化が効果的

Few-shotプロンプティングやChain of Thoughtなどの高度なテクニックを活用

明日からの実践に向けたポイント

今日学んだプロンプトの基本原則と構造化の重要性を意識することで、明日からのAI活用がより一層効果的になることを期待しています。実践的な応用では、LLMの特性を理解し、それに基づいて適切なプロンプトを作成することが鍵です。

18 of 18

参考リンク先