LLMとは｜仕組みから分かる4つの限界

LLM（大規模言語モデル）は、次に来る言葉を確率で予測している仕組みです。膨大な文章を学習し、「この文脈なら次はこの単語が来やすい」という判断を繰り返して文章を組み立てています。

仕組みを知る意味は、技術を理解することではありません。この仕組みから、AIにできないことが分かるためです。

この記事では、経営者や導入担当者が判断に使える範囲で、仕組みと限界を整理します。

まず押さえる3点

技術の詳細より、この3つのほうが業務判断に効きます。

#	押さえること	なぜ重要か
1	確率で言葉を選んでいる	事実と違うことを自信を持って書く理由
2	学習した範囲でしか答えられない	社内情報を知らない理由
3	毎回同じ答えとは限らない	業務で使う際の再現性の問題

用語の整理

生成AI、LLM、ChatGPTは階層が違います。

用語	何を指すか
生成AI	文章・画像・音声などを生成する技術の総称
LLM	生成AIのうち、言葉に特化したモデル
ChatGPT	LLMを使って作られたサービスの名前

生成AIが最も広い概念で、LLMはその中の言語特化の技術、ChatGPTはそれを使った製品です。技術と製品の違いと考えると整理しやすくなります。

ClaudeやGeminiも同じく、LLMを使ったサービスです。

仕組みを一言でいうと

利用者が質問を入力すると、LLMは学習した知識の中から、その文脈に最も合いそうな単語を確率的に選びます。 そして選んだ単語を踏まえて次の単語を選ぶ、という処理を繰り返して文章を作ります。

「私の職業は」に続く言葉として、「医者です」の確率は高く、「黄色」の確率は低い。この判断を膨大なデータから学習しています。

文章の意味を理解して答えているのではなく、確率の高い並びを組み立てている。 ここが出発点です。

「大規模」とは何が大規模なのか

従来の言語モデルと比べて、学習に使うデータ量、計算量、モデルの規模が大幅に増えた点が「大規模」の意味です。

規模が増えたことで、あらかじめ用途を決めずに幅広い作業に対応できるようになりました。従来のAIは「この処理のために作る」ものでしたが、LLMは1つのモデルで多様な指示に応じられます。

これが業務での使い勝手を大きく変えました。 用途ごとにシステムを作らなくても、指示を変えるだけで違う作業をさせられます。

何ができるか

言葉を扱う作業の大半が対象になります。

分類	具体例
生成	文章の作成、メールの下書き、企画案の作成
要約	長文資料の要点抽出、議事録の作成
変換	翻訳、文体の変更、箇条書きへの整形
分類・抽出	問い合わせの仕分け、文書からの情報抽出
質疑応答	資料を渡したうえでの質問対応

「変換」と「要約」は業務で効果が出やすい領域です。 元になる情報が手元にあり、正解の形がはっきりしているためです。

逆に「生成」は、何をもって正解とするかが曖昧なため、期待とズレやすくなります。

仕組みから分かる4つの限界

これが本題です。

1. 事実と違うことを自信を持って書く

確率の高い単語を並べているため、もっともらしいが事実と異なる文章が生成されることがあります。ハルシネーションと呼ばれる現象です。

重要なのは、これが不具合ではなく仕組みから生じる性質だという点です。文章として自然になるよう最適化されているため、誤りも自然な文体で出てきます。

「断定的に書かれているから正しい」とは言えません。 業務で使う場合、出力の確認は前提になります。

2. 学習していない情報は答えられない

LLMが答えられるのは、学習したデータの範囲に限られます。

自社の規程、製品仕様、顧客情報。これらは学習データに含まれていないため、一般論しか返ってきません。

「うちの就業規則について教えて」と聞いても、一般的な就業規則の話が返ってくるだけです。これも不具合ではなく、構造上そうなります。

社内情報を扱わせたい場合は、RAGのように外部の情報を検索して渡す仕組みが必要になります。

3. 学習データには時点がある

学習した時点より後の情報は持っていません。制度改正や新製品の情報が反映されていないことがあります。

Web検索の機能を持つサービスもありますが、検索した情報が正しいかは別問題です。出典を確認する習慣が必要になります。

4. 毎回同じ答えとは限らない

確率的に単語を選んでいるため、同じ質問をしても回答が変わることがあります。

業務で使う場合、この性質は無視できません。「先週はうまくいったのに今週は違う結果になる」ということが起こります。

定型的な処理に組み込む場合は、出力のばらつきを前提にした確認の仕組みが要ります。

なお指示の書き方を具体的にすると、ばらつきは小さくなります。出力形式を指定する、判断基準を明示するといった工夫です。それでもゼロにはなりません。

限界を踏まえてどう使うか

限界を知ると、向いている業務と向かない業務が分かります。

向いている	向いていない
下書きを作る（人が直す前提）	最終判断をさせる
長い文章を要約する（原文で確認する前提）	事実確認そのもの
表現を言い換える	正確性が絶対の帳票作成
アイデアを広げる	一字一句の再現性が必要な作業

共通するのは、人が確認する工程が残る前提で使うことです。

判断の前に確認すること

仕組み以外にも確認すべき点があります。

• 入力した情報がどう扱われるか（学習に使われるか、保管場所はどこか）
• 個人情報を含む情報を入力してよいか
• 生成物を公開する場合の著作権の扱い

いずれも仕組みの理解とは別の論点です。情報の扱いと生成物の著作権で、それぞれ扱っています。

用語を追いかけすぎない

LLM関連の用語は次々に増えます。モデル名も数か月単位で変わります。

すべてを追う必要はありません。 経営判断に必要なのは、この記事で挙げた4つの限界と、自社のどの業務に使うかです。

技術の詳細は、実際に導入を決めてから、必要な範囲で確認すれば足ります。

---

参考

以下はすべて2026年9月1日に確認しました。

• 総務省・経済産業省「AI事業者ガイドライン（第1.2版）」（2026年3月31日）
• 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」（2023年6月2日）
• 文化庁著作権課「AIと著作権に関するチェックリスト＆ガイダンス」（2024年7月31日）