LLM(エルエルエム)は「Large Language Model」の略で、日本語では「大規模言語モデル」と呼ばれます。ChatGPTをはじめとする、話しかけると文章で答えてくれるAIの中で動いている仕組みです。

「ニュースや資料でLLMという言葉を見かけるけれど、生成AIやChatGPTと何が違うのか分からない」という方に向けて、この記事では、LLMの仕組み・できること・限界と、会社で使うときの形を、専門用語をできるだけ使わずにまとめました。

結論 LLMは、大量の文章から言葉の使い方を学んだAI。便利な一方、間違えることがあり、社内の情報は知りません
  • 何か:LLM(大規模言語モデル)は、大量の文章から言葉の使い方を学んだAIです。ChatGPTなどの対話型AIサービスの中で動いている、文章を作る仕組みにあたります。
  • 得意なこと・苦手なこと:文章の下書き・要約・翻訳・質問への回答などが得意です。一方で、もっともらしい間違いをすることがあり、自社の規程や製品など、社内の情報は知りません。
  • 会社での使い方:「そのまま使う」「社内の文書を読ませる(RAG)」「作業を任せる(AIエージェント)」「社外に出さない形で動かす」の4つの形があります。目的と扱う情報に合わせて考えます。

LLMを一言でいうと

たとえるなら、スマートフォンの予測変換を、ずっと大きく・賢くしたようなものです。予測変換は、入力した言葉の続きに来そうな言葉を出してくれます。LLMは、とても多くの文章から言葉のつながり方を学んでいるため、質問に答えたり、長い文章を書いたりできます。

よく混同されるのが、LLMと「ChatGPT」などのサービスの関係です。LLMは文章を作る仕組みそのもの(エンジン)で、ChatGPTなどは、そのエンジンを使って作られたサービス(製品)です。

例説明
LLM(中身のエンジン)各社が開発した言語モデル文章を作る仕組みそのもの
LLMを使ったサービスChatGPTなどの対話型AIサービス画面から話しかけて使う
LLMを組み込んだ自社の仕組み社内チャットボット、問い合わせの自動回答など自社の業務に合わせて作る

LLMの仕組み(3ステップ)

LLMが答えを返すまでの流れは、一般に次の3つのステップで説明されます。

LLMの仕組みの図:STEP 01 大量の文章で学ぶ(事前学習)、STEP 02 答え方を整える(調整)、STEP 03 答えを作る。次に来る言葉を1つずつ予測して文章にする
STEP 01

大量の文章で学ぶ(事前学習)

本・記事・ウェブの文章など、とても多くの文章を使い、「文章の続きを当てる」練習をくり返します。こうして、言葉のつながり方や文章の書き方を身につけます。

STEP 02

答え方を整える(調整)

人が書いたお手本の答えや、人による答えの評価を使って、質問に役立つ答え方や、避けるべき答え方を学びます。

STEP 03

答えを作る

質問を受け取ると、次に来る言葉を1つずつ予測しながら、文章を組み立てて返します。

「大規模」とは何が大きいのか

「大規模」とは、学習に使う文章の量と、モデルの中にある数値(パラメータ)の数が非常に多いことを指します。総務省の情報通信白書では、LLMを、文章や画像などを作る「生成AI」の技術の一つで、深層学習(ディープラーニング)を応用したものと説明しています。また、学習に使うデータの量・計算の量・パラメータの数を増やすほど、LLMの性能が上がるという考え方(スケーリング則)も紹介されています。

出典:総務省「令和7年版 情報通信白書」第Ⅰ部第1章第2節「AIの爆発的な進展の動向」(1)激化する世界のAI開発競争。白書では、最近の大型のLLMはパラメータの数が公表されていない場合が多いとも書かれています。

今のLLMの多くは「Transformer(トランスフォーマー)」という技術をもとにしています。文の中の、どの言葉どうしが関係しているかを見ながら文章を扱う仕組みです。また、LLMは文章を「トークン」と呼ばれる短い単位に区切って扱います。

LLMでできること

仕事でよく使われる場面と、向いている度合いを並べました。どれも「AIに任せきりにする」のではなく、「下書きや整理をAIに手伝わせ、最後は人が確かめる」使い方が基本です。

業務例向いている度合い気をつけること
文章の下書きメール・案内文・報告書のたたき台◎最後は人が読んで直す
要約議事録・長い資料の要点◎大事な数字は元の資料で確かめる
翻訳・言い換え海外の取引先とのやり取り、やさしい言葉への書き換え○契約などの文書は専門家に確かめてもらう
質問への回答社内の手続き・製品についての問い合わせ△(そのままでは社内の情報を知らない)社内の文書を読ませる仕組み(RAG)と組み合わせる
表・データの整理項目の分類、Excelの関数の案○計算の結果は確かめる
プログラム作成の手伝いExcelの作業を自動にする簡単なプログラム(マクロ)などの案○動くかどうかの確認は人が行う

社内の問い合わせにLLMで答えさせる方法は、RAGとは?とAIチャットボット導入の記事で紹介しています。

LLMの限界と、補い方

LLMは便利な一方で、仕組みからくる弱点があります。弱点を知ったうえで、補い方を決めて使うことが大切です。

限界何が起きるか補い方
間違えることがある(ハルシネーション)事実と違う内容を、もっともらしく答えることがあるお金・契約・安全に関わる判断は、人が確かめる。社内の文書を根拠に答えさせる(RAG)
LLMそのものが覚えている知識は、学習した時点まで検索と組み合わせて新しい情報を答えるサービスもあるが、答えが最新とは限らない最新の制度・価格は、元の資料や公式サイトで確かめる
社内の情報を知らない自社の規程・製品・手順については答えられない社内の文書を読ませて答えさせる(RAG)
入力した情報の扱い入力した内容が学習に使われるかどうかは、サービス・プラン・設定によって違う利用規約・契約・設定を確かめ、入力してよい情報を社内で決める
偏り学習した文章に誤りや偏りが含まれていると、答えにも表れることがある採用・評価など、人に関わる判断にそのまま使わない
総務省「令和8年版 情報通信白書」の公表にあたっての大臣のことばでも、学習データに誤りや偏りが含まれうるリスクや、いわゆる「ハルシネーション」により誤情報が出力されうるリスクが挙げられています。

社員がAIを使うときの決まりづくりは、ChatGPTの社内導入ガイドで紹介しています。

生成AI・ChatGPT・RAGなど、似た言葉との違い

LLMのまわりには、似た言葉がたくさんあります。関係を図と表にまとめました。

AIとLLMの関係の図:AIの中に機械学習、その中にディープラーニング、その中にLLMがある。生成AIは、LLMなどを使って文章・画像などを作るAI
言葉ひとことでLLMとの関係
AI人の知的な作業をコンピューターで行う技術の総称いちばん大きな枠
機械学習データから規則を学ぶ方法LLMも機械学習の一種
ディープラーニング機械学習のうち、人の脳の神経のつながりをまねた仕組みで学ぶ方法LLMはディープラーニングを使って作られる
生成AI文章・画像・音声などを新しく作るAILLMは生成AIを支える中心の技術の一つ。主に文章(言葉)を扱う
ChatGPTなどのサービスLLMを使った製品LLMそのものではない
RAG社内の文書を探してから、LLMに答えさせる仕組みLLMの弱点を補う使い方
AIエージェントLLMを頭脳にして、作業を自分で進める仕組みLLMを使った応用
ローカルLLM社内のパソコン・サーバーで動かすLLM(比較的小さいモデルを使うことが多い)社外に出したくない情報を扱うときのやり方の一つ

RAGの仕組みはRAGとは?で、AIエージェントはAIエージェントとは?で詳しく説明しています。

会社でLLMを使う4つの形

会社でLLMを使う形は、大きく4つに分けられます。どれが優れているかではなく、「何をしたいか」「どんな情報を扱うか」で考えます。まずはそのまま使って慣れ、必要に応じて仕組みを作る、という順番で進める会社もあります。

形できること向いている場合始めやすさ詳しい記事
そのまま使う文章の下書き・要約・翻訳まず社員が試したい始めやすい(社内の決まりを先に決める)ChatGPTの社内導入ガイド
社内の文書を読ませる(RAG)社内の規程・マニュアルに沿って答える問い合わせや探し物の時間を減らしたい文書の整理が必要RAGとは?、社内FAQをAIで効率化する方法
作業を任せる(AIエージェント)調べる・まとめる・登録する、を続けて進める決まった手順の作業が多い業務の手順の整理が必要AIエージェントとは?
社外に出さない形で動かす社外に出せない情報を扱う。インターネットから切り離した専用のクラウド(閉域)や、社内のパソコン・サーバー(ローカルLLM)で動かす機密情報や個人情報を多く扱う機器・保守の準備が必要まずはご相談ください

「社外に出さない形」は安心感がある一方で、機器の用意や保守の手間がかかり、使えるモデルの性能にも違いが出ます。端末の盗難や設定のミスなど、社内で動かしても残る危険もあります。扱う情報の重要さ・使う人数・保守できる人がいるかを合わせて考えます。

自社に当てはまるかのチェックリスト

LLMを使う前に、次のような状態になっていないか確かめてみてください。

  • 社員が、個人のアカウントでAIを使い始めている
  • AIに入力してよい情報が、会社として決まっていない
  • 社内の規程やマニュアルを探すのに、時間がかかっている
  • 同じ問い合わせに、何度も答えている担当者がいる
  • 社外に出せない情報が多く、AIを使ってよいか迷っている
1つでも当てはまれば、4つの形のどれから始めるとよいかを整理しておくと、AIを安全に、むだなく使い始めやすくなります。
どの形から始めるとよいか、無料で一緒に整理します

今の使い方や、手間がかかっている業務をお聞きして、AIの使い方の決まりづくりから、社内の文書を読ませる仕組みづくりまで、進める順番を整理します。

無料で相談する

零壱製作の進め方

零壱製作は、栃木県那須塩原市を拠点に、中小企業のAI活用とシステム開発を支援しています。「AIをどう使えばよいか」の整理から、社内の文書を読ませる仕組みづくりまでお手伝いします。

01
使い方の整理と、社員向けの研修

今の使い方をお聞きして、使ってよい範囲・入力してよい情報の決まりづくりや、社員の方向けのAI研修をお手伝いします。

02
社内の文書を読ませる仕組み・作業を任せる仕組みの開発

社内の文書を読んで答えるAIチャットボット(RAG)や、決まった手順の作業を進めるAIエージェントを、御社の業務に合わせて開発します。提携先の SotaTek 社の技術基盤(SotaAgents)を使い、零壱製作の開発として提供しています。SotaTek 社は、情報セキュリティの国際規格 ISO/IEC 27001 の認証と、CMMI レベル3 を取得しています。

03
端末・通信まで一体で

AIを使うためのパソコン・スマートフォンの手配や、通信環境の整備までまとめてご相談いただけます。栃木県を拠点に、地域の会社を身近にサポートしています。

費用は、仕組みやお任せいただく範囲によって異なります。まずはご相談ください。

AIの使い方の整理・研修について

社員の方向けのAI研修や、AIの使い方の決まりづくりの進め方をまとめています。

AI研修・社内AI教育を見る

社内の文書を読ませる仕組み・作業を任せる仕組みづくりについて

対応できるAIの種類や、開発の進め方をまとめています。

AIを活用したシステム開発を見る

よくある質問

LLMは、文章を作る仕組みそのもの(エンジン)です。ChatGPTは、LLMを使って作られた対話型のAIサービスです。ほかにも、LLMを使ったサービスはいくつもあります。ChatGPTを会社で使うときの進め方は、ChatGPTの社内導入ガイドをご覧ください。

多くの場合は、LLMに覚えさせるのではなく、質問のたびに社内の文書を探して、その内容をもとに答えさせる「RAG」という方法を使います。文書を直せば答えにもすぐ反映できるのが特長です。モデルそのものを追加で学習させる方法(ファインチューニング)もありますが、一般に、RAGより準備の手間と費用がかかりやすい方法です。

サービスの種類・プラン・設定によって扱いが違います。業務で使う前に、利用規約や契約、設定の内容を確かめてください。あわせて、個人情報や取引先の情報など、入力してはいけない情報を社内で決めておくことをおすすめします。

LLMを一から作るには、大量のデータと計算機が必要です。そのため、多くの中小企業では、すでにあるLLMを使い、自社の文書や業務に合わせた仕組み(社内の文書を読ませる仕組みや、AIエージェントなど)を作る形が一般的です。

無料相談受付中

LLMを、自社の業務に合った形で
使い始めませんか

AIの使い方の決まりづくりから、社内の文書を読ませる仕組み・作業を任せる仕組みづくりまで、どこから始めるとよいかを無料で整理します。
「LLMやRAGという言葉は聞くけれど、自社で何ができるのか分からない」という段階でも、お気軽にご相談ください。

AI研修・社内AI教育とAIを活用したシステム開発の詳しい内容もご覧いただけます。

フォームでのご相談

下のフォームから、24時間受け付けています

お電話でのご相談

0287-36-1480
平日9:00〜17:30(土日祝除く)