「生成AIを使いたいが、大きなモデルはコストも応答時間も重い」「そこまで賢くなくていいから、安く速く動かしたい」——こうした場面で候補になるのが SLM です。結論から言うと、SLM（Small Language Model／小規模言語モデル）とは、大規模LLMよりパラメータ数を抑えた、軽量で高速・低コストな言語モデルです。 用途を絞れば十分な精度を、安く・速く・自社環境でも動かせるのが特徴で、「大きいほど良い」とは限らないことを示す選択肢です。
この記事では、SLMとは何か、大規模LLMとの違い、メリットとデメリット、業務での使いどころ、そしてRAGやオンプレとの組み合わせまでを、FDE（Forward Deployed Engineer／フォワードデプロイドエンジニア）として現場の実装まで伴走する DeploAI が基礎から整理します。どこで動かすかの選択は生成AIを自社環境で動かすには？やローカルLLMとは？も参照してください。
SLM（小規模言語モデル）とは？——「小さく軽い」モデルという選択肢
SLMとは、大規模LLMに比べてパラメータ数（モデルの大きさ）を抑えた言語モデルの総称です。 パラメータが少ないぶん、動作が速く、必要な計算資源やコストが小さく、自社サーバーや手元の端末でも動かしやすくなります。
近年は各社が、何億〜十数億規模の比較的小さなモデルを公開しており、用途を絞れば実務で使える品質のものが増えています。ここで注意したいのは、「小規模」は相対的な言い方だということです。何パラメータ以下がSLMという明確な線引きがあるわけではなく、「その時代の最大級のモデルに比べて小さい」「1台のマシンで無理なく動く」といった感覚で使われます。
重要なのは大きさそのものではなく、「タスクに対して十分な規模か」という観点です。次章で、大規模LLMとの違いを整理します。
SLMと大規模LLMは何が違う？
違いはパラメータ数と、それに伴う性能・コスト・速度のトレードオフです。大規模は「広く賢いが重い」、SLMは「狭いが軽い」と整理できます。 どちらが上ということではなく、目的に合う方を選びます。
| 大規模LLM | SLM（小規模言語モデル） | |
|---|---|---|
| 得意なこと | 幅広い知識・複雑な推論・汎用対話 | 範囲を絞ったタスク（分類・要約・抽出など） |
| 動作速度 | 相対的に遅い | 速い（低遅延） |
| コスト | 高い（計算資源・API料金） | 低い |
| 動かす場所 | クラウドの高性能環境が中心 | 自社サーバー・端末でも動かしやすい |
| 特化のしやすさ | 大きく専門化はしにくい | ファインチューニングで用途特化しやすい |
大規模LLMは「何でも一定水準でこなす万能選手」ですが、そのぶんコストと応答時間がかかります。SLMは「守備範囲は狭いが、その中では速く安く働く専門選手」です。業務では、すべてを万能選手にやらせる必要はありません。 タスクの難しさに応じて規模を選ぶことで、コストと速度を大きく改善できます。
SLMのメリット：安い・速い・自社で動かせる
SLMの価値は、コスト・速度・運用の自由度にあります。 用途が合えば、大規模LLMより実務に向くことも少なくありません。
SLMの4つの強み。範囲を絞った反復タスクほど、この「安い・速い・自社で動かせる」が効いてくる。
とくに業務では、同じ処理を大量に・繰り返し行う場面が多くあります。問い合わせの一次分類、文書からの項目抽出、定型文の生成などです。こうしたタスクを大規模LLMで回すと、1件あたりのコストと遅延が積み重なります。SLMなら、1件が安く・速いぶん、量が増えるほど差が効いてきます。コスト最適化の観点は生成AIのコストはどう抑える？でも扱っています。
SLMのデメリット・限界
SLMは万能ではありません。扱える範囲が狭く、難しい推論や広い知識を要する仕事では大規模LLMに及びません。 ここを理解して用途を選ぶことが、失敗を避ける鍵です。
- 汎用的な難タスクは苦手：幅広い知識を横断する質問、長く複雑な推論、曖昧な指示の解釈などは、大規模モデルのほうが安定します。
- 範囲を外れると精度が落ちる：特化させたタスクの外の入力には弱くなります。「何でも屋」として使うと期待外れになりがちです。
- 特化には準備が要る：用途特化の効果を出すには、対象タスクのデータでのファインチューニングや、RAGでの知識補強といった作り込みが必要になることがあります。
つまりSLMは、「用途を絞る」という設計とセットで価値が出ます。絞らずに大規模モデルの代わりに使おうとすると、強みが消えてしまいます。
業務でSLMをどう使う？——RAG・オンプレとの組み合わせ
SLM単体で考えるより、「どこで・何のために・どう補強して」使うかを組み合わせて設計するのが実務的です。 代表的な組み合わせを整理します。
- SLM × 用途特化：分類・抽出・要約など、範囲の定まったタスクに絞って使う。必要ならそのタスクのデータでファインチューニングし、精度を引き上げる（RAG・ファインチューニングの使い分け）。
- SLM × RAG：モデル自体の知識は小さくても、社内文書を検索して根拠として渡せば、自社の情報にもとづいた回答ができます。知識は外部（RAG）、処理は軽量（SLM）という役割分担です。
- SLM × オンプレ／端末：軽いからこそ、データを外に出さず自社環境で動かしやすい。機密性の高い業務や、ネットワークが限られる現場で有力です（生成AIを自社環境で動かすには？）。
- 大規模LLMとの使い分け：難しい判断は大規模、量が多く定型的な処理はSLM、と役割を分けて組み合わせる構成もあります。「作るか買うか」を含めた判断は生成AIは作るか買うかも参考になります。
こうした設計は、モデルを選ぶだけでは決まりません。どの業務を・どの規模のモデルで・どう補強して回すと、コストと精度が両立するかを、現場の要件に合わせて見極める必要があります。
SLMとローカルLLM・オンプレの違いは？
混同しやすいですが、SLMは「モデルの大きさ」、ローカルLLM・オンプレは「動かす場所」の話です。 観点が別なので、組み合わせて考えます。
- SLM＝規模の話（小さい・軽い）
- ローカルLLM／オンプレ＝場所の話（自社の環境で動かす）
軽いSLMは自社環境で動かしやすいため、両者は相性が良い関係にあります。「データを外に出さず、低コストで、定型タスクを大量にさばきたい」という要件では、SLMをオンプレで動かす構成が有力な選択肢になります。場所の選び方そのものはローカルLLMとは？、生成AIを自社環境で動かすには？で詳しく解説しています。
まとめ：SLMは「タスクに合った規模を選ぶ」という発想
SLMは、大規模LLMよりパラメータを抑えた、軽量で高速・低コストな言語モデルです。用途を絞れば十分な精度を、安く・速く・自社環境でも動かせます。一方で、幅広い知識や複雑な推論は大規模LLMに譲るため、「用途を絞る」設計とセットで価値が出ます。RAGでの知識補強やオンプレ運用と組み合わせると、業務に効く形になります。
- どこで動かすか（場所）: ローカルLLMとは？ ／ 生成AIを自社環境で動かすには？
- 自社データの使わせ方: RAG・ファインチューニングの使い分け
- コストの抑え方: 生成AIのコストはどう抑える？
- 作るか買うかの判断: 生成AIは「作る」か「買う」か
「自社のこの業務なら、どの規模のモデルをどう組み合わせるのが最適か」を具体的に検討したい方は、FDE（Forward Deployed Engineer）サービスの資料請求・無料相談からお気軽にご相談ください。モデル選定から実装・運用定着まで、現場に入って伴走します。
