掲載日:2026.9.3
ローカルLLM
ローカルLLMとは、クラウド上のサービスを経由せず、自社内のPCやサーバー上で直接動作させる大規模言語モデル(LLM:Large Language Model)のことです。
■技術的な仕組みと特徴
・インターネット経由でクラウドAIサービスを呼び出すのではなく、自社の計算機資源(GPUなど)上でAIモデルを直接実行する
・社外にデータを送信しないため、機密情報や個人情報を扱う用途において情報漏洩のリスクを抑えやすい
・大規模言語モデルの実行には高い演算性能が必要となるため、高性能なGPUを搭載したワークステーションやサーバーが求められる
■産業・B2B分野での応用
・機密性の高い社内文書・データを扱うAI活用
・インターネット接続が制限された環境でのAI活用
・自社データに特化したAIモデルの構築・運用
- 用語検索
