絶対に外に出せない、だけどAIは使いたい

完全ローカルLLMとは、外部の AI サービス（クラウドの API）を使わず、LLM（大規模言語モデル）を専用の一台の上で動かすことです。IXVは、完全ローカルLLMを実現する解決策です。

01 / What It Is完全ローカルLLMとは

LLM を、外部のサービスではなく、専用の一台で動かす

LLM（大規模言語モデル）は、文章やコードを読み書きする、AI の本体です。
多くの AI サービスでは、LLM は提供会社のサーバー（クラウド）で動いています。使う側は、設計書やコードをインターネット越しに送り、答えを受け取ります。
完全ローカルLLMでは、LLM そのものを専用の一台で動かします。問い合わせる先も、答えを作るのも、その一台です。
「完全」は、一部だけではない、という意味です。主のモデルも、調べものを受け持つサブエージェントのモデルも、すべてその一台で動きます。
インターネットにつながずに動く、という意味ではありません。AI の処理を、外部の AI サービスに頼らない、という意味です。

02 / Inside一台の中で動いているもの

専用の一台

外部の AI サービス

（クラウドの API）

呼び出しません

専用ハーネス：モデルとファイル・ツールをつなぎます。設計書やコードを読み、編集し、実行し、確かめます。
推論エンジン：モデルを動かし、答えを作ります。ハーネスが問い合わせる先は、同じ一台の推論エンジンです。この一台のハードウェアに合わせて、推論・キャッシュ・長いコンテキストを調整しています。
量子化モデル：LLM の本体です。主のモデルとサブエージェントのモデルは、それぞれ専用のエンジンで、一台の上で同時に動きます。

03 / Quantization量子化とは

LLM は、そのままでは非常に大きく、一台のメモリに収まらないことがあります。
量子化は、モデルの中の数値を少ない桁数で表し、モデルを小さくする技術です。これによって、大きな LLM を一台の上で動かせます。
小さくすると、答えの質が落ちることがあります。そのため当社は、実務での日本語性能で評価して、モデルを選びます。
IXV のモデルは、逐次エルブズが最適と考えるものを、自社で量子化してご提供します。量子化したモデルは、Hugging Face でも公開しています。
たとえば、当社が量子化した DeepSeek V4.1 Flash 1017 は、専門家の部分を 2bit にし、Mac Studio（M3 Ultra）一台で、約 36 tok/s で文章を作ります（当社測定）。

04 / Openオープンソースとオープンウェイト

一台の中で動くものは、公開されている成果の上に作っています。

オープンソース
オープンソースとは、ソースコードが公開されていて、ライセンスの範囲で、誰でも使い、読み、直し、配れるソフトウェアです。

推論エンジンやハーネスなど、一台の中で動くソフトウェアは、オープンソースの成果を基盤にしています。当社も、設計書とコードを扱うオープンソースを公開しています。

当社のオープンソースとオープンウェイト（elvez.co.jp）
オープンウェイト
オープンウェイトとは、LLM の重み（学習で決まった数値）が公開されていて、ダウンロードして自分の環境で動かせるモデルです。

IXV のモデルは、公開されているオープンウェイトのモデル（GLM・DeepSeek）を、当社が量子化したものです。重みが公開されているから、外部の AI サービスを使わずに、専用の一台で動かせます。

当社が量子化したモデル（Hugging Face）

05 / Compareクラウドの AI サービスとの違い

06 / Three Nos完全ローカルLLM「3つのなし」