グリッドテック合同会社
English

ON-PREMISE AI

全ての企業・研究機関にローカルLLMを

生成AIを、外部APIに依存せず自社の環境で動かす。グリッドテック合同会社は、社内データを外に出さないAI基盤の構築と、その先の開発・運用までを支援する。

なぜローカルLLMかお問い合わせ

WHY ON-PREMISE

なぜローカルLLMという選択肢か

電力が発電所から各家庭・企業に届けられてきたように、生成AIの多くは今、外部の「発電所」——クラウドAPI——にすべてを依存している。グリッドテックは、自分の敷地に発電設備を持つように、AIを自社の環境の中に置くという選択肢を提示する。

重要なのは、すべてのLLMをローカルへ置き換えることではない。外部サービスに出せないデータや、外部事業者に依存できない業務にもAIを適用できるよう、組織が管理する境界内でLLMを動かせる選択肢を持つことである。

組織の本当の価値は、外部に出せないデータの中にある。ローカルLLMは、そのデータを組織の管理下に置いたまま知能化し、外部サービスの都合に左右されず活用するための戦略基盤である。
価値は外に出せないデータにある、という主張を示す図。企業側は顧客・契約・設計・コード・製造ノウハウ、研究機関側は実験データ・未公開論文・発明・研究ノートが、いずれも「競争力・研究力の源泉」として保護された領域に集約されている。
図1: 企業・研究機関の競争力は、外部公開されない固有データに集中している。

データ主権・機密性

AIに投入する情報そのものが、企業や研究機関の資産である。外部APIに送信するということは、その情報を社外に渡すということでもある。医療情報、研究データ、行政情報、製造業の設計データなど、そもそも外部送信が許されない領域も存在する。ローカルLLMを使えば、情報は自社の環境の外に一切出ない。情報管理として最も確実な方法の一つである。

依存リスク

外部APIには、価格改定、提供終了、利用規約の変更、モデルの廃止(deprecation)、通信障害といった、利用者側でコントロールできないリスクが伴う。業務の一部を外部APIに組み込むということは、自社の業務プロセスの一部を他社のロードマップに委ねるということでもある。自社の環境で動かすAIは、これらの外部要因から独立している。

コスト構造

従量課金のAPIは、使うほど費用が増える。利用が定常的であれば、初期投資による設備調達のほうが結果的に有利になる場合がある。ただし、常にローカルの方が安いとは限らない。ハードウェアの初期投資、電力コスト、運用にかかる人的工数が発生するため、利用頻度が低い、あるいは短期的な用途では外部APIのほうが合理的なこともある。グリッドテックは、どちらが適しているかを利用状況をもとに検討したうえで提案する。

制御可能性

利用するモデルの選択や差し替えは自由であり、自社のデータに合わせたファインチューニングも可能である。外部APIのようなネットワーク経由の呼び出しがないため、レイテンシが安定する。監査ログも自社の環境で完結して取得できる。

クラウドLLMだけでは最も価値の高い領域にAIが届かないことを示す図。非公開データとクラウドLLMの間に「機密・契約・知財」の壁があり、「送らなければAIを適用できない」と「送れば情報管理リスク」という二つの選択肢が示されている。
図2: 送らなければAIを適用できず、送れば情報管理リスクが生じるという矛盾。
データがどこまで出るかの対比図自社の敷地内と外部を境界線で分け、クラウドAPI利用時とローカルLLM利用時でデータがどこまで届くかを示す図。クラウドAPI利用時は境界を越えて他社の設備までデータが送信される。ローカルLLM利用時はデータが境界の内側で完結し、境界を越えるのはモデルの初回ダウンロードのみである。自社の敷地内外部社内PC社内ネットワークサーバラック(GPU)インターネット他社の建物(API事業者の設備)クラウドAPI利用時 — 境界を越えて送信されるローカルLLM利用時 — 境界の内側で完結するモデルの初回ダウンロードのみ(以降は通信しない)

→ 横にスクロールできます

図: データがどこまで外部に出るかの対比。
ローカルLLMが非公開データを知能に変える構図を示す図。組織の管理境界内で、企業・研究データがLOCAL LLMを通じて分析・発見・自動化に変換される様子を示している。
図3: ローカルLLMは、データを外に出さずに管理境界内で知能に変換する。
オンプレミス環境に置くサーバラックの構成例19インチラックの正面図。上から社内ネットワーク接続用の機器、推論を行うGPUサーバ(2U)、モデルを格納するストレージを配置する。ネットワーク機器社内ネットワークへの接続GPU x4GPUサーバ (2U)推論エンジンを実行するストレージモデル・データを格納する
図: オンプレミス環境に置くサーバラックの構成例。

ローカルLLMがもたらす5つの戦略価値

戦略価値組織が獲得する能力
データ主権入力、検索対象、生成結果、ログを、どこで処理・保存するか決められる
運用主権モデル更新、停止、評価、アクセス権、利用制限を自ら管理できる
継続性ネットワーク障害、API停止、価格改定、サービス終了の影響を抑えられる
再現性モデル、重み、推論条件を固定し、実験や業務結果を再検証できる
組織特化専門用語、規程、研究分野、製造プロセスに合わせて最適化できる
クラウドとローカルをデータの機密度で使い分けるルーティング図。公開情報・一般業務はCLOUD LLMへ、社内限定情報はプライベート環境へ、最高機密・未公開研究はLOCAL LLMへと、機密度に応じて3段階に振り分けられている。
図4: 情報の機密度に応じて、クラウドとローカルを使い分ける。

「ローカルなら安全」ではない

ローカル配置は安全性を自動的に保証しない。権限設定を誤れば内部の別部門へ情報が漏れ、RAGやログ、キャッシュから情報が流出することもある。誤:ローカルだから安全。正:ローカルなら、安全性を組織が自ら設計・検証・統制できる。 詳しく読む →

グリッドテックはクラウドを否定しない。用途に応じてクラウドとオンプレミスを使い分ける前提で、必要な選択肢としてのローカルLLMを提供する。

全文を読む(参考資料・導入判断の基準を含む) →

AI DEVELOPMENT

AI開発支援

主力事業

生成AIを、外部API依存ではなく自社の環境で動かすための支援を行う。企画から構築、運用まで一貫して対応する。

提供内容

  • 社内ローカルLLMの構築・運用支援
  • AIエージェント開発
  • オンプレミス環境でのAI開発支援

こんな事業者に

  • 生成AIを使いたいが、情報を外部に出せない事業者
  • 既に外部APIでAI活用を始めており、依存リスクへの備えを検討している企業・研究機関
  • 社内文書の検索・要約など、具体的な業務にAIを組み込みたいと考えている組織

進め方

  1. 01

    要件整理

    扱うデータの性質、必要な性能、予算感を確認する。

  2. 02

    環境構築

    用途に合わせたLLM・ハードウェア構成を選定し、環境を構築する。

  3. 03

    運用支援

    構築後の運用、モデルの入れ替え、追加開発を継続的に支援する。

IT SUPPORT

IT支援

グリッドテックはAI開発を主力事業とする以前から、防災システムをはじめとする受託開発を行ってきた。要件定義から設計・実装・運用まで、システム開発全般に対応する。

  • 防災システム等の受託開発
  • システムの構築
  • システムの運用

EVENT SUPPORT

イベント支援

配信機材の手配・設営から当日の配信運用まで、イベントのオンライン配信を支援する。あわせて、ワイン会をはじめとした少人数制イベントの運営支援も行う。

  • イベントのネット配信支援
  • ワイン会などのイベント運用支援

COMPANY

会社概要

商号グリッドテック合同会社
代表社員渡辺 誠
所在地東京都千代田区

会社概要の詳細を見る →

CONTACT

お問い合わせ

下記フォームよりお問い合わせください。

本フォームからの送信機能は現在準備中です。