On-Premise LLM Development & Fine-Tuning

オンプレ・閉域で動くLLMを、
貴社の業務専用に。

EqualFrontiersは、オープンなLLMを貴社のデータと業務に合わせてファインチューニングし、 オンプレミスや閉域ネットワークで動かすまでを一貫して受託します。

オンプレLLMのご相談はこちら

こんな課題はありませんか

  • 機密データや個人情報を、クラウドのAIサービスに送ることができない
  • 汎用のAIでは、社内用語や業務手順に沿った答えが出ない
  • API の利用料が膨らむ／外部のネットワークに依存したくない
  • 自社のLLMを持ちたいが、学習・評価のノウハウがない

オープンなLLMを業務に合わせて鍛え、貴社の環境の中で動かせば、 データを外に出さずに、業務に特化したAIを使えます。

閉域LLMの構成図：社内データ（文書・記録・マニュアル）を、貴社の環境（オンプレ・閉域・クラウド）の中で専門特化LLMの学習・評価・量子化に使い、社内の利用者や業務アプリが同じ環境の中で使う。外部のAIサービスにはデータを送らない。

提供内容

モデル選定

用途・精度・速度・ライセンス・運用環境から、ベースにするオープンモデルと規模を選びます。

データ設計・合成データ

社内資料から学習データを生成し、別のモデルで事実や品質を検品するパイプラインを構築します。

ファインチューニング（SFT・DPO・GRPO）

教師あり学習、好みの学習、強化学習を組み合わせ、口調・手順・判断の型を業務に合わせて身につけさせます。

評価設計

業務に即した評価セットと自動採点の仕組みを先につくり、弱点を見つけて直すサイクルで精度を上げます。

ツール利用・エージェント化（必要に応じて）

検索・計算・社内システム・データベース・APIを呼び出して業務を進められるよう、ツールの使い方まで学習・評価します。

量子化・閉域での運用

手元のGPUやサーバーで動く大きさに量子化し、データを外に出さない構成で導入。運用中の課題をもとに追加学習まで支援します。

進め方

進め方の図：1 モデル選定、2 データ設計（社内資料から合成・検品）、3 学習（SFT・DPO・GRPO）、4 評価（業務に即した採点）、5 量子化、6 閉域運用。評価で見つけた弱点を、データ設計に戻って直す。

  1. ヒアリングと要件整理：業務、データ、計算環境、求める精度を伺います。
  2. 小規模なPoC：評価セットを先につくり、小さなモデルとデータで効果を確かめます。
  3. 本学習と評価：規模を上げて学習し、評価で弱点を見つけて直します。
  4. 閉域環境への展開と運用支援：貴社の環境で動かし、運用しながら改善します。

対象: 1B〜750B規模のオープンモデル（Gemma・Qwen・Llama など）
実施環境: 貴社の計算環境（オンプレ・閉域・クラウド）に対応
費用: 規模・期間に応じて個別にお見積もりします

実績

  • 東京大学 松尾研究室の医療LLMプロジェクトで、取締役CEO 小野克樹が10人の post-training チーム（SFT・DPO）のサブチームリーダーとして、最大750Bパラメータのモデルのファインチューニングを担当
  • 松尾研LLM開発コンペ2025 予選1位・決勝3位（チームリーダー）
  • Google「Project VOICE」で、約5万件の会話データによる Gemini のファインチューニング（iF Design Award Gold Award）
  • Hugging Face で20以上のモデルを公開

小さなモデルでの実例として、約10億パラメータのLLMを受付という一つの役割に鍛え上げ、 iPhone・iPadの中だけで動かした技術デモ「イコ」も公開しています。

よくある質問

自社にGPUサーバーがなくても相談できますか？

はい。貴社の計算環境（オンプレ・閉域・クラウド）に合わせて、必要な計算資源の規模からご提案します。

学習用のデータが少なくても始められますか？

はい。社内資料から学習データを生成し、別のモデルで事実や品質を検品する仕組みをつくるので、少ないデータからでも始められます。

社内システムと連携して、作業までさせられますか？

はい。必要に応じて、社内システム・データベース・APIを呼び出すツール利用（エージェント化）まで学習・評価します。閉域の中で完結する構成にできます。

RAGとファインチューニングは、どちらが良いですか？

用途によります。最新の社内情報を参照させるならRAG、口調・手順・判断の型を身につけさせるならファインチューニングが向いています。両方を組み合わせる構成もご提案します。

どのモデルを使いますか？

Gemma・Qwen・Llama などのオープンモデルから、用途・規模・ライセンス・運用環境に合わせて選びます。

→ AI事業の全体を見る

ご相談・お問い合わせ

オンプレ・閉域LLMの開発、LLMのファインチューニング・post-training のご相談は、下記フォームからご連絡ください。 想定している業務やデータ、モデルの規模、計算環境などをご記入いただけるとスムーズです。