LLM Post-Training Tech Demo

1Bのモデルを、意図どおりに動かす。

受付AI「イコ」は、約10億パラメータ（1B）の小型LLMを、データ合成・post-training・評価・量子化で一つの役割に鍛え上げ、 iPhone・iPadの中だけで動かした技術デモです。同じ手法は、より大きなモデルにもそのまま応用できます。

アプリで試す（無料・App Store）

EqualFrontiersの受付AI「イコ」

イコは、EqualFrontiersの会社のこと、事業のこと、研究のことを案内する受付AIです。日本語と英語で話しかけられ、質問と同じ言葉で答えます。

端末の中だけで動く

最初にモデル（約0.8GB）をダウンロードしたあとは、通信なしで会話できます。会話の内容が端末の外に送られることはありません。

気持ちが表情と色に出る

イコの返事を感情モデルが読み取り、アメーバのような姿の色と表情が変わります。褒められるとご機嫌に、しつこく聞かれると少しずつむっとします。

長い会話を覚えている

20往復ほどの会話を踏まえて答えます。会話はスレッドとして端末内に保存され、あとから続きを話せます。

しくみも見られる

小さなAIをどう育てたのか（データ合成・学習・量子化）を、アプリの中の図解で紹介しています。

大きなモデルでは、もっと遠くへ。

小さなモデルでも、用途を絞って鍛えれば、ここまで意図どおりに動かせます。 100B（1000億）パラメータを超えるオープンなモデルを業務に合わせて post-training し、検索・計算・社内システムなどのツールを使いこなせるように設計すれば、 フロンティア級のAIに迫る性能を、データを外に出さずに実現できる可能性があります。

EqualFrontiersの取締役CEO 小野克樹は、東京大学松尾研究室の医療LLMプロジェクトで、750Bパラメータ規模のLLMの post-training サブチームを率いました。イコで実践した「データで鍛え、評価で弱点を見つけて直す」手法を、大規模なモデルにもそのまま応用します。

どう鍛えたか。

1. データ合成

公式サイトと論文を資料に、オープンなLLMで約2万8千件の受付の会話を作り、別のLLMで事実や口調を一件ずつ検品しました。

2. ファインチューニング

Google の Gemma 3 1B をもとに、全パラメータを学習（SFT）。良い答えと悪い答えを比べる学習（DPO）や、20往復前後の長い会話での追加学習も重ねました。

3. 量子化

学習したモデルを4ビットに量子化し、約0.8GBに。スマートフォンのメモリでも動く大きさにしています。

4. 評価と改善

資料の事実を一件ずつ確かめるテストや、会話の流れを採点する自動評価を作り、見つかった弱点に狙いを絞って学習データを足すサイクルを繰り返しました。

5. 端末で推論

アプリの中で llama.cpp がLLMを動かし、Core ML の感情モデルが返事の気持ちを読み取ります。学習から推論まで、Mac 1台で完結しています。

技術デモ「イコ」と学習前のベースモデル（Gemma 3 1B）の比較グラフ：日本語の質問での事実の正確さ 27%→67%、長い会話での事実の正確さ 21%→55%、会社の事実の確認テスト 23%→53%、誤った前提を正せた割合 6%→56%。

モデルと学習データは公開しています：モデル／ GGUF版／データセット（Hugging Face）

貴社のLLMを、貴社の業務のために。

EqualFrontiersは、オープンなLLMの post-training と自社LLM開発を支援します。モデル選定、データ設計・合成データ、SFT・DPO・GRPOによる学習、評価設計、量子化・推論最適化、閉域・オンプレでの運用まで、一貫して担います。

対象: 1B〜750B規模のオープンモデル　実施環境: 貴社の計算環境（オンプレ・閉域・クラウド）　費用: 個別にお見積もり

大規模LLM案件のご相談はこちら

※ イコはAIのため、誤った情報を含むことがあります。会社の正式な情報は公式サイトやお問い合わせでご確認ください。

→ 閉じた環境で動く専門特化LLMの詳細を見る

ご相談・お問い合わせ

LLMの post-training、自社LLM開発、閉域・オンプレでのLLM運用、取材のご相談は、下記フォームからご連絡ください。想定しているモデルの規模、業務やデータ、計算環境などをご記入いただけるとスムーズです。