iPhone・iPad の中だけで動く受付AI「イコ」を公開しました
EqualFrontiersは、受付AI「イコ」を App Store で無料公開しました。
イコは、約10億パラメータ（1B）の小型LLMを、データ合成・post-training・評価・量子化で一つの役割に鍛え上げ、iPhone・iPad の中だけで動かした技術デモです。会社のこと、事業のこと、研究のことを、日本語と英語で案内します。
イコの特徴
端末の中だけで動く：最初にモデル（約0.8GB）をダウンロードしたあとは、通信なしで会話できます。会話の内容が端末の外に送られることはありません。
気持ちが表情と色に出る：返事を感情モデルが読み取り、イコの色と表情が変わります。
長い会話を覚えている：20往復ほどの会話を踏まえて答えます。
どう鍛えたか
データ合成：公式サイトと論文を資料に、約2万8千件の受付の会話を作り、別のLLMで一件ずつ検品しました。
ファインチューニング：Google の Gemma 3 1B をもとに、全パラメータの SFT、DPO、長い会話での追加学習を重ねました。
量子化：4ビットに量子化し、約0.8GBにしました。
評価と改善：事実を確かめるテストと会話の自動評価で弱点を見つけ、学習データを足すサイクルを繰り返しました。
端末で推論：アプリの中で llama.cpp がLLMを、Core ML の感情モデルが返事の気持ちを動かします。学習から推論まで Mac 1台で完結しています。
モデルと学習データは Hugging Face で公開しています。
同じ手法は、より大きなモデルにもそのまま応用できます。業務に合わせたLLMの post-training や、閉域・オンプレでのLLM運用のご相談もお待ちしています。