Laya：33ms 多言語決定エンジンがオープンソースで公開

TL;DR: convaiinnovations が開発した Laya は、単一 GPU で 32.8 ミリ秒で動作する非自己回帰型の決定エンジンで、100 以上の言語に対応し、Apache 2.0 ライセンスで完全オープンソース化された。TypeSafe AI が提供する商用製品 Jev と比べて 6～8 倍高速で、API 購読料金は不要。

convaiinnovations が開発した Laya は、構造化スキーマに対して校正済み確率を出力する非自己回帰型の決定エンジンである。単一 GPU 上で 32.8 ミリ秒、バッチ処理時は質問あたり 7.2 ミリ秒で実行可能で、100 以上の言語をサポートしている。Apache 2.0 ライセンスで完全オープンソース化されており、Hugging Face、GitHub、PyPI で入手可能である。

開発背景と競合製品との比較

著者は 2025 年 3 月に arXiv（arXiv:2503.23303）で初の論文を公開し、その 1 年前に開発していたコンセプトを発表した。その後 2025 年 9 月に別の論文（arXiv:2510.01237）を公開した。一方、OpenAI の ChatGPT 共同開発者である Diogo Almeida が率いる TypeSafe AI は 2026 年 9 月に同じコンセプトを用いた Jev を商用サービスとして立ち上げた。同社は著者が数年前に公開していたアプローチと同じ原理を採用して製品化した。

Jev は 100 万入力トークンあたり 0.042 ドルの課金であり、典型的な応答時間は 150 ミリ秒である。これに対し Laya は自社ホスト環境で 0 ドルの利用料で、Jev 比で 6～8 倍高速に動作する。単一質問で 32.8 ミリ秒、10 問バッチ処理で P50 72.3 ミリ秒の性能に対し、Jev は 10 問バッチで 1500 ミリ秒（直列処理）の応答時間となる。

性能とベンチマーク結果

Laya は複数の実運用ワークフロー上で高精度を実現している。メール迷惑フィルタリング（Enron）では精度 0.993、期待較正誤差（ECE）0.013、フィッシング検出では精度 0.980、ECE 0.012 を達成した。LLM ガードレール（50% 選別カバレッジ）では精度 0.931、RAG 検索結果の関連性フィルタリングでは 0.657、サポートチケットの 10 分類ルーティングでは 0.522 の精度を示している。

型付き決定タスク（2,000 決定）では Laya が 0.766 の精度を達成したのに対し、Jev は 0.727 にとどまった。AG News では Laya が 0.950、Jev が 0.910、感情分析（DAIR Emotion）では Laya が 0.595、Jev が 0.480 である。校正信頼度では Laya の ECE が 0.081 に対し、Jev は 0.246 と大きく差がついている。

多言語対応とアーキテクチャ

Laya は 51 言語を対象とした MASSIVE ベンチマーク（20 選択肢）で、英語チェックポイントがすべての言語に対して最小平均信頼度 0.885 を維持している。たとえクメール語では精度 0.0 でも信頼度 0.952、アルメニア語では精度 0.050 で信頼度 0.885、ヘブライ語では精度 0.060 で信頼度 0.964 と、言語間での信頼度の一貫性を保証している。45 言語以上（51 中）でランダムベースライン（0.050）の 3 倍以上の性能を発揮している。

モデルは 3 つのチェックポイント構成である：convaiinnovations/laya（421 百万パラメータ、ModernBERT-large、512 コンテキストトークン）、convaiinnovations/laya-multilingual（322 百万パラメータ、mmBERT-base、1024 コンテキストトークン、256k 語彙）、convaiinnovations/laya-typed-decisions（421 百万パラメータ、ModernBERT-large、1024 コンテキストトークン）である。Router コンポーネントは Devanagari、CJK 漢字、Cyrillic、Arabic、Hebrew、Tamil、Thai を含む 22 の文字体系に対応し、英語テキスト検出で 0.09 ミリ秒、Devanagari/インド言語で 0.54 ミリ秒、大規模ネストされた JSON で 0.73 ミリ秒のオーバーヘッドに抑えられており、33 ミリ秒の前方パスの約 2% に相当する。

リソース要件と利用方法

English モデルのダウンロード規模は 808 MB、多言語サブフォルダは 647 MB、統合モデル重み全体で 2.5 GB である。Laya パッケージの最小バージョンは 0.3.3 で、pip install laya でインストール可能である。Kaggle の無料 GPU（2×T4）での初期化モデルのカスタム微調整は約 4 時間で完了する。基本モデルの型付き決定スコアは 0.35 から微調整により 0.766 に向上し、温度校正により ECE は 0.466 から 0.081 に改善される。

対話型デモは convaiinnovations/laya-demo（ZeroGPU）で利用でき、GitHub リポジトリは github.com/NandhaKishorM/laya に公開されている。

この記事は元記事の事実のみに基づいて自動生成されました。

出典

Laya — 33ms Multilingual System 1 Decision Engine, https://laya.convaiinnovations.com/