TypeSafe AIが「System One Models」を発表、高速で構造化された意思決定に最適化
TypeSafe AIは、従来のLLMと比べ2桁高速かつ効率的な新型AI「Jev」をリリースした。入力トークン $0.042/MTok で出力トークン無料という低コストで、70ms～500ms の高速応答を実現する。
TypeSafe AIの創業者Diogo Almedaは、OpenAIでChatGPTの研究に携わった後、AIにおける自動化の実現を追求してきた。同社は2年間のステルス期間を経て、新型AI「Jev」を発表した。Jevは「System One Models」と呼ぶ新しいクラスのフロンティアモデルの第一弾であり、構造化された意思決定に最適化されている。
性能と処理速度
Jevは既存LLMと同等の知能レベルをSystem One タスクで達成しながら、2桁高速かつ効率的である。エンドツーエンド応答時間は70ms～500msで、既存のフロンティアLLM（3～329秒）と比較すると 40x～200x 高速化される。同社のホームページでは 193.6x 高速という実績も掲載されている。
アーキテクチャと技術革新
Jevは新しいモデルアーキテクチャ、並列サンプラー、そして「Reinforcement Learning for Calibrated Decisions (RLCD)」と呼ぶ訓練手法を採用している。並列処理により出力を逐次的ではなく並行生成することで、高速応答を実現する。
構造化出力を最適化したJevは幻覚が発生せず、すべての出力で確信度と不確実性を通知する。出力はタイプセーフで型エラーの発生が不可能である。最大255個までの選択肢（cardinality）に対応する。
価格設定と利用コスト
Jevの入力トークンコストは $0.042/MTok、出力トークンは無料である。これは既存LLMの入力トークン $0.20～$10/MTok と比較し、出力トークンも一般的に入力の5倍程度のコストがかかる状況と対照的である。秒10クエリ実行時の推定コストは時間あたり $7 である。ホームページでは 444.6x 安いという実績も記載されている。
応用事例とデモ
Jevは実時間アプリケーション向けに100ms以下の応答速度を実現し、即座な判断が必要なシステムに適している。デモではDoomとWikiraceゲームが用いられた。GPT-5.6 Terraとの並行デモンストレーションも実施された。
Almedaは「モデルが数年前からチャットで超人的になっているのに、なぜ自動化はないのか。これが過去4年間、私の原動力となっている」と述べている。
筆者の見立て
- Almedaは、チャットモデルがAGIにつながる可能性を示唆している
- チャットモデルには根本的に重要な欠落要素があると解釈している
- 文字列処理を捨てることで、モデルに超人的な能力が与えられると論じている
- System One Modelsは従来の代替案より高い信頼性を達成できると予想している
- 知能コストが1桁削減されるたびに、それ以上の規模の新しいユースケースが解放されると予想している
- 機械知能が蒸気機関効率向上後の石炭の道をたどると予想している
この記事は元記事の事実のみに基づいて自動生成されました。
出典
TypeSafe AI Blog「Introducing System One Models & Jev」 https://typesafe.ai/blog/introducing-system-one-models-and-jev （OpenRouter の報道による）