小規模言語モデルの実用性向上で消費者向けAI企業の成長に道

数週間にわたってgpt-5.6-lunaなどの小規模言語モデルを試用した筆者は、コスト効率の改善により消費者向けおよびビジネス向けアプリケーションでの実用性が高まったと述べている。

筆者はgpt-5.6-lunaを過去数週間使用してきた。同モデルは高速で、スループットは~100 tpsに達する。数千通のメール検索にかかるAPI費用は数十セント程度（USD）であり、従来のSonnetクラスのモデルが同じタスクで約$1かかっていたのに対し、lunaの平均コストは~$0.10である。GLM 5.3も新たな選択肢として登場している。

消費者向けAI企業が成長しない理由

投資家から「消費者向けAI企業がもっと増えないのはなぜか」という質問をよく受けるという筆者は、トークンコストが直接的な答えだと解釈している。従来の大規模消費者向けアプリ（Google、Facebook、Snapchat）はそれぞれ特定の成長戦略に従ってきたが、AmazonとNetflixはこの標準的なプレイブックの例外とされている。

提案される消費者向けアプリの月額料金は$30/moである。Fable 5やSol 5.6といった高性能モデルは一般的にコーディング作業に用いられており、筆者はこれらのコストが消費者向けAI企業の成長を阻害してきたと考えている。

ビジネス利用の可能性

Segment共同創業者であり、Charm Industrialで$100m+の資金調達を行い、最近RevoyのシリーズAをクローズしたPeterの事例を見ると、彼の作業の~95%は「トークンスイーパー」バケットに分類される。Peterは「自分の作業の95%はカジュアルな会話やアシスト業務、段取りや調整といった作業に該当する」と述べている。企業内での人間によるトークン消費の大部分は、IQ 180レベルの革新的な作業ではなく、迅速で低コストで十分な対応に充てられていると筆者は解釈している。

小規模言語モデルの進歩は見落とされやすいが、実装インフラの整備が進めば、迅速で低コストで十分性能のモデルがビジネス利用の標準になると筆者は自信を示している。

この記事は元記事の事実のみに基づいて自動生成されました。

筆者の見立て

• 迅速で低コストで十分な性能のモデルに対する需要は「今にも爆発的に増加しようとしている」と予想している。
• 特に革新的な飛躍が必要な分野において、フロンティアレベルのモデルへの需要は「引き続き増加し続ける」と予想している。
• 企業内での人間によるトークン消費の大部分は、高度な知的作業ではなく、日常的な調整業務に充てられていると解釈している。
• インフラ整備が完了すれば、迅速で低コストで十分な性能のモデルがビジネス向けに実現されると予想している。

出典

元記事：「Small Models Have Arrived」 https://calv.info/small-models-have-arrived