it.xnews.jp
出典: Strands Agents 原文公開: 2026-11-09 生成: 2026-11-10 読了 約 4 分 model: claude-haiku-5-5 原文: https://strandsagents.com/blog/amazon-saves-millions-replacing-sonnet-with-strands-decider/ raw.md

Amazon、社内チケット分類でSonnet 4.6をStrands Deciderに置き換え

Amazonの2人のエンジニアが、社内チケットシステムのラベル付けに使っていたClaude Sonnet 4.6を決定モデルのStrands Deciderに置き換えた。記事によると、Strands Deciderは同等の性能をより低いコストで実現したという。

Strands Agentsのブログ記事によると、Amazonの社内チケットシステムを担当するエンジニアのCarrとMehulが、チケットのラベル付けにClaude Sonnet 4.6を使う代わりに、決定モデルのStrands Deciderを採用した。Strands Deciderは1か月前に公開されたモデルである。

切り替えの概要

対象は顧客からのエスカレーション、キャパシティ要求、自動アラーム、セキュリティ検知結果などのチケットで、20のカテゴリに分類される。チームは、テストセットで明確に良い結果を示したことから、元の2Bモデルから E4B Gemma 4 ビルドに切り替えた。別のチケット群では、E4BモデルがプロダクションのSonnetを上回ったという。

新しい仕組みでは、LLMによるラベル付けを決定モデルに置き換えた。このモデルは、各選択肢の確率と信頼度スコアを返す。E4BはSageMakerのml.g5.xlargeインスタンス上で動作し、モデルの使用メモリは19 GiBである。ウィンドウサイズは4,096トークンである。

性能とコストの比較

Sonnet 4.6とStrands Decider E4Bを比較すると、以下のとおりである。

項目Sonnet 4.6Strands Decider E4B
平均応答時間(1回あたり)4,215 ms897 ms
入力トークン(1チケットあたり)6,5542,009
出力トークン(1チケットあたり)1701
合計トークン(1チケットあたり)6,7242,010
コスト(1チケットあたり)$0.0222約$0.0005

平均応答時間は78%改善し、合計トークンは70%削減された。Sonnetの利用を停止した日には、ラベル付けを行うLambdaの平均実行時間が74%低下した。

コストは、米国東部(us-east-1)のオンデマンド公開価格に基づく。Sonnet 4.6の1チケットあたりのコストは$0.0222で、100万チケットでは約$22,200になる。Strands Decider E4Bは1チケットあたり約$0.0005で、余裕分を含めると100万チケットで約$500となる。記事は、これをSonnetより44倍安いと説明している。ml.g5.xlargeインスタンスの価格は$1.408/インスタンス時間で、640 msのリクエストを処理した場合は1時間に5,600チケットを処理できる。フル稼働時の100万チケットあたりのコストは$250とされる。

運用面の工夫

筆者の見立て

この記事は元記事の事実のみに基づいて自動生成されました。

出典

この記事をシェア