GGML ベースの音声認識ライブラリ「transcribe.cpp」v0.1.0 公開
CJ Pais が GGML ベースの汎用音声文字化ライブラリ「transcribe.cpp」v0.1.0 を公開した。16 の ASR ファミリ（60+ モデル）をサポートし、Vulkan、Metal、CUDA、TinyBLAS による高速化、Python / Javascript / Typescript / Rust / ObjC / Swift のバインディングを備え、whisper.cpp の代替として位置づけられている。
CJ Pais は GGML ベースの音声文字化ライブラリ「transcribe.cpp」v0.1.0 を公開した。全モデルが数値検証および WER（単語誤り率）テスト済みで、ストリーミング・バッチ両方の文字化に対応する。
サポート範囲と性能検証
transcribe.cpp は 16 の ASR ファミリと 60 以上のモデルに対応している。handy-computer Hugging Face org で公開される全モデルは数値検証と数千の発話に対する WER テストが実施されており、whisper.cpp で動作する .bin ファイルも実行可能である。
Vulkan、Metal、CUDA、TinyBLAS による加速に対応し、複数プラットフォームでの動作を想定した設計となっている。
言語バインディングと開発体制
Python、Javascript / Typescript、Rust、ObjC / Swift の 4 言語でメンテナ対応のバインディングが提供される。
開発には外部の支援が行われている。Mozilla AI の BiR プログラムが本プロジェクトを支援し、Modal は WER テストおよび CUDA 検証用のクレジットを提供、Blacksmith が CI / CD をサポート、Hugging Face が handy-computer org のプライベートストレージを提供している。
制限事項と今後の展開
いくつかのモデルはまだ追加されていないものの、近日中に追加される予定とされる。また、whisper.cpp に存在する一部のフラグと機能はまだサポートされておらず、現在処理されていないケースがあるとされている。
この記事は元記事の事実のみに基づいて自動生成されました。
筆者の見立て
- CJ Pais は「現在の ASR 推論スタックでクロスプラットフォームアプリケーションを配布することは問題が多い」と論じている
- GGML が「最適な進路」と解釈している
- 「大多数のユースケースでは当ライブラリの whisper 実装は堅牢であり、ほぼ同等の性能で whisper.cpp に置き換わり得る」と論じている
- 「今後、何らかの理由でより多くの推論がローカルで行われるようになる」と予想している
- RK3566 が「transcribe.cpp を使用してモデルをリアルタイムより高速に実行できる可能性がある」と示唆している
- 「SOTA モデルを使ったリアルタイム以上の速度での文字化がわずかな電力消費で実現される可能性がある」と示唆している
- 「単独の開発者が数ヶ月間で外部の支援なしに GGML を使用してこのサイズのエンジンを一から書くことはできない」と論じている
出典
transcribe.cpp プロジェクトページ https://workshop.cjpais.com/projects/transcribe-cpp