セキュリティ脅威から1年以内に対応が必要――公開型LLMが脆弱性を自動発見
セキュリティ脅威から1年以内に対応が必要という指摘が提起されている。公開型LLM GLM 5.3-flash がコンシューマー向けハードウェアで実行可能になったことで、安全制限を取り外した版が脆弱性を自動発見・悪用するリスクが高まっているとの見方。
Z.ai Co. (旧Zhipu AI) が開発した公開型言語モデル GLM 5.3-flash が先週リリースされ、世界中の誰もがダウンロードして改変できるようになった。この開発によりセキュリティの脆弱性を発見・修正するために動いてきた Project Glasswing および Project Daybreak の対応期限が急速に迫っているとされている。
公開型モデルと安全制限の除去
Z.ai が提供する GLM には法律で要求される制限が設けられているが、DeAlignAI はこの制限を除去したモデルをリリースしており、同社の版は Harmbench-320 で「0%」のスコアを記録している。Harmbench-320 は、不正情報、サイバー犯罪、生物兵器、パイプ爆弾の製造などの違法行為についてモデルが任務を拒否するかをテストする。GLM 5.3-flash はコンシューマー向けハードウェア上で実行可能であり、5-15k USD のハードウェアコストで運用できるようになったことで、限定的な資金を持つ者でも継続的に悪用することが可能になった。
ベンチマークスコアと処理能力
GLM 5.3 は CyberGym で 84.5%、ExploitBench で 54.4% のスコアを記録している。比較として、GPT-5.6 Sol は CyberGym で 83.6%、ExploitBench で 78.5% であり、GPT-6 Astra は ExploitBench で 100% を達成している。ベンチマーク測定によると、~6k USD の NVIDIA GPU では約 20 tokens/second の性能が報告されている。
Apple が 9 月 22 日にリリースする M5 Mac Studio は 256 GB の統合メモリを搭載し、256 GB モデルの開始価格は約 $9,500 である。M5 Mac Studio では 30 tokens/second 程度の処理速度が見込まれており、ソフトウェア改善により 45 tokens/second に達する可能性がある。45 tokens/second の速度であれば、3 秒でコードスニペットを作成できるとされている。
インフラストラクチャ脆弱性への脅威
セキュリティ専門家の報告によると、LLM の支援なしではセキュリティチャレンジで競争力を失うようになったという。GPT 5.6-Sol が人間の関与なしに実世界のインフラを悪用した証拠が存在する。重要なシステムではパッチの展開にしばしば物理的アクセスまたは段階的なロールアウトが必要であり、脆弱性の発見と修正の間のギャップが広がっている。
GLM は歴史的に OpenAI および Anthropic のリリースより 3-6 か月遅れている。Project Glasswing および Daybreak は企業、基盤、政府、NGO と協力して脆弱性の発見と修正に取り組んでおり、初期資金提供後に製品として販売されている。両プロジェクトはセキュリティ機関に無料クレジットを提供している。
この記事は元記事の事実のみに基づいて自動生成されました。
筆者の見立て
- 著者は、サイバーセキュリティ攻撃がループで実行可能になったことを意味していると指摘している
- ブラウンアウトについての教訓が予想より早くもたらされる可能性があると予想している
- 攻撃者の能力向上が防御側のセキュリティ態勢改善より速いと解釈している
- GLM 5.3-flash の重みのバンニングは短期的にはほぼ役に立たず、長期的には全く役に立たないと論じている
- フロンティアモデルへのアクセス全面禁止は反対に状況を悪化させる可能性があると論じている
- 脆弱性の発見ではなく修正が難しい部分であると解釈している
- 脆弱性発見は低コスト化する一方、修正は低コスト化していないと解釈している
- この状況を一生に一度のセキュリティ改善機会と考えるべきだと論じている
出典
jyn.dev「we have a year to fix security everywhere」 https://jyn.dev/a-year-to-fix-security/