米政府がAnthropicのFable 5とMythos 5へのアクセス停止を指令
米政府が国家安全保障上の理由でAnthropicのAIモデル2種の利用を禁止した。Anthropicは本日17時21分(ET)に指令を受け、両モデルへのアクセスを直ちに全ユーザーに対して停止する必要に迫られている。
リード段落
米政府は本日、国家安全保障当局を引用して、Fable 5とMythos 5へのアクセスをすべての外国人(米国内外を問わず)に対して停止するよう求める輸出規制指令を発令した。Anthropicは現地時間17時21分にこの指令を受け取った。同社は両モデルのすべてのユーザーに対するアクセスを直ちに無効化する必要がある。Anthropicの他のモデルへのアクセスは影響を受けない。
政府の懸念事項
政府の懸念は、Fable 5を迂回または「ジェイルブレイク」する方法が存在するという認識に基づいているとみられる。Anthropicが受け取った実証では、既知の軽微な脆弱性のみが明かされたとされ、他の公開モデルでも発見可能な内容だった。Anthropicは「強固なセーフガードを設置しており、Fableがサイバーセキュリティ関連のタスクに悪用される可能性を大幅に減らしている。実際のところ、セーフガードは非常に厳密なため、多くのユーザーが過度に広範だと不満を述べている」と述べている。
Anthropicの安全対策
Anthropicは米政府、英国AISI、複数の民間第三者組織、および内部チームと協力して、数千時間にわたってFableのセーフガードについてレッドチーミングを実施した。同社は「このテストにより、Fableのセーフガードが過去に展開されたいかなるモデルよりも実質的に効果的であることが示された」と主張している。また「現在まで、テスターは普遍的なジェイルブレイク、つまりモデルのセーフガードを非常に広範に迂回し、幅広いサイバー機能のブロックを解除するジェイルブレイク方法を見つけることができていない」とも述べている。
Anthropicの異議と今後
Anthropicは「数億人の商用ユーザーに展開されている商用モデルを回収する理由となるべき、狭い可能性としてのジェイルブレイク発見には同意しない」とコメントしている。Anthropicは「この基準が業界全体に適用された場合、すべてのフロンティアモデルプロバイダーのすべての新規モデル展開が本質的に停止すると考える」と警告している。同社は「この措置は透明性があり、公正で、明確で、技術的事実に基づいた法定プロセスの一部として機能するべきという政府の能力に関する当社の公開声明の原則に従っていない」と述べ、「顧客への混乱について謝罪し、できるだけ早くアクセスを復旧するために取り組んでいる」としている。
筆者の見立て
- 完全なジェイルブレイク耐性は現在達成不可能とみられると論じている
- 狭い可能性としてのジェイルブレイク発見が数億人に展開されたモデルの回収理由となるべきではないと論じている
- 同基準が業界全体に適用された場合、すべての新規モデル展開が本質的に停止することになると予想している
- 今回の措置を誤解だと解釈している
この記事は元記事の事実のみに基づいて自動生成されました。
出典
Anthropic「Statement on the US government directive to suspend access to Fable 5 and Mythos 5」https://www.anthropic.com/news/fable-mythos-access