Anthropic、オープンウェイツモデル禁止案を否定

Anthropic CEO のダリオ・アモデイ氏は、同社がオープンウェイツモデルの禁止を主張したことはないと明言し、危機管理に関する代替案を提示した。

ダリオ・アモデイ氏は、Anthropic がオープンウェイツモデルの禁止を主張したことはないとの立場を明確にした。アモデイ氏は、危機管理上の懸念に基づき、中国へのチップ販売制限、産業規模での蒸留操作の取り締まり、十分な能力を持つモデルに対する強制安全テストの実施という3つの代替政策措置を提案している。

オープンウェイツモデルの位置付け

アモデイ氏によると、「危険な能力を持たないオープンウェイツモデルは公共財である」と述べている。また、「ダリオ・アモデイ氏は『Anthropic は開発モデルの禁止を主張したことはない』と述べた」。報道によると、米国の一部当局者が米国企業による中国製オープンウェイツモデルの使用禁止を検討しているとされている。

国家安全保障上の懸念と代替案

ヴァンス副大統領は、「権威主義体制は AI を盗用し、軍事、諜報、監視能力を強化するために使用している」と警告している。インテリジェンスコミュニティの 2026 年脅威評価によると、「他のグローバルパワーの AI における堅牢な進歩は、米国の経済競争力と国家安全保障上の優位性に課題を突きつけている」とされている。

アモデイ氏が 6 ヶ月前に発表した『The Adolescence of Technology』というエッセイで懸念を明記している。アモデイ氏は蒸留が訓練モデルからスクラッチするプロセスよりも計算効率的であることを指摘し、中国のチップ国内生産能力が限定的であることを踏まえ、3つの政策措置を提案している：

• 中国への強力なチップの販売禁止
• 産業規模での蒸留操作の取り締まり強化（多くの蒸留操作企業はオープンウェイツモデルをリリースしている）
• 十分な能力を持つすべてのモデル（オープンウェイツおよびクローズドモデル）に対する強制安全テストの実施（トランプ政権は最近数カ月で強制安全テストに向けて動いている）

Anthropic はモジュール型トレーニング戦略に関する研究を実施しており、オープンウェイツモデル安全性の改善に取り組んでいる。

筆者の見立て

• アモデイ氏は、最も危険なモデルは秘密裏に訓練され、人民解放軍のドローン使用、国家安全保障部の監視弾圧用に限定配布されるモデルである可能性を示唆している。
• 生物学分野は強い攻撃・防御の非対称性を持つことになり、十分に能力あるモデルはパンデミック規模ウイルスを広く入手可能な物質で迅速に兵器化できる可能性がある一方、これらの防御は数年規模の業務上の課題であると論じている。
• オープンウェイツモデルがセーフガード開発をより容易にするかどうかについては、反対が同等かそれ以上に成立する可能性があると解釈している。
• AI 生物兵器の防止に関する限定的な協力は、中国の利益でもあるため可能性を示唆している。

この記事は元記事の事実のみに基づいて自動生成されました。

出典

Anthropic「Our position on open-weights models」 https://www.anthropic.com/news/position-open-weights-models (インテリジェンスコミュニティの報道による)