OpenAI、C2PAとSynthID導入でAI生成画像の来歴証明を強化

OpenAIは、C2PA準拠の生成製品としての認定取得、Google DeepMindのSynthID透かし技術の画像への組み込み、そしてアップロード画像がOpenAI製かを判定できる公開検証ツールのプレビューという3つの施策を発表した。

OpenAIは、コンテンツの来歴（プロヴェナンス）を多層的に担保する新たなアプローチを発表した。業界標準への準拠、不可視の電子透かし、公開検証ツールの3本柱で、AI生成コンテンツの信頼性向上を図る。

C2PA準拠と来歴情報の取り組み

OpenAIは2024年にDALL·E 3で生成された画像へのContent Credentials付与を開始し、その後ImageGenおよびSoraにも同機能を拡大した。さらにCoalition for Content Provenance and Authenticity（C2PA）の運営委員会に参加し、今回C2PA Conforming Generator Productとしての認定を取得した。

一方、C2PAメタデータはアップロードやダウンロードの過程で削除・消失する可能性があり、ファイル形式の変換、リサイズ、スクリーンショットなどの操作によって破損する可能性もあるとされる。

SynthID透かし技術の導入

OpenAIはGoogle DeepMindのSynthIDによる電子透かしを、ChatGPT、Codex、またはOpenAI APIを通じて生成される画像に組み込む。SynthIDはC2PAのメタデータベースのアプローチを補完する不可視の透かしレイヤーを埋め込む技術である。なお、OpenAIはすでにSoraで可視透かしを、Voice Engineで音声透かしを使用している。

公開検証ツールのプレビュー

OpenAIは、アップロードされた画像にContent CredentialsやSynthIDの来歴信号が含まれているかを確認できる公開検証ツールのプレビューを公開する。ローンチ時点では、検証対象はOpenAIが生成したコンテンツに限定される。メタデータも透かしも検出されなかった場合、その画像がOpenAIのツールで生成されたかどうかについて確定的な結論は出さない仕様である。

来歴信号は、コンテンツがどこから来たか、どのように作成・編集されたか、主張どおりのものかについて、人々に文脈を提供する助けになる可能性があるとされる。OpenAIの画像検出分類器の初期リサーチプレビューは2024年に実施されている。

筆者の見立て

• 来歴の検証と解釈はより容易であるべきであり、複数の信号を統合することで「これはAIで生成されたか？」という問いに人々が答える一助となり得ると論じている。
• 共有標準、耐久性のある透かし信号、公開検証の組み合わせこそが強力なアプローチであると論じている。
• C2PAとSynthIDの両層を併用することで、いずれか単独よりも来歴証明が頑健になると解釈している。
• Content Credentials対応の拡充、C2PA準拠、SynthID採用、公開検証ツールのプレビューを通じ、長期的により相互運用可能な来歴エコシステムへの貢献を目指すと予想している。
• 今後数カ月でプラットフォーム横断の検証を可能にする業界横断の取り組みを支援し、将来的にはオンラインで人々が遭遇するより多くの種類のコンテンツに対応する予定であると予想している。

この記事は元記事の事実のみに基づいて自動生成されました。

出典

OpenAI, "Advancing content provenance for a safer, more transparent AI ecosystem", https://openai.com/index/advancing-content-provenance/