火曜日、Google 発表された計画 同社は、ユーザーが人間が作成した画像とAIが生成した画像を区別できるように、自社製品全体にコンテンツ認証技術を導入する。今後数か月で、このテクノロジー大手は、コンテンツの出所と真正性に関する連合（C2PA) 標準は、デジタルコンテンツの起源と編集履歴を追跡するために設計されたシステムであり、検索、広告、そしておそらく YouTube サービスに組み込む予定です。しかし、技術的な解決策でこの問題を解決できるかどうかは未解決の問題です。 古代の社会問題 見知らぬ人によって作成された記録メディアに対する信頼。

あ グループ テクノロジー企業の 2019 年以降、C2PA システムは、オンラインで誤解を招くようなリアルな合成メディアに対抗する目的で作成されました。AI 生成コンテンツが普及し、リアルになるにつれ、ユーザーが遭遇する画像の真正性を判断することが困難になるのではないかと専門家は懸念しています。C2PA 標準は、オンライン署名機関によって裏付けられたコンテンツのデジタル証跡を作成します。この証跡には、画像の出所や変更方法に関するメタデータ情報が含まれます。

Google はこの C2PA 標準を検索結果に組み込み、ユーザーが画像が AI ツールを使用して作成または編集されたかどうかを確認できるようにします。このテクノロジー大手の Google 検索、レンズ、Circle to Search の「この画像について」機能では、利用可能な場合にこの情報が表示されます。

Google の信頼と安全性担当副社長であるローリー・リチャードソン氏は、ブログ投稿で、プラットフォーム間でコンテンツの来歴を確立することの複雑さを認めた。同氏は、「コンテンツの来歴を確立し、伝えることは、製品やサービスに応じてさまざまな考慮事項を伴う複雑な課題です。オンライン上のすべてのコンテンツに万能の解決策がないことは承知していますが、持続可能で相互運用可能なソリューションを作成するには、業界内の他の企業と協力することが重要です」と述べた。

同社はC2PAの最新の技術標準を使用する予定である。 バージョン 2.1は、改ざん攻撃に対するセキュリティが向上すると報告されています。Google は「重要なポリシーを施行する」方法として C2PA メタデータを広告システムに組み込む予定であるため、その使用は検索以外にも広がります。YouTube も将来的には、カメラで撮影したコンテンツに C2PA 情報を統合するかもしれません。

Googleは、この新しい取り組みは、AIの透明性に向けた他の取り組みと合致しており、その中には、 シンセIDGoogle DeepMind が開発した埋め込み型透かし技術です。

C2PAの広範な有効性は依然として夢のまま

少なくとも 5 年前に遡る歴史があるにもかかわらず、C2PA のような有用なコンテンツ来歴テクノロジーへの道は険しいです。このテクノロジーは完全に任意であり、キー認証メタデータは追加された画像から簡単に削除できます。

AI画像生成器は、生成された各ファイルにC2PA情報を含めるための標準をサポートする必要があり、これにより、次のようなオープンソースの画像合成モデルが排除される可能性があります。 フラックスそのため、実際には、AI で生成された画像よりも、カメラで作成された「本物」のメディアの方が C2PA でラベル付けされることになるかもしれません。

さらに、メタデータを維持するには、ソースや画像の編集や修正に使用するソフトウェアなど、あらゆる段階でC2PAをサポートする完全なツールチェーンが必要です。現在、ほんの一握りのカメラメーカーのみが、 ライカなどはC2PA規格をサポートしています。ニコンとキヤノンはそれを採用することを約束していますが、The Verge レポート Apple と Google がスマートフォン デバイスに C2PA サポートを実装するかどうかについては、まだ不確実性があります。

Adobe の Photoshop と Lightroom は C2PA データを追加および維持できますが、他の多くの一般的な編集ツールではまだこの機能が提供されていません。チェーン内に非準拠の画像エディターが 1 つあるだけで、C2PA の有用性が損なわれます。また、オンライン プラットフォーム全体で C2PA データの表示方法が標準化されていないことも、この標準を日常のユーザーにとって有用なものにする上でのもう 1 つの障害となっています。

現在、C2PA は、偽画像に関する現在の信頼性の問題に対する技術的な解決策と見なすことができます。その意味では、C2PA は、C2PA メタデータが保存されている場合、情報が信頼できるソースからのものかどうかを判断することによってコンテンツを認証するために使用される多くのツールの 1 つになる可能性がありますが、それだけでは AI によって生成された誤情報に対する完全な解決策にはなりそうにありません。