コンテンツの作成・編集履歴を理解しやすくする

生成メディアが高度化・普及する中で、コンテンツの出所や編集の有無を知ることはますます重要になっています。本日、Search、Gemini、Chrome、Pixel、Cloudでコンテンツの透明性と検証ツールを拡大し、業界全体との連携をさらに深めます。

技術のスケーリング

3年前、AI生成コンテンツに知覚できない信号を埋め込む業界をリードするデジタル透かし技術 SynthID を発表しました。それ以来、生成メディアモデルと製品にSynthIDを統合し、1,000億枚以上の画像・動画と6万年分の音声に透かしを埋め込んでいます。

生成メディアツールの拡大に伴い、AIの有無にかかわらずメディアの作成・編集履歴を示す業界標準の C2PA Content Credentials を採用しています。Pixel 10 は、ネイティブカメラアプリでContent Credentialsを提供する初のスマートフォンとなり、今後数週間以内にPixel 8、9、10の各端末で動画への対応を拡大します。

撮影時点でこの技術を適用することで、Pixelはコンテンツがカメラで撮影されたことを記録します。生成メディアの時代において、AIで作成・編集されたかどうかを知るだけでなく、本物の未編集コンテンツを識別できることも同様に重要だと考えています。

コンテンツ検証のさらなる手段を提供

オンラインで遭遇するコンテンツについて、より詳しく知ることを容易にすることを目指しています。そのため、最近、画像・動画・音声向けのSynthID検証機能を Geminiアプリ に追加しました。世界中で既に5,000万回使用されており、本日よりSearchへ、近日中にChromeへこの検証機能を拡大します。

Lens、AI Mode、Circle to SearchなどのSearch機能や、Chrome内のGeminiを使って画像の出所を調べることができます。「これはAIで作られたものですか？」や「これはAI生成ですか？」と質問するだけです。

また、C2PA Content Credentialsの検証機能を追加し、コンテンツがカメラから出力された未編集のオリジナルか、どのツールでどのように編集されたかを簡単に確認できるようにします。この機能は本日よりGeminiアプリで展開を開始し、数ヶ月以内にSearchとChromeでも利用可能になります。これは、AI生成コンテンツを識別する YouTubeのラベル や、検出ツールの高速化・信頼性向上を目指した信頼できるテスターとの Backstory での取り組みを基盤としています。

業界全体との連携

デジタルメディアは多くのプラットフォームを横断するため、堅牢で相互運用可能なツールの業界全体でのパートナーシップと採用が不可欠です。OpenAI、Kakao、ElevenLabsなどの企業がSynthID技術を自社のAI生成コンテンツに導入することで、ウェブ上のより多くのコンテンツに知覚できない透かしが付与されるようになります。これは、SynthIDテキスト透かし技術のオープンソース化 や、NVIDIAとの提携 により Cosmos world foundation models から生成されるAI動画に透かしを適用するなど、コンテンツの出所を明確にする継続的な取り組みを基盤としています。

より多くの組織がAI生成メディアを識別できるよう、Google CloudのGemini Enterprise Agent Platform上で新しいAI Content Detection APIをローンチします。これにより、企業はGoogleおよび他社の人気モデルで作成されたAIコンテンツを検出する強力な手段を得られ、フィードの分類や保険詐欺の防止といったバックエンド業務、ファクトチェックや合成メディアのラベル付けといったユーザー向けコンテンツの評価・管理に役立てることができます。信頼できるパートナーグループと共にローンチし、フィードバックに基づいてAPIを継続的に改善していきます。

また、C2PA運営委員会 のメンバーとして、プロベナンス技術のグローバルスタンダードを提唱し続けています。これにより、デバイスに組み込まれた透明性ツールが日常的に使用するプラットフォーム全体でシームレスに動作します。たとえば、C2PA運営委員会のメンバーであるMetaは、Instagram上でカメラで撮影されたメディアにContent Credentialsのラベルを付け始めます。これにより、Pixel端末で撮影された本物の写真や動画をInstagramに共有した際に、そのまま認識・ラベル付けされるようになります。

オンラインで見つけた情報に役立つ文脈を提供するため、長年にわたり投資を続けてきました。コンテンツの透明性は複雑な課題ですが、技術をさらに発展させ、業界に高い基準を設ける取り組みを続けます。遭遇するあらゆるコンテンツの履歴を判断できるツールを提供することが、私たちの目標です。

Get more stories from Google in your inbox.

Done. Just one step more.

Check your inbox to confirm your subscription.

You are already subscribed to our newsletter.

You can also subscribe with a