GoogleがAI生成コンテンツの透明性と検証に対する取り組みを大幅に拡張します。
画像・動画やテキストの生成時に埋め込む電子透かし技術「SynthID」の検証機能をChromeブラウザやGeminiアプリ、Google検索に導入するとともに、OpenAIなど業界パートナーとの連携も強化します。
■ AIモデルが埋め込む透かしと来歴情報のC2PA、検出MLモデルを組み合わせ
生成AIの進歩により、画像や映像などのメディアコンテンツが「人間が作ったものか、AIが作ったものか」を判断することはますます難しくなりました。
フェイク画像を使ったデマによる世論操作をはじめ、生成AIによる低コストのコンテンツ捏造は保険・教育・法務・eコマースなど、様々な分野に影響を与えています。
Google は 自社の Nano Banana など画像・映像生成AIを強化する一方で、こうした課題に対し、自社製品を横断する形で透明性ツールを整備する方針を打ち出しました。
3年前に導入した電子透かしのSynthIDはすでに1,000億点以上の画像・動画と6万年分の音声コンテンツに埋め込んでいるとしており、今回の発表はその活用範囲をさらに広げるものです。
またAI生成かどうかを判定するだけでなく、カメラで撮影された「未改竄のオリジナル」であることを証明する仕組みであるC2PAの導入も強化します。
■ SynthID検証がSearchとChromeに対応、Pixel動画にもC2PA対応を拡大
▲ SynthID検証機能をSearchとChromeに拡張
Geminiアプリですでに提供されているSynthIDの検証機能（画像・動画・音声対応）が、本日よりSearchに、今後数週間以内にChromeにも展開されます。
Google検索の Google Lens、AIモード、「囲って検索」などのSearch機能や、Chromeブラウザで見ているコンテンツについてGeminiに質問できる Gemini in Chromeを通じて、「Is this made with AI?」や「これはAI画像？」と質問するだけで確認できるとしています。
こちらの機能では、GoogleやSynthID透かし対応企業のモデルで生成した場合ははっきりと検出できますが、それ以外の場合は生成AI画像の特徴に照らして可能性が高いか低いかを回答します。
単にボケた画像や、Geminiがあまり学習していないため判断できない被写体の画像など、AI生成でなくても「AIの可能性があります」と回答をすることがあり、その場合は「AIがそう言ってた」以上の根拠にはなりません。
▲ C2PAコンテンツクレデンシャルの検証機能もGeminiに追加
コンテンツがカメラで撮影された未改竄のオリジナルかどうか、またどのツールで編集されたかを確認できるC2PAコンテンツクレデンシャルの検証機能が、5月19日よりGeminiアプリに追加されました。Google検索とChromeブラウザへの展開は今後数か月以内を予定しています。
こちらの機能では、画像にコンテンツクレデンシャルが付加されていれば、内容によりどのカメラで撮ったか・どのツールで編集したか、生成AIツールか一般的なレタッチかなどを確認できるようになります。
▲ Pixelの動画撮影にもC2PAコンテンツクレデンシャル対応を拡大
Pixel 10はネイティブカメラアプリで画像にコンテンツクレデンシャルを付与する初のスマートフォンとして発売されましたが、今後数週間以内に、Pixel 8・9・10の動画撮影にもこの技術を拡張します。
▲ Google CloudにAIコンテンツ検出APIを新たに提供
Google CloudのGemini Enterprise Agent Platformに、新たにAIコンテンツ検出APIを追加します。機械学習ベースの検出により、Google製モデルだけでなく他社の主要モデルが生成したコンテンツも検出できるとしています。
▲ OpenAI・Kakao・ElevenLabsなど業界パートナーとの連携も拡大
SynthID技術の採用企業としてOpenAI・Kakao・ElevenLabsを挙げ、各社がAI生成コンテンツへの電子透かし埋め込みを進めるとしています。
また、C2PAステアリングコミッティのメンバーであるMetaは、Instagram上でカメラ撮影のメディアにコンテンツクレデンシャルのラベルを付与する取り組みを開始予定。Pixelで撮影した写真・動画は、Instagram上で電子署名に基づく真正性を証明できることを示す表示が可能になります。
■ 「透かし」「署名」「統計的検出」の複合アプローチ、APIは偽陽性の可能性も
Googleが提供する生成AIコンテンツの検出は、複数のアプローチを組み合わせたものとなっています。
・自社が開発しパートナーと導入を進める電子透かしのSynthID (対応AIモデルやサービスが生成時に埋め込む)
・C2PAのコンテンツクレデンシャル埋め込み (対応カメラアプリの場合、撮影時にファイルに電子署名を付加)
・機械学習ベースの検出API (生成AI画像の検出用にトレーニングしたモデルを使い、統計的に怪しいものを検出)
このうちSynthID は、画像や動画生成サービス側が「AI生成です」と示すため埋め込むもの。人間の目には見えず、ソフトウェアで検出できる微細なパターンを画像全体に追加するなどの手法を使うことで、目に見える「AIで生成」アイコンを切り取るなどの加工をしても残る技術です。
C2PAのコンテンツクレデンシャルは、逆に本物であることを証明するため、撮影者や作成者などが画像に追加する電子署名に基づく来歴情報。Pixelカメラアプリの場合は、PixelのセキュリティチップTitan M2などを通じて画像に署名します。
最後の生成AIコンテンツ検出APIは「ピクセルレベルのアーティファクト、ノイズパターン、スペクトル異常を分析する ML モデル」を通して検出するもので、本物を誤ってAI生成らしいと判断する偽陽性の可能性があります。
Googleはあくまで補助的に用いること、コンテンツの削除やユーザーへの制裁など重大な決定にこれだけを根拠にすべきではないと注意したうえで、Googleは結果に対して責任を追わないと明記しています。
■ 展開スケジュールは段階的。検出APIはプレビュー
・SynthID検証機能のSearch展開：5月19日より
・SynthID検証機能のChrome展開：今後数週間以内
・C2PAコンテンツクレデンシャル検証（Geminiアプリ）：5月19日より
・C2PAコンテンツクレデンシャル検証（Search・Chrome）：今後数カ月以内
・Pixel 8・9・10の動画へのC2PA対応拡張：今後数週間以内
・AIコンテンツ検出API（Google Cloud）：信頼パートナー向けに提供開始、順次拡大予定
