その写真、
本当に
撮影されたもの？AI生成・AI編集画像の
見分け方と対処法

SNSで写真を見るとき、私たちは一枚一枚を鑑定するようには見ません。

ところが、非常に自然なAI生成・AI編集画像がそこに混ざると、実際には起きていない出来事まで、見る人の中では「起きた事実」として認識されてしまいます。

周囲の知人や友人でさえ、その写真を実際に撮影されたものだと思ってしまう。

そして、その架空の出来事を前提として、別の人に疑いを持ったり、評価を変えたりする人まで出てくる。

ここまで来ると、問題は単なる「偽物の写真」ではありません。

しかし、詳しい人であっても、最初から疑って細部を見るのと、SNS上で普通の写真として目にするのとでは条件がまったく違います。

最初に整理しておきたいのがこの違いです。

C2PAは、画像、動画、音声などのデジタルコンテンツについて、その来歴（provenance）を扱うためのオープンな技術標準です。

Adobeなどでは「Content Credentials」という名称で利用されています。

ただし、C2PAを「すべての編集操作を完全に記録する履歴」と考えるのは正確ではありません。

何が記録されるかは、使用したツールや設定によって異なります。

SynthIDはGoogle DeepMindが開発した、AI生成・AI編集コンテンツに不可視のウォーターマークを埋め込む技術です。

画像だけでなく、音声・動画・テキストなどにも利用されています。

画像の場合は、人の目には見えない信号を画像そのものに埋め込み、対応する検出技術で識別します。

現在はOpenAIも、対応する生成コンテンツについてSynthIDとC2PAによる来歴シグナルを利用しています。

OpenAIは公式に「Verify」という検証ツールを公開しています。

VerifyはChatGPT、OpenAI API、Codexなどで生成された対応コンテンツを対象としています。

ただし、OpenAI Verifyが確認するのは来歴シグナルです。

GoogleもGeminiなどの生成AI製品でSynthIDを利用しています。

Google DeepMindは、SynthIDをAIで生成または変更されたコンテンツを識別するための技術として説明しており、対応するGoogleサービスから確認できる仕組みがあります。

Content Credentialsが疑われるファイルでは、Adobe Content AuthenticityのInspectも利用できます。

これは「AI画像を探すため」だけの仕組みではありません。

来歴情報が見つからない画像では、画像そのものを解析するAI検出ツールもあります。

実際に気になる画像があった場合は、次の順番で確認すると整理しやすいと思います。

画像の検証では、「何を確認したいのか」を分ける必要があります。

自分の作品や肖像が使われていることに気づいた場合、すぐ相手へ連絡する前に、まず証拠を保存しておく方がいいでしょう。

削除された後では、何が掲載されていたのかを確認するのが難しくなる場合があります。

各SNSでは、AI生成コンテンツ自体を全面的に禁止しているわけではありません。

Metaは現在、Facebook、Instagram、Threadsで、業界標準のAIシグナルなどを検出した場合に「AI info」等の情報を表示する仕組みを採用しています。

AIで生成されたものと、AIで一部編集されたものではラベルの扱いも調整されています。

ただし、AIで作られているという理由だけですべてを削除する方針ではありません。

AIによって実在人物を作り変えたメディアも、内容や被害の程度によってSynthetic and Manipulated Mediaとして対応対象になる場合があります。

TikTokでは、実在する人物や出来事に見えるAI生成・大幅編集コンテンツについて、原則として表示が必要です。

AIによるなりすましや問題のある合成コンテンツについても報告制度があります。

YouTubeでは、実在の人物が実際にはしていない発言や行動をしたように見せるコンテンツ、実在する出来事や場所をAIで大幅に変更したコンテンツ、現実には起きていないリアルな場面などについて、クリエイターにAI利用の開示を求めています。

さらに、自分の顔や声をAIで模倣・生成された場合には、プライバシーの申告を通じて削除を求めることができます。

Pinterestは、AIで生成・変更された画像について「AI modified」ラベルを表示する仕組みを導入しています。

メタデータだけではなく、自社の分類器でも生成AIコンテンツを検出すると説明しています。

なりすましには専用の申告制度があり、著作権侵害についても権利者向けの削除申請制度があります。

AIを使ったこと自体が直ちに違法になるわけではありません。

一方で、既存の写真や作品を利用したAI生成・AI編集では、著作権の問題が生じる場合があります。

文化庁はAIと著作権について、AI生成物の利用段階では、通常の著作権侵害と同様に、既存作品との類似性・依拠性などが問題になると整理しています。

写真は、創作性が認められる限り著作権による保護の対象となります。

自分が著作権を持つ写真が無断で複製・公開・加工された場合には、著作権上の問題が生じる可能性があります。

写真に写っている本人が、その写真の著作権者とは限りません。

自分の顔や姿をAIで利用された場合には、著作権だけでなく、プライバシーや肖像に関する人格的利益など別の問題を検討する必要があります。

匿名アカウントなどで投稿者が分からない場合、日本には一定の要件の下で発信者情報の開示を求める制度があります。

ここでいう消去禁止命令は、「問題の投稿を消してはいけない」という意味ではありません。

発信者情報開示の手続に必要な情報を、事業者側が消去しないよう求めるための制度です。

実際に法的手続を検討する場合は、個々の事情によって必要な対応が大きく異なるため、早めに弁護士へ相談することをおすすめします。

AI画像を疑う方法だけでなく、写真家自身が自分の作品の来歴を残すことも今後重要になると思います。

OpenAI、Google、Adobeなどではすでに来歴を確認する技術が導入されています。

Meta、TikTok、YouTube、Pinterestなどでも、AI生成・AI編集コンテンツを表示・識別する取り組みが進んでいます。

AI生成画像を100％見抜ける万能な方法はありません。