米司法省が初のTAKE IT DOWN法執行でAI深層偽造サイト2件を差し押さえ

米司法省は先週金曜、AI技術を悪用した性的な画像や動画を掲載していたとされるウェブサイト2件を、連邦法「TAKE IT DOWN法」に基づく初の公式なドメイン差し押さえによって摘発した。差し押さえられたのはCFAKE.comとSOCFAKE.comで、政治家やセレブリティ、スポーツ選手、ミュージシャン、王族など世界各国の著名女性をAIで作成した裸体の画像や動画が掲載されていた疑いがある。捜査当局によると、これらの画像は既存の写真や動画をもとにAIで加工された「ディープフェイク」と呼ばれる偽造メディアであり、被害者の同意なくインターネット上に公開されていたという。米国、イタリア、フランスの当局が連携した国際的な摘発作戦の一環として、ニュージャージー地区連邦地裁が差し押さえ令状を発行し、ホームランド・セキュリティ調査局（HSI）が実行に移した。

差し押さえられたドメインには現在、米国土安全保障省HSIニュージャージー事務所による差し押さえ通知が表示されており、47 U.S.C. § 223条（TAKE IT DOWN法）に違反した疑いがあると説明されている。同法は、同意なき性的画像やディープフェイクの公開を禁じており、違反者には罰金、禁固刑、またはその両方が科される可能性がある。捜査はイタリアの郵便・サイバー治安警察による通報を発端に始まり、その後米国とフランスの当局が合同で実施された。この動きは、AI技術の悪用によるプライバシー侵害や名誉毀損に対する法執行機関の取り組みが強化されつつあることを示す重要な事例となった。

AIディープフェイクの脅威が現実化した初の法執行事例

AIを活用したディープフェイク技術は、ここ数年で急速に進化しており、悪意ある第三者によってプライバシーの侵害や名誉毀損、詐欺行為に悪用されるケースが増加している。特に、同意なき性的画像の作成・公開は被害者に深刻な精神的ダメージを与えるだけでなく、社会的信用の失墜や職業上の不利益にもつながる可能性がある。CFAKE.comとSOCFAKE.comは、政治家や王族、スポーツ選手、ミュージシャンなど世界中の著名女性をターゲットに、AIで作成された裸体の画像や動画を掲載していたとされる。これらの画像は、被害者の顔を既存のポルノグラフィックコンテンツに合成する「フェイススワップ」と呼ばれる手法で作成された可能性が高い。

このようなディープフェイク画像は、ソーシャルメディアやメッセージングアプリを通じて瞬時に拡散されるため、被害者が実態を把握して削除を求める前に、すでに広範囲に拡散されているケースが多い。また、AI技術の進化により、これまで専門的な知識や高性能な機材が必要とされていたディープフェイクの作成が、一般的なパソコンやクラウドサービスを使って誰でも手軽に行えるようになったことも問題を深刻化させている。実際に、CFAKE.comとSOCFAKE.comの運営者は、AIモデルを活用して大量の偽造画像を自動生成し、広告収入を得ていたとみられている。

TAKE IT DOWN法とはどのような法律か

TAKE IT DOWN法（正式名称：47 U.S.C. § 223）は、米国で2024年に制定された法律で、同意なき性的画像やディープフェイクの公開を禁止することを目的としている。同法は、被害者が自らの性的画像を無断で公開された場合に、プラットフォーム事業者に対して迅速な削除を義務付ける「安全なハーバー」条項も含んでいる。また、違反者に対しては、罰金や禁固刑などの刑事罰を科すことができるほか、民事訴訟による損害賠償請求も可能となっている。

この法律の制定背景には、ソーシャルメディアや動画共有プラットフォームにおける同意なき性的画像の拡散が後を絶たないことがある。特に、元交際相手や配偶者による報復目的の画像拡散（リベンジポルノ）や、AI技術を悪用したディープフェイクの横行が社会問題化していた。TAKE IT DOWN法は、こうした被害の防止と被害者救済を目指しており、プラットフォーム事業者や捜査機関に対しても積極的な対応を求める内容となっている。

国際的な連携捜査がもたらした成果

CFAKE.comとSOCFAKE.comの摘発は、米国、イタリア、フランスの当局が連携して実施された国際的な捜査の成果である。イタリアの郵便・サイバー治安警察が最初の通報を行った後、米国のホームランド・セキュリティ調査局（HSI）と司法省コンピュータ犯罪・知的財産部（CCIPS）が捜査を主導し、フランスの警察当局も協力した。このような国際的な連携は、インターネット上の犯罪行為に対抗するためにますます重要になっており、特にサイバー空間における法執行のグローバル化が進む中で、各国の司法機関が協力して犯罪者を追跡・摘発する動きが加速している。

捜査当局によると、CFAKE.comとSOCFAKE.comは、複数の国にサーバーを置いて運営されていたため、単独の国による摘発では完全な対応が難しかったとみられる。そのため、国際的な協力体制を構築することで、犯罪組織の拠点を一網打尽にすることができた。また、このような国際的な連携は、今後もAI技術を悪用した犯罪の抑止につながることが期待されている。

ディープフェイク被害者が取るべき対策とは

ディープフェイクによる被害を受けた場合、まずは被害の拡大を防ぐために、可能な限り早く画像や動画の削除を求めることが重要だ。多くのソーシャルメディアプラットフォームでは、違法コンテンツの報告機能が用意されており、被害者はこれらの機能を活用して削除申請を行うことができる。また、Googleなどの検索エンジン事業者も、同意なき性的画像の検索結果から除外するための仕組みを導入しており、被害者はこれらのサービスを利用して画像の拡散を防ぐことが可能だ。

さらに、法的な対応としては、TAKE IT DOWN法に基づく削除要請や民事訴訟の提起が考えられる。被害者は、弁護士に相談して、プラットフォーム事業者や画像を公開した第三者に対して、削除や損害賠償を求めることができる。また、サイバーストーキングや名誉毀損などの犯罪行為に該当する場合には、警察に被害届を提出することも重要だ。被害者支援団体や弁護士会も、ディープフェイク被害に対する相談窓口を設けているため、早期に専門家に相談することをお勧めする。

今後注目されるAI規制とプラットフォームの責任

CFAKE.comとSOCFAKE.comの摘発は、AI技術を悪用した犯罪に対する法執行の第一歩に過ぎない。今後は、AI規制に関する議論がさらに加速することが予想されており、特にプラットフォーム事業者の責任や透明性の向上が求められるようになるだろう。欧州連合（EU）では既にAI法（AI Act）が制定されており、高リスクのAIシステムに対して厳格な規制が課されることになっている。米国でも、AI技術の透明性や説明責任を求める法案が検討されており、今後数年の間に新たな規制が導入される可能性が高い。

プラットフォーム事業者にとっては、ユーザー生成コンテンツの監視体制の強化や、AI技術を悪用したコンテンツの迅速な検知・削除が求められるようになるだろう。また、AIモデルの開発企業に対しても、悪用リスクの低減に向けた取り組みが求められることになる。例えば、AIモデルのトレーニングデータに含まれる個人情報の保護や、悪意あるユーザーによる悪用を防ぐための技術的な対策の実施が重要となる。これらの取り組みは、AI技術の健全な発展と社会的な信頼の確保につながるだろう。

企業や個人がAIリスクに備えるための実践的な対策

企業や個人がAI技術のリスクに備えるためには、まず自らのシステムやプラットフォームにおいて、同意なき性的画像やディープフェイクの作成・拡散を防ぐための技術的な対策を講じることが重要だ。例えば、画像認識技術やAI検知システムを導入して、違法コンテンツを自動的に検知・削除する仕組みを構築することができる。また、ユーザーの行動を監視し、不審なアップロードや共有行為を検知するためのモニタリングシステムを導入することも有効だ。

個人のレベルでは、ソーシャルメディアのプライバシー設定を適切に管理し、自分や家族の画像を無断で公開されないようにすることが基本となる。また、AI技術を悪用した犯罪に巻き込まれないために、オンライン上での情報共有には慎重を期すことが重要だ。例えば、顔写真や個人情報を不用意に公開しない、信頼できる相手とのみ情報を共有する、といった基本的なセキュリティ対策を徹底することが求められる。

今後の展望と法執行の課題

CFAKE.comとSOCFAKE.comの摘発は、AI技術を悪用した犯罪に対する法執行の重要な一歩となったが、今後も多くの課題が残されている。まず、ディープフェイク技術の進化に伴い、犯罪者はますます巧妙な手法を用いるようになることが予想される。そのため、捜査機関やプラットフォーム事業者は、最新の技術動向を把握し、常に対策をアップデートしていく必要がある。

また、国際的な法執行の枠組みを強化することも重要だ。AI技術を悪用した犯罪は国境を越えて行われるため、各国の司法機関が協力して犯罪者を追跡・摘発する体制を整備することが不可欠だ。さらに、被害者支援の充実も求められており、被害者が迅速に対応できるよう、専門の相談窓口や法的支援の拡充が必要とされている。

最後に、AI技術の健全な発展と社会的な信頼の確保のためには、技術者、法曹、政策立案者、そして一般市民が協力して、責任あるAIの活用を推進していくことが求められる。AI技術は、適切に活用されれば社会に多大な恩恵をもたらす一方で、悪用されれば深刻な被害を引き起こす可能性がある。そのため、技術の進歩と社会的な規制のバランスを取りながら、安全で信頼できるAI社会の実現に向けた取り組みを進めていくことが重要だ。