グーグル、 Gemini AI を悪用した中国系犯罪グループを提訴 — AI 時代のサイバー犯罪対策の行方

グーグルは 2026 年 6 月、自社の AI サービス Gemini を悪用したとされる中国系犯罪グループ「アウトサイダー・エンタープライズ」に対し、米ニューヨーク連邦地裁で提訴した。同社によれば、このグループは Gemini を活用して大規模なフィッシング詐欺キャンペーンを自動化し、米国内の数十万人規模の被害者をターゲットに偽の金融ポータルサイト 8,000 以上を展開したとされる。FBI の推計によると、この詐欺行為により 387 万件のクレジットカード情報が流出し、被害総額は 2023 年 7 月以降で約 19 億ドルに上るという。本件は、AI 技術がサイバー犯罪に悪用されるリスクが現実化した初めての大規模事例であり、テック企業と法執行機関にとって重要な転換点となる可能性がある。

AI がサイバー犯罪の「武器」に — 犯罪手法の進化とグーグルの対応

AI サービスが犯罪に悪用されるケースはこれまでも指摘されてきたが、今回の事例は特に規模と手口の巧妙さで注目を集めている。犯罪グループは Gemini を用いて、偽のウェブサイトのコードやテンプレートを自動生成し、正規の通信事業者のポータルサイトを模倣したフィッシングサイトを大量に作成したとされる。これにより、被害者は本物と見分けがつきにくい偽サイトに誘導され、金融情報を入力してしまう仕組みだ。特に、SMS（ショートメッセージ）経由で詐欺メッセージを送信し、偽サイトへのアクセスを促す手口は、従来のフィッシングよりもターゲット層を広げやすく、被害が拡大しやすい特徴がある。

グーグルは今回の提訴において、単に犯罪グループを訴追するだけでなく、AI サービスの悪用を防ぐための抜本的な対策の必要性を強調している。同社によれば、2026 年 5 月末から 6 月初旬にかけて、Google Messages 上で約 55,000 件の不審なメッセージ報告が寄せられており、そのうち多くが今回の犯罪グループに関連していたとみられる。これは、AI を活用した詐欺行為がいかに迅速かつ大規模に拡散しうるかを示す証左でもある。犯罪グループが AI を悪用することで、従来の人手による詐欺行為よりもはるかに低コストで、高度な偽装が可能になったことが、被害の拡大につながったと分析できる。

被害規模の詳細 — クレジットカード流出と暗号資産ターゲットの実態

FBI の推計によると、この犯罪グループによる被害は 2023 年 7 月以降、全世界で 387 万件のクレジットカード情報の流出と、約 19 億ドルの経済的損失を引き起こした。特に注目すべきは、暗号資産（クリプト）投資家を標的とした詐欺も含まれていた点だ。偽の投資サイトやウォレットサービスを装ったフィッシングサイトを通じて、被害者の暗号資産が直接奪われるケースも確認されている。暗号資産は取引の追跡が困難なため、いったん被害に遭うと回復が極めて難しく、犯罪グループにとっては魅力的なターゲットとなっている。

また、犯罪グループが展開した偽サイトは 8,000 以上に上り、これらは数十カ国にまたがって稼働していたとされる。これにより、被害は米国に限らず、欧州やアジアなどグローバルに拡散した。特に、言語や通貨の違いを AI が自動的に処理することで、多言語・多通貨の詐欺サイトを効率的に展開できた点が、被害拡大の一因と考えられる。これは、AI が犯罪の「国際化」を加速させるリスクを如実に示す事例でもある。

犯罪グループの手口 — AI を活用した自動化と高度な偽装

今回の犯罪グループの手口は、AI を活用した自動化と高度な偽装に特徴がある。具体的には、以下のような手法が用いられたとされる：

1. AI による偽サイトの自動生成：Gemini を用いて、正規の金融機関や通信事業者のウェブサイトのデザインやコードを模倣した偽サイトを自動生成。これにより、被害者が本物と見分けがつきにくい偽サイトが大量に作成された。
2. SMS を活用した大規模詐欺メッセージの送信：犯罪グループは、AI を用いて詐欺メッセージの文面を自動生成し、Google Messages をはじめとする SMS サービスを通じて大量の詐欺メッセージを送信。これにより、被害者を偽サイトへ誘導した。
3. 多言語・多通貨対応：AI の言語処理機能を活用して、複数の言語や通貨に対応した詐欺サイトを展開。これにより、グローバルなターゲット層に対応した。
4. 暗号資産ターゲットの拡大：偽の投資サイトやウォレットサービスを装ったフィッシングサイトを通じて、暗号資産を直接狙う手口も確認された。

これらの手法は、従来の人手による詐欺行為と比較して、はるかに低コストで、高度な偽装が可能なため、被害が拡大しやすい特徴がある。また、AI を活用することで、犯罪グループはより短時間でより多くの被害者をターゲットにすることができた。

グーグルの対応 — 提訴と AI ガバナンスの強化

グーグルは今回の提訴を通じて、AI サービスの悪用を防ぐための取り組みを強化する姿勢を示した。同社は、犯罪グループの活動を阻止するために、以下のような対策を講じている：

1. AI サービスの悪用防止策の強化：Gemini をはじめとする AI サービスについて、悪用を防ぐためのセーフガードやモニタリング体制を強化。不審なリクエストや出力を検知し、ブロックする仕組みを導入。
2. 法執行機関との連携強化：FBI をはじめとする法執行機関との連携を強化し、犯罪グループの活動を監視・阻止するための情報共有を進めている。
3. 被害者支援と啓発活動：被害者への支援や、詐欺被害を防ぐための啓発活動を強化。特に、AI を悪用した詐欺の手口や対策について、ユーザーへの周知を徹底。

また、グーグルは今回の提訴を通じて、AI サービスの提供者としての責任を果たす姿勢を示した。同社によれば、犯罪グループが Gemini を悪用していたことを早期に察知し、関連するアカウントやリソースを停止する措置を講じていたという。しかし、それでも被害が拡大したことから、法的手段に訴えることで、犯罪グループの活動を根絶することを目指すとしている。

AI 時代のサイバー犯罪対策 — テック企業と政府の役割

今回の事例は、AI 時代におけるサイバー犯罪対策の重要性を改めて浮き彫りにした。AI 技術の進化は、犯罪行為の自動化や高度化を加速させる一方で、テック企業や政府にとって新たな課題となっている。特に、以下の点が重要な論点となる：

1. AI サービスの責任とガバナンス：AI サービスを提供するテック企業は、自社のサービスが悪用されるリスクを最小限に抑えるための責任を負う。そのためには、セーフガードやモニタリング体制の強化、ユーザーへの啓発活動などが求められる。
2. 法執行機関との連携：AI を悪用した犯罪行為は、国境を越えたグローバルな問題であるため、法執行機関間の連携が不可欠。特に、FBI や各国のサイバー犯罪対策機関との情報共有や協力体制の強化が求められる。
3. 国際的な規制の枠組み：AI 技術の悪用を防ぐためには、国際的な規制の枠組みが必要。各国が協力して、AI サービスの提供や利用に関するルールを策定し、犯罪行為を抑止する仕組みを構築することが重要だ。

また、今回の事例は、暗号資産や金融情報を狙う詐欺行為が AI によって加速されていることを示している。そのため、金融機関や暗号資産取引所なども、AI を活用した不正検知システムの導入や、ユーザーへのセキュリティ教育の強化など、積極的な対策を講じる必要がある。

今後注目すべきポイント — AI セキュリティの未来と実務的な対策

今回の事例を踏まえ、今後注目すべきポイントは以下の通りだ：

1. AI セキュリティの進化：AI サービスを悪用した犯罪行為が増加する中、テック企業は AI セキュリティの強化に注力することが求められる。例えば、AI モデルの出力を監視し、不審な内容を検知・ブロックする仕組みの導入や、AI サービスの利用制限をかけることが考えられる。
2. ユーザーへの啓発活動：AI を悪用した詐欺行為は、従来のフィッシングよりも巧妙で見分けがつきにくいため、ユーザーへの啓発活動が重要。特に、AI が生成したコンテンツやメッセージに関する注意喚起を強化することが必要だ。
3. 法的枠組みの整備：AI 技術の悪用を防ぐための法的枠組みの整備が急務。各国が協力して、AI サービスの提供や利用に関するルールを策定し、犯罪行為を抑止する仕組みを構築することが重要だ。

また、実務的な対策として、以下の点に留意することが求められる：

• AI サービスの利用制限：企業や個人が AI サービスを利用する際には、不審なリクエストや出力に対する監視体制を強化し、必要に応じて利用制限をかけること。
• 多要素認証の徹底：金融機関や暗号資産取引所などのサービスでは、多要素認証の徹底や、異常な取引を検知するための AI ベースの不正検知システムの導入が重要。
• セキュリティソフトのアップデート：ユーザーは、セキュリティソフトを常に最新の状態に保ち、不審なメールやメッセージを開かないよう注意すること。

結論 — AI 時代のサイバー犯罪と責任ある技術利用の重要性

グーグルによる今回の提訴は、AI 技術がサイバー犯罪に悪用されるリスクが現実化した初めての大規模事例であり、テック企業と法執行機関にとって重要な転換点となる可能性がある。AI は、犯罪行為の自動化や高度化を加速させる一方で、テック企業や政府、ユーザーが協力して対策を講じることで、そのリスクを最小限に抑えることができる。

今後、AI 技術の進化に伴い、サイバー犯罪の手口もますます巧妙化することが予想される。そのため、テック企業は AI サービスのガバナンスを強化し、法執行機関との連携を深めることが求められる。また、ユーザー一人ひとりも、AI を悪用した詐欺行為に対する警戒を怠らず、セキュリティ対策を徹底することが重要だ。AI 時代において、責任ある技術利用と協力体制の構築が、安全なデジタル社会を築く鍵となる。