アンソリックの安全対策が裏目に？米政府が最強AIモデルの提供停止を命令

米国政府が、人工知能ベンチャーのアンソリックに対し、同社が開発した最も強力なAIモデル2種の提供停止を直ちに命じた。6月12日の金曜日にアンソリックが発表したところによると、政府からの指示は米国東部時間午後5時21分に届き、同社は直ちに指示に従ったとしている。対象となったのは、Claude Fable 5とClaude Mythos 5という二つのモデルで、いずれも一般ユーザー向けのアクセスが完全に遮断された。アンソリックによれば、この措置は「輸出管理」という名目で行われているが、実態としては米国外のユーザーだけでなく、全世界のユーザーが対象となっている。

アンソリックは、政府が示した懸念の根拠が「狭義の jailbreak（回避）」に関するものだと説明している。具体的には、Fable 5が特定のコードベースを分析し、ソフトウェアの脆弱性を特定する能力に関連するプロンプトに対する回避事例が報告されたという。しかし同社は、この jailbreak が「特定の状況下でのみ発生する狭い範囲のもの」であり、しかもそのレベルの機能は既に他の公開モデル（例えばOpenAIのGPT-5.5など）でも広く利用可能であると主張している。さらにアンソリックは、この jailbreak が「普遍的なものではない」とも述べており、一般向けにリリースされたモデルが回収されるほどの重大なリスクとは言えないとの見解を示している。

この政府命令は、アンソリックにとって大きな打撃となっている。Claude Mythos 5は、同社が4月初旬に発表した最も能力の高いモデルであり、同社は当初からそのリリースを厳しく制限していた。その理由は、Mythos 5があらゆる主要なオペレーティングシステムやウェブブラウザに存在するセキュリティ脆弱性を特定できるという、極めて高い能力にあった。このため、Mythos 5は一般公開されることなく、Project Glasswingという名称のもと、Amazon、Apple、Google、Microsoft、CrowdStrikeといった約50の精査された組織にのみ提供され、サイバーセキュリティの防御目的で活用されてきた。一方で、Fable 5はMythos 5をベースに、サイバーセキュリティや生物学などの高リスク領域における応答を制限するガードレールを導入し、一般向けにリリースされたモデルだ。リリースからわずか3日で、Vals AIによるベンチマークテストでは「現時点で最も能力の高い公開モデル」と評価されていた。

政府の判断とアンソリックの反発：安全性 vs 実用性の狭間

米政府がなぜこのような措置を取ったのか、その背景には国家安全保障上の懸念が存在する。政府の発表によれば、この措置は「輸出管理規制」に基づくものであり、特に外国籍のユーザーによるこれらのモデルへのアクセスを制限することを目的としている。しかし、アンソリックが明らかにしたところによると、政府が実際に懸念しているのは、Fable 5に対する「潜在的な jailbreak」の可能性であり、そのリスクが「国家安全保障に影響を及ぼす可能性がある」と判断されたようだ。政府は具体的なエビデンスとして「特定のプロンプトに対する回避事例」を挙げているが、その詳細は明らかにされていない。

アンソリックはこの判断に強く反発しており、同社の公式ブログで「狭い jailbreak の事例を理由に、既に数億人のユーザーに提供されている商用モデルを回収するというのは行き過ぎだ」と主張している。同社によれば、この jailbreak は「特定の状況下でのみ発生する非普遍的なもの」であり、しかもそのレベルの機能は既に他の公開モデルでも広く利用可能なものだと説明している。さらに、Fable 5はサイバーセキュリティや生物学などの高リスク領域における応答をガードレールで制限しており、一般ユーザーにとって安全なモデルとして設計されていると強調している。

この対立は、AIモデルの安全性と実用性のバランスをめぐる議論を再燃させている。政府側は「国家安全保障上のリスクが潜在的に存在する」との立場を崩していないが、アンソリックは「特定の jailbreak 事例を理由にモデル全体を停止するのは、技術の進歩を阻害するものだ」と訴えている。この問題は、今後AI規制がどのように進められるかについて、業界全体に大きな影響を与える可能性がある。

Mythos 5の特殊性：サイバーセキュリティの“スーパーモデル”が抱えるジレンマ

Claude Mythos 5は、アンソリックが開発した中で最も能力の高いモデルであり、その特徴は「ソフトウェア脆弱性の特定能力」にある。同社によれば、Mythos 5は主要なオペレーティングシステムやウェブブラウザに存在するセキュリティ上の脆弱性を、ほぼ100%の精度で特定できるという。この能力は、サイバーセキュリティの分野では非常に貴重なものであり、実際にProject Glasswingという名称のもと、Amazon、Apple、Google、Microsoft、CrowdStrikeといった大手テック企業やセキュリティ専門企業に限定的に提供されてきた。

しかし、この高い能力が逆に災いとなった。政府は、Mythos 5が「サイバーセキュリティの専門家でなくとも脆弱性を特定できる」という点を国家安全保障上のリスクと捉えた可能性がある。例えば、悪意のあるハッカーがMythos 5を悪用すれば、重要なインフラシステムの脆弱性を簡単に見つけ出し、攻撃に悪用することができるかもしれない。そのため、政府はMythos 5の提供を完全に停止することで、このリスクを排除しようとしたと考えられる。

その一方で、アンソリックはMythos 5の提供停止が「過剰な規制」であると主張している。同社によれば、Mythos 5は「防御目的」でのみ使用されることを前提に開発されており、攻撃目的での使用を防ぐためのガードレールも備えているという。また、Mythos 5が提供されていた組織は、いずれもセキュリティに関する厳格な審査を経た信頼できる組織ばかりであり、リスクは最小限に抑えられていたと説明している。

Fable 5のリリース戦略：一般向け最強モデルが直面した逆風

Claude Fable 5は、Mythos 5をベースに開発されたモデルでありながら、サイバーセキュリティや生物学などの高リスク領域における応答を制限するガードレールを導入することで、一般向けにリリースされた。アンソリックは、Fable 5を「現時点で最も能力の高い公開モデル」と位置づけ、リリースからわずか3日でVals AIによるベンチマークテストでトップ評価を獲得していた。しかし、政府の提供停止命令により、このモデルも一般ユーザーの手から離れることとなった。

アンソリックによれば、Fable 5は「安全性を最優先に設計されたモデル」であり、高リスク領域における応答を制限することで、悪用されるリスクを低減していた。しかし、政府はFable 5に対しても「潜在的な jailbreak」のリスクを指摘し、提供停止を命じた。この判断は、アンソリックにとって大きな痛手となっている。同社は、Fable 5が「一般ユーザーにとって最も有用なモデル」であったと主張しており、その提供停止がユーザーに与える影響を懸念している。

また、Fable 5のリリースは、アンソリックにとって商業的なプレッシャーへの対応でもあった。同社は、他のAIベンチャーとの競争の中で、より強力なモデルをリリースすることで市場シェアを拡大しようとしていた。しかし、政府の提供停止命令により、この戦略は頓挫することとなった。アンソリックは、今後「政府との協議を重ね、Fable 5の安全性を再評価してもらう」としているが、その行方は不透明だ。

規制の行方：AIモデルの安全性をめぐるグローバルな議論

この一件は、AIモデルの安全性規制をめぐるグローバルな議論を加速させる可能性がある。政府がAIモデルの提供停止を命じるというのは、これまでに例のない措置であり、その判断基準やプロセスについて透明性が求められることになるだろう。特に、jailbreakのリスクをどのように評価するのか、またそのリスクが「国家安全保障上の脅威」と見なされる基準は何か、といった点について、業界と政府の間で議論が交わされることが予想される。

また、この問題は「AIモデルの能力と規制のバランス」という根本的な課題を浮き彫りにしている。Mythos 5のような高能力モデルは、サイバーセキュリティの向上に貢献する一方で、悪用されるリスクもある。そのため、規制当局は「能力の高さ」と「悪用リスク」のバランスをどのように取るのか、という難しい判断を迫られることになる。アンソリックは、Mythos 5が「防御目的」でのみ使用されることを前提に開発されたと主張しているが、政府はその点を認めず、提供停止を命じた。

今後、他のAIベンチャーも同様の規制に直面する可能性がある。そのため、業界全体として「自己規制」や「透明性の向上」といった取り組みを進める必要があるだろう。例えば、AIモデルの能力やリスクを評価するための第三者機関の設立や、jailbreakテストの標準化などが考えられる。これにより、政府と業界の信頼関係を構築し、よりバランスの取れた規制を実現することが可能になるかもしれない。

一般ユーザーと企業への影響：何が変わるのか？

この政府命令は、一般ユーザーと企業にとってどのような影響を与えるのだろうか。まず、一般ユーザーにとっては、Claude Fable 5へのアクセスが完全に遮断されることになる。Fable 5はリリース直後から「最も能力の高い公開モデル」と評価されており、多くのユーザーがその性能を活用していたと考えられる。そのため、ユーザーは代替のAIモデルを探す必要が生じるだろう。特に、プログラミング支援や文章作成、データ分析などのタスクでFable 5を活用していたユーザーにとっては、大きな負担となる可能性がある。

企業にとっても、この命令は無視できない影響を与える。特に、Project Glasswingに参加していた企業は、Mythos 5へのアクセスを失うことになる。これらの企業は、Mythos 5の高い能力を活かして、自社のセキュリティ体制を強化していたと考えられる。そのため、代替のソリューションを検討する必要が生じるだろう。また、他のAIベンチャーも同様の規制に直面する可能性があるため、企業は複数のAIモデルを組み合わせたハイブリッドなソリューションを検討することが求められるかもしれない。

さらに、この問題は「AIモデルの信頼性」という点でも重要な示唆を与えている。政府がAIモデルの提供停止を命じるということは、そのモデルに対する「信頼性の低下」を意味する。そのため、ユーザーや企業は、今後AIモデルを選択する際により慎重になることが予想される。特に、国家安全保障に関わる分野でAIモデルを活用する企業にとっては、規制の動向を常に注視する必要があるだろう。

今後の展望：規制と技術革新の両立を目指して

この一件を受けて、今後AI規制はどのように進められるのだろうか。政府とアンソリックの対立は、規制当局とAIベンチャーの間で「信頼関係を築くことの重要性」を浮き彫りにしている。そのため、今後は「対話型の規制プロセス」が重視されることになるかもしれない。例えば、政府と業界が共同で「リスク評価フレームワーク」を策定し、それに基づいてAIモデルの提供可否を判断するというアプローチが考えられる。

また、技術革新を阻害しないためには、規制当局と業界が「情報共有」を進めることが重要だ。例えば、jailbreakのリスクを評価するためのテスト方法や、AIモデルの能力を測定するためのベンチマークを業界と政府で共有し、透明性を高めることが求められる。これにより、政府はより正確なリスク評価を行うことができ、業界は規制の方向性を事前に把握することができるだろう。

さらに、国際的な連携も重要になる。AIモデルの提供は国境を越えるものであり、各国の規制が異なれば、グローバルなサプライチェーンに支障をきたす可能性がある。そのため、各国の規制当局が協力し、統一的な基準を策定することが求められる。例えば、AIモデルのリスクカテゴリー分けや、提供条件の標準化などが考えられる。

アンソリックは、今後政府との協議を重ね、Fable 5の安全性を再評価してもらうとしている。このプロセスがどのように進展するのか、また他のAIベンチャーが同様の規制に直面するのか、今後の動向から目が離せない。規制と技術革新の両立は、AI業界にとって避けて通れない課題であり、その行方は業界全体の未来を左右することになるだろう。