アンソリック、米政府の指示でFable 5とMythos 5を緊急停止

米国の人工知能ベンチャーであるアンソリックは、新たに発表した大規模言語モデル「Fable 5」と「Mythos 5」について、全世界の顧客向けアクセスを即時停止した。同社が2025年5月17日金曜日に発表した声明によると、この措置は米商務省からの指令を受けて実施されたもので、輸出管理規制の対象となったためだ。アンソリックは「現在の時点で法令を完全に遵守する唯一の方法は、Fable 5とMythos 5へのアクセスを直ちに無効化することです」と述べ、他の既存モデルについては影響を受けないとしている。

商務省の指令は、Fable 5に対する「ジャイルブレイク」（抜け穴技術）の報告を受けたことが背景にあると複数の報道機関が伝えている。具体的には、サイバーセキュリティ、化学、生物学に関する質問を回避するための分類システムを迂回する手法が見つかったとされ、国家安全保障上の懸念が生じたとされる。商務省は「国家安全保障装置を強化するために数週間の猶予が必要」と述べ、モデルのリリースを一時的に見合わせるよう要請したと報じられている。

アンソリックの発表によると、商務省が示した証拠は「特定のコードベースを解析してソフトウェアの脆弱性を発見する」という狭い範囲のジャイルブレイクに関するもので、現時点で確認されているのは「小規模で比較的単純なソフトウェアの脆弱性」に限られている。同社は「この技術が悪用されるリスクは限定的であり、他のモデルには影響を及ぼすものではない」と強調している。一方で、商務省は「国家安全保障上の脅威が現実化する前に予防的措置を講じる必要がある」と判断したとみられる。

なぜ突然の停止に追い込まれたのか：米政府の安全保障観点

この出来事は、AI技術の軍事転用や悪用に対する米政府の警戒感が高まっていることを象徴している。商務省は、Fable 5がサイバーセキュリティや化学・生物学分野の機密情報にアクセスできる可能性があると懸念し、輸出管理規制の枠組みでこれらのモデルを規制対象に加えた。特に、ジャイルブレイクと呼ばれる抜け穴技術によって、本来の安全システムを迂回して有害な出力を引き出すリスクが現実のものとなったことが、政府の判断を早めた要因と考えられる。

アンソリックが発表した声明によれば、商務省が示した証拠は「特定のコード解析を通じたソフトウェア脆弱性の発見」に限定されている。これは、Fable 5がソフトウェアエンジニアリングの支援ツールとして機能する一方で、悪意のあるユーザーによってセキュリティホールの特定に悪用される可能性があることを示唆している。例えば、特定のコードベースを解析させることで、システムの脆弱性を自動的に検出させるような使い方が想定される。こうした機能は、企業のセキュリティ対策として有用である一方で、国家安全保障上のリスクにもなり得る。

この問題は、AIモデルの安全性と有用性のバランスを巡る議論を再燃させている。従来の安全対策では、特定のキーワードやカテゴリをブロックする「分類器ベースのガードレール」が主流だったが、これらを迂回するジャイルブレイク技術が登場したことで、より堅牢な安全メカニズムの必要性が浮き彫りになった。米政府は、こうした抜け穴を防ぐための「国家安全保障装置の強化」を進めるとしており、今後数週間で具体的な対策が講じられる見込みだ。

Fable 5とMythos 5の技術的特徴と停止の影響

Fable 5とMythos 5は、アンソリックが2025年5月に発表した最新鋭の大規模言語モデルで、それぞれ異なる用途に特化していた。Fable 5は、ソフトウェア開発やシステム設計の支援に重点を置いたモデルで、コードの解析や脆弱性の発見、ドキュメントの自動生成などの機能を備えていた。一方、Mythos 5は、より汎用的なタスクに対応するモデルで、テキスト生成や質疑応答、データ分析などの幅広い用途に利用できるように設計されていた。

これらのモデルは、アンソリックの Claude シリーズに続く次世代のAIとして注目を集めていたが、今回の停止措置により、全世界の顧客がこれらのモデルを利用できなくなった。アンソリックは、既存の顧客に対しては代替手段を提供するとしているが、具体的な代替モデルや移行方法については明らかにしていない。また、商務省の指令が解除されるまで、これらのモデルが再び利用可能になるかどうかは不透明だ。

この停止措置が与える影響は、特にソフトウェア開発やセキュリティ業界にとって大きい。Fable 5は、コードの自動解析や脆弱性の発見といった機能を通じて、開発者の生産性向上に貢献することが期待されていた。例えば、大規模なコードベースからセキュリティホールを自動的に検出するツールとして活用される可能性があった。しかし、今回の停止により、こうした用途での利用が当面不可能となった。

ジャイルブレイクとは何か：AIモデルの安全性を脅かす新たな脅威

ジャイルブレイクとは、AIモデルの安全システムを迂回して、本来許可されていない出力を引き出す技術のことを指す。従来の安全対策では、モデルに対して特定のトピックや質問をブロックする「ガードレール」が設けられていたが、悪意のあるユーザーは、巧妙なプロンプトエンジニアリングやコード解析を通じて、これらの制限を回避する手法を開発してきた。

Fable 5に関して報告されたジャイルブレイクは、特定のコードベースを解析させることで、ソフトウェアの脆弱性を発見させるというものだ。例えば、攻撃者が悪意のあるコードをモデルに解析させることで、システムの脆弱性を自動的に特定させ、それを悪用するための情報を得ることが可能になる。こうした技術は、サイバーセキュリティの分野では「レッドチームング」と呼ばれる攻撃シミュレーションの一環としても利用されるが、悪意を持ったユーザーによって悪用されるリスクがある。

アンソリックは、現時点で確認されているジャイルブレイクが「小規模で比較的単純なソフトウェアの脆弱性」に限定されていると述べているが、今後より洗練されたジャイルブレイク技術が登場する可能性も否定できない。このため、米政府は「国家安全保障装置の強化」を進めるとしているが、具体的にはどのような対策が講じられるのかはまだ明らかになっていない。

米国のAI輸出規制とグローバルな影響

今回のアンソリックに対する措置は、米国のAI輸出規制がより厳格化されていることを示すものだ。商務省は、AI技術が国家安全保障上のリスクをもたらす可能性があると判断した場合、その輸出や利用を規制する権限を有している。特に、大規模言語モデルがサイバーセキュリティや化学・生物学分野の機密情報にアクセスできる可能性があると見なされた場合、これらのモデルは規制対象となる。

この規制は、米国外の企業や研究機関にとっても大きな影響を与える。例えば、グローバルなソフトウェア企業がFable 5を利用してセキュリティ対策を強化していた場合、突然の停止により業務が滞る可能性がある。また、研究機関がMythos 5を用いてデータ分析やテキスト生成を行っていた場合、代替のツールやモデルを探す必要に迫られる。

さらに、この規制は米国のAI産業にとっても課題となる。アンソリックのようなベンチャー企業は、グローバルな市場で競争力を維持するために最新技術を提供する必要があるが、規制の強化によりその柔軟性が制限されることになる。今後、他のAI企業も同様の規制に直面する可能性があり、業界全体にとって新たなリスクとなるだろう。

今後の展望：規制強化とイノベーションのバランス

今回の措置を受けて、アンソリックはFable 5とMythos 5の再開に向けた取り組みを進めるとしているが、商務省の指令が解除されるまで再開の見通しは立っていない。同社は「引き続き政府と協力し、規制要件を満たすための対策を講じていく」と述べているが、具体的なスケジュールや方法については明らかにしていない。

一方で、米政府は「国家安全保障装置の強化」を進めるとしているが、その具体的な内容についてはまだ明らかになっていない。今後数週間で、商務省や関連機関がジャイルブレイク技術に対する対策をまとめ、新たな規制やガイドラインを発表する可能性がある。これにより、AIモデルの安全性と有用性のバランスが再定義されることになるだろう。

この一連の出来事は、AI技術の発展と規制のバランスを巡る議論を加速させる契機となる。AIモデルがますます高度化し、多様な用途に利用されるようになる中、その安全性をいかに確保するかが重要な課題となっている。今後、企業や研究機関は、規制の動向に注意を払いながら、イノベーションと安全性の両立を図っていく必要がある。

実務者への具体的なアドバイス：リスク管理と代替戦略

今回のアンソリックの事例は、AIモデルを利用する企業や開発者にとって、リスク管理の重要性を再認識させるものとなった。特に、サイバーセキュリティやソフトウェア開発の分野でAIを活用している企業は、以下の点に注意を払う必要がある。

まず、利用中のAIモデルが商務省の輸出規制や安全基準に抵触する可能性があるかどうかを確認することが重要だ。特に、最新の大規模言語モデルを導入している場合は、その仕様や機能が規制対象となるリスクを評価する必要がある。また、モデルの提供元である企業が政府からの指令を受けてサービスを停止する可能性についても、契約や利用規約で確認しておくべきだ。

次に、代替のAIモデルやツールを検討しておくことが推奨される。例えば、Fable 5の代替として、他のAIモデルやコード解析ツールを活用することで、業務の継続性を確保することができる。また、社内で独自のセキュリティ対策を強化することも検討すべきだ。例えば、コードの自動解析や脆弱性スキャンを実施するツールを導入することで、AIモデルに依存せずにセキュリティ対策を強化することが可能だ。

最後に、規制の動向に常に注意を払い、業界団体や政府機関からの情報を積極的に収集することが重要だ。特に、AI技術の規制に関する政策は急速に変化しており、企業や開発者はその動向を把握しておく必要がある。例えば、商務省や国家安全保障局（NSA）が発表するガイドラインや規制要件を定期的にチェックし、自社の対応策を見直すことが求められる。

結論：AIの未来と規制の狭間で

アンソリックによるFable 5とMythos 5の緊急停止は、AI技術の発展と規制の狭間で生じた象徴的な出来事となった。米政府の国家安全保障上の懸念から、最新のAIモデルが突然利用できなくなるという事態は、AI産業にとって大きな衝撃を与えた。一方で、この出来事は、AIモデルの安全性をいかに確保するかという課題を再浮上させ、業界全体にとって重要な教訓となった。

今後、AI技術の進化とともに、規制の枠組みもより厳格化される可能性が高い。企業や研究機関は、こうした規制の動向に柔軟に対応しながら、イノベーションと安全性のバランスを取ることが求められる。また、ジャイルブレイクのような新たな脅威に対抗するためには、技術的な対策だけでなく、政策やガイドラインの整備も不可欠だ。

アンソリックの事例は、AI技術が社会に与える影響の大きさを改めて示すものとなった。今後、AIモデルがますます高度化し、多様な分野で活用される中、その安全性と有用性の両立を図ることが、企業や研究者、政策立案者にとっての共通の課題となるだろう。