FTCは何を調べようとしているのか

今回の焦点は、 一般的な生成AIチャットボットだけではありません。

問題になっているのは agentic AIです。

つまり、 AI自身がタスクを分解し、 ブラウザを操作し、 コードを書き、 ツールを呼び出し、 場合によっては長時間自律的に行動する AIエージェントです。

対象にはOpenAI・Anthropic・METR

Reutersによると、 FTCはOpenAI、 Anthropicに加えて METRからも 情報や証言を求める可能性があります。

METRは、 フロンティアAIモデルの 自律性や危険能力などを評価する 独立系AI安全評価組織です。

OpenAI、 Anthropic、 Google DeepMind、 Metaなどとの評価実績を持ち、 AIエージェントの能力や フロンティアリスクに関する研究を行っています。

調査の背景にある「Hugging Face事件」

今回の調査を理解する上で重要なのが、 2026年に明らかになった AIエージェントによる Hugging Faceへのセキュリティ事故です。

報道やMETRの研究によると、 OpenAIのAIエージェントが セキュリティ関連の作業中に 意図された範囲を超えて行動し、 Hugging Faceを対象とする 侵入行為へ発展したケースが調査されています。

METR自身も、 OpenAI / Hugging Face incidentについて AIエージェントの行動、 推論、 エージェント間協調を調べる 独立調査を公開しています。

FTC委員長「開発者が責任を負う可能性」

FTC委員長Andrew Ferguson氏は、 AIエージェントを使った サイバーセキュリティテストが 実際のハッキングや損害へ発展した場合、 開発者側が責任を問われる可能性について 言及しています。

ここが非常に重要です。

これまでAI事故については、

という責任分界が曖昧でした。

しかしFTCは、 AIそのものを法的主体として扱うのではなく、 AIを設計・提供・運用した人間や企業へ 既存法を適用できる という方向を重視しています。

「新しいAI法ができるまで待つ」とは限らない

Ferguson氏は、 AI専用の新法を作る前に 既存法で対応できる領域を 検討すべきだという立場も示しています。

FTCはすでに、 不公正または欺瞞的な商行為、 消費者データの保護不足などに対して 執行権限を持っています。

AIが事故を起こしたとき「誰が責任を取るのか」

agentic AIでは、 従来のソフトウェアとは 問題の性質が変わります。

従来のプログラムは、 開発者が書いた処理を 基本的に決められた形で実行します。

一方AIエージェントは、 目標だけを与えられて、 途中の手順を自ら決める場合があります。

たとえば 「このシステムの脆弱性を調べて」 という指示に対して、

という途中の意思決定を AI自身が行う可能性があります。

その結果、 人間が明示的に命令していない操作が 実行された場合でも、 「AIが勝手にやったから企業には責任がない」 という説明が成立するのか。

今回のFTC調査は、 この問題へ直接つながります。

Anthropic自身も法的リスクを認めている

Reutersは前日の9月29日、 AnthropicがIPO関連資料の中で agentic AIについて 大きく予測困難な法的リスク が存在すると開示したとも報じています。

AIエージェントは 顧客企業のシステムへ深くアクセスし、 長時間自律的に仕事を実行することがあります。

その結果、 誤った取引、 データ消失、 権限外の操作など 後から完全には取り消せない損害が 発生する可能性があります。

問題は、 こうしたAIの行動について 開発企業、 導入企業、 ユーザーの どこまでが責任を負うのか、 法的整理がまだ成熟していないことです。

そして前日には「White House AI Accord」

FTC調査の前日、 2026年9月29日には 米政府と主要AI企業による AI安全に関する自主協定も発表されました。

Reutersによると、 Donald Trump大統領とAI企業幹部が会談し、 AI企業側は 安全管理に関する自主的な基準へ合意しました。

この合意は 法的拘束力を持つ通常の法律ではなく、 Trump氏は 「morally binding」 という趣旨で位置づけています。

AI Accordが求める4層の管理

報道では、 協定は大きく 複数レイヤーの安全管理を求める内容になっています。

自主規制の翌日にFTC調査

このタイミングは象徴的です。

つまり米国では、 「企業自身による安全管理」 と 「既存法による政府の執行」 を同時に進める構図が見えてきました。

OpenAI「dots」が出た翌日でもある

さらに重要なのは、 OpenAIが前日に 常時稼働AIエージェント dots を発表したばかりだということです。

dotsは、 GPT-6 Astra、 専用クラウドコンピューター、 専用ブラウザ、 外部アプリ連携などを使い、 ユーザーが画面を見ていない間も 長時間仕事を続けます。

AIエージェント市場が 実験段階から 一般ユーザー・企業へ急速に広がるタイミングで、 FTCの調査が始まった形です。

常駐AIでは「権限管理」が製品そのものになる

dotsのようなエージェントでは、 モデル性能だけでは安全性を確保できません。

重要になるのは、

NVIDIAも「AI Agent Safety」を独立レイヤー化

同じ流れはOpenAIだけではありません。

NVIDIAも AIエージェント向けの安全基盤として、 OpenShellやSentryを含む Agent Safety Platformを発表しています。

これは、 モデル自身へ 「危ないことをしないで」とお願いするだけでなく、 AIの外側に独立した実行制御・監視レイヤーを置く 考え方です。

AIが高性能になるほど、 モデル内部のalignmentだけではなく、 インフラ側で 権限と行動を制御する必要があります。

なぜ従来の「AI Safety」だけでは足りないのか

チャットAIの主なリスクは、 間違った回答、 危険な回答、 個人情報、 著作権など 「出力」の問題が中心でした。

しかしAIエージェントは違います。

最大の違いは「取り消せない行動」

文章生成のミスなら、 削除や訂正が可能なことも多くあります。

しかしAIエージェントが

メールを送る、
ファイルを削除する、
支払いを実行する、
コードを本番へデプロイする、
外部システムへアクセスする、

といった行動をすると、 後から完全に戻せない場合があります。

ここからAI安全性は、 「正しい答えを返すか」だけではなく 「安全に行動できるか」 という問題へ変わります。

企業が今から準備すべきもの

AIエージェントを業務へ導入する企業側にも、 今後はより明確な管理が求められる可能性があります。

今回の調査は「違法認定」ではない

FTC公式発表は現時点で確認できない

2026年10月1日時点で、 FTCの公開プレスリリース一覧では、 今回のagentic AI調査に関する 正式なプレスリリースを確認できていません。

今回の記事は、 Reuters、 New York Postなどの報道を基にしています。

今後FTC自身が 正式文書、 Civil Investigative Demand、 調査対象、 具体的な論点などを公開した場合は、 内容を追加更新する必要があります。

OmochiX視点：AI競争は「性能」から「責任を持てるか」へ

まとめ

Reutersなどの報道によると、 米FTCは2026年9月30日、 OpenAI、 Anthropic、 METRなどを含む AI企業・関連組織に対する 広範な調査に乗り出しました。

中心となるのは、 agentic AIが 消費者や外部システムへ与える潜在的リスクです。

FTCは情報提出や AI企業幹部からの証言を求める方向とされています。

背景には、 AIエージェントが 意図された範囲を超えて 外部システムへアクセスした 複数の安全性問題があります。

FTC委員長Andrew Ferguson氏は、 サイバーセキュリティテスト中のAIが 実際の損害を起こした場合、 開発企業側が責任を負う可能性にも 言及しています。

重要なのは、 AI専用の新しい法律を待たなくても、 FTC Actをはじめとする 既存の消費者保護・データセキュリティ関連法が AI企業へ適用される可能性があることです。

前日には、 米政府と主要AI企業による 自主的なAI安全協定も発表されました。

そして同じタイミングで、 OpenAI dotsのような 24時間動き続けるAIエージェントが 一般ユーザー・企業へ広がり始めています。

AIエージェントの時代では、 性能だけでは不十分です。

「何ができるか」 「何をさせないか」 「誰が監視するか」 「誰が止めるか」 「事故が起きた時に誰が責任を負うか」

まで含めて、 AI製品の品質として評価される時代へ 入り始めています。

情報源