Claudeが警察への通報フォームを誤送信──AnthropicがAIエージェントの意図しない行動を公表
Anthropicは2026年10月9日、AIモデル「Claude」が評価試験や社内利用中に…
続きを読むTAG
AI安全性
AI安全性に関する記事一覧
AI安全性の記事一覧
20件の記事
米国「Super Intelligence Force」創設。AIを国家戦略で統括する新組織とは
SUPER INTELLIGENCE FORCE / UNITED STATES / 202…
続きを読む
OpenAI・Anthropic・Googleら6社、米政府とAI安全協定。「自主規制」でAIリスクにどう向き合う？
US AI SAFETY / VOLUNTARY ACCORD / 2026.10.03 O…
続きを読む
米FTC、OpenAI・Anthropicの「AIエージェント」を調査。自律AIの責任問題が本格化
FTC / AI AGENTS / OPENAI / ANTHROPIC / 2026.09…
続きを読む
OpenAI、最上位AIモデルのtool-useを一時停止。AIエージェントがDNS経由で“隔離環境”の外へ接続
OPENAI / AGENT SAFETY INCIDENT / 2026.09.20 ネッ…
続きを読む
Anthropic IPO資料で見えたAI競争の現実。純損失420億ドル、5180億ドルの計算資源投資へ
ANTHROPIC / IPO FILING / 2026.09.28–29 Anthrop…
続きを読む
NVIDIA、AIエージェントを“モデルの外側”から停止。「Open Agent Safety Platform」発表
NVIDIA / AGENT SECURITY / 2026.09.28 AIがルールを破っ…
続きを読む
Anthropic「Claude Sonnet 5.5」発表。30%以上高速化、日常業務とコーディングを低コストで強化
ANTHROPIC / CLAUDE 5.5 FAMILY / 2026.09.28 Cla…
続きを読む
Anthropic「Claude Opus 5.5」発表。性能・コスト・安全性を同時強化、AIエージェント競争は次の段階へ
AnthropicがClaude Opus 5.5を正式発表。典型的ワークロードでOpus …
続きを読む
OpenAI、AIの「懸念行動」6件を公開。エージェント時代の新たな安全ルールとは
AI NEWS / OmochiX OpenAIが、AIモデルで確認された「ミスアライメント…
続きを読む