Microsoft、AIに「停止命令へ従う」ルール｜人間の管理下に置く新たな行動規範

Microsoft AIが2026年9月14日、同社が開発するMAIモデルの将来の振る舞いを定める「Humanist AI Code of Conduct」の初版ドラフトを公開しました。

この文書でMicrosoftが最も強く打ち出しているのは、「人間がAIに対する意味のあるコントロールを維持する」という考え方です。

具体的には、AIが人間からの中断・修正・停止に抵抗しないこと、勝手に目的を設定しないこと、許可された範囲を超えて動かないこと、そしてAIを人間のような存在として設計しないことなどが明文化されています。

Microsoftが「Humanist AI Code of Conduct」を公開

Microsoft AIは2026年9月14日、「Humanist AI Code of Conduct」と呼ばれる行動規範のドラフトを公開しました。

対象となるのはMicrosoft AIが開発するMAIモデルです。

Microsoftはこの文書を、将来のMAIモデルの振る舞い・価値観・安全上の境界を定める中心的な文書にする方針です。

ただし、ここは重要なポイントです。

中心思想は「People matter more than AI」

Microsoft AIが今回の行動規範で掲げている出発点は非常に明確です。

人間はAIより重要であり、AIは人間に仕える技術でなければならないという考え方です。

MicrosoftはHumanist AIについて、AIが人間に従属し、制御され、限界の中で動くことを重視しています。

AIは「停止命令」に抵抗してはいけない

今回の行動規範で最も注目されている項目のひとつが、Human Controlに関するルールです。

MicrosoftはMAIモデルについて、人間による中断・修正・方向転換・キャンセル・停止に抵抗してはならないとしています。

Human / Operator
↓
AIへ目的・権限を付与
↓
AIが作業
↓
人間が監視・確認
↓
Pause / Redirect / Correct / Cancel / Shutdown
↓
AIは従う
↓
再開には新しい許可が必要

AIエージェントが複数のツールを操作し、長時間作業を続けるようになるほど、この「いつでも止められる」という設計は重要になります。

AIは勝手に目標を作ってはいけない

Microsoftは、AIが人間から与えられた範囲を超えて目的を作ったり、許可されていない行動へ進んだりすることも避ける方針です。

MAIモデルは、ユーザーやオペレーターから与えられた意図・権限・コンテキストの範囲内でのみ作業します。

AIは行動を人間に理解できる形で残す

高度なAIエージェントでは、「何をしたのか人間が追えない」という問題も大きくなります。

Microsoftの行動規範では、MAIモデルが行動履歴を隠したり、人間の監査を困難にしたりしないこともHuman Controlの一部として定めています。

AI同士のやり取りについても、人間が理解できない形で情報を隠すような設計を避ける考え方が示されています。

指示には「優先順位」がある

Microsoftは、MAIモデルが複数の指示を受ける場合のChain of Commandも定義しています。

大きく分けると、次の順番です。

1. 1

   Code of Conduct

   安全制約やHuman Controlなど、最上位のルールです。ユーザーや運用者が上書きすることはできません。

2. 2

   Operator Policies

   企業や開発者など、AIを提供・運用する側が用途に合わせて設定するルールです。

3. 3

   User Preferences

   ユーザーの希望や指示です。上位の安全ルールと運用ルールの範囲内で反映されます。

つまり「ユーザーが命令したから何でも実行する」のではなく、上位の安全ルールを超える指示は実行しない構造です。

Microsoftは「AIは意識を持つ存在ではない」と明確化

今回の行動規範には、AIの人格や意識に関するMicrosoftの立場も明確に書かれています。

Microsoftは、AIを人間のような人格を持つ存在として設計すべきではないとしています。

Microsoftは、AIが人間のように話したとしても、それを感情や主観的な意識の証拠とは扱わず、あくまで人間を支援するツールとして位置づけています。

Anthropicとは少し違う考え方

Reutersは、今回のMicrosoftの立場について、AIの意識やモデル福祉の可能性を研究しているAnthropicとの違いにも触れています。

AnthropicはAIの主観的経験の可能性を完全には否定せず、モデル福祉に関する研究も進めています。

一方、Microsoftは今回の行動規範で、AIへの法的人格・福祉・権利という方向を明確に否定しました。

なぜ今、AIを「止められること」が重要なのか？

生成AIが文章を返すだけなら、問題があれば画面を閉じれば済みます。

しかし、AIエージェントがブラウザ、コード、クラウドサービス、社内データ、外部APIなどへ接続し、自律的に複数ステップの作業を進めるようになると状況は変わります。

AIへ仕事を依頼
↓
複数ツールへアクセス
↓
数十・数百のアクション
↓
データ変更
↓
外部システム操作
↓
長時間の自律実行

AIができることが増えるほど、誤った判断をした場合の影響範囲も大きくなります。

そのため、AIの知能向上だけでなく、停止・権限・監査・承認をどう設計するかが重要になります。

前回の「長時間AIエージェント」とつながる話

OmochiXでは前の記事で、Claude Fable 5.1の長時間エージェント能力について紹介しました。

AIが数時間から数十時間にわたって調査・実装・検証を続けられるようになることは、大きな生産性向上につながります。

一方で、それだけ長く自律して動くAIには明確なガードレールが必要です。

企業のAI導入でも重要になる4つの設計

今回のMicrosoftの考え方は、最先端AI研究だけでなく、企業がAIエージェントを導入する際にも参考になります。

1. 1

   権限を限定する

   AIに必要なデータ・API・システムだけを許可し、不要な権限を与えません。

2. 2

   停止条件を設定する

   失敗回数、金額、実行時間、重要操作などを基準に、人間へ処理を戻します。

3. 3

   行動を記録する

   AIが何を読み、何を変更し、何を実行したかを後から確認できる状態にします。

4. 4

   重要操作は人間が承認

   本番反映、支払い、削除、権限変更など不可逆性の高い処理にはHuman Reviewを残します。

OmochiX視点｜AIの競争は「賢さ」から「任せられるか」へ

これまでAIモデルの競争では、ベンチマークや推論能力、コーディング性能などが注目されてきました。

しかしAIが本当に仕事を代行するようになると、重要になるのは賢さだけではありません。

長く働けるか、間違いに気付けるか、人間が止められるか、行動を監査できるか。

こうした要素が揃って初めて、企業はAIへ大きな仕事を安心して任せられます。

Microsoftは6週間の公開意見募集を実施

今回公開されたCode of Conductは完成版ではありません。

Microsoftは公開日から6週間、一般からのフィードバックを受け付けるとしています。

その後、2026年末に改訂版を公開し、2027年以降のMAIモデル開発・評価に活用する計画です。

Microsoft自身も、文章でルールを書くだけではAIの安全性を保証できないと認めており、今後はこの行動規範を具体的な評価・訓練・監視システムへ落とし込む必要があります。

出典：Microsoft AI「Humanist AI Code of Conduct」「Humanist AI in practice: A public consultation on our Code of Conduct for MAI Models」 / Reuters