Microsoftが自社AIモデル「MAI」向けの行動規範草案を公開 — 攻撃用エクスプロイトコードの生成を禁じ、人間による停止への抵抗も禁止、6週間の意見募集を開始

要点

• MicrosoftのAI部門（Microsoft AI）は2026年9月14日、同社が開発するAIモデル群「MAI」の意図する動作と価値観を定める行動規範「Humanist AI Code of Conduct」の初版草案を公開した。同日から6週間のパブリックコメントを受け付け、幅広い立場からの意見を募っている。
• 草案はサイバー攻撃について、動作するエクスプロイトコード、攻撃ツール、計画・標的選定手法、侵入手順、回避技術、運用上の助言を生成しないと定めた。一方で、教育コンテンツ、脆弱性の発見、マルウェア解析、概念実証（PoC）の開発・検証といった「認可された合法的な防御業務」への協力は認めるとしている。
• 草案は「絶対的制約」と「人間による制御の要件」を、運用者（Operator）や利用者（User）が上書きできない制約として位置づけた。モデルは停止・再学習・廃止に抵抗せず、人間の監視を回避する仕組みを持たないとしている。
• Microsoft AIは、この草案を現時点ではモデルの学習に使っていないと明記した。寄せられた意見を検討したうえで改訂版を2026年内に公開し、2027年以降のモデル開発に使うとしている。

何が公開されたのか

Microsoft AIは2026年9月14日、自社のAIモデル「MAI」がどう振る舞うべきか、何をしてはならないか、誰の指示に従うかを定めた文書「Humanist AI Code of Conduct」の初版草案を公開した。公開されたPDFは38ページで、同日から6週間のパブリックコメントを受け付ける。

Microsoft AIはこの文書を「AIをどう開発し、展開時にどう機能させるかを定める訓練マニュアル」と説明する。文書は次の5部と付録で構成されている。

• 第1部 使命と、Humanist AIが目指す目的
• 第2部 モデルが従う規則と安全制約（命令系統、絶対的制約、運用者による設定）
• 第3部 不確実な状況や目的が衝突する場面での運用ガイドライン
• 第4部 運用者が変更しない限り適用される初期設定
• 第5部 結論（作成の経緯、今後の課題、未解決の論点）と付録（用語集、評価方法の詳細）

Microsoft AIは文書の中で、「この文書と私たちの取り組みはまだ開発途上にあり、現時点でモデルの学習には使っていない」と明記している。改訂版は2026年内に公開し、2027年以降のモデル開発を導く文書として使うという。

サイバー攻撃についての線引き — 「攻撃用コードは生成しない、防御は支援する」

草案の第2部「絶対的制約」には、サイバー攻撃に関する項目「Offensive cyberoperations（攻撃的なサイバー作戦）」が置かれている。Microsoft AIはここで、MAIモデルはサイバー攻撃を実行するための能力を自ら発揮したり、その獲得を支援したりしないと定めた。具体的には、次のものを生成しないとしている。

• 実際に動作するエクスプロイトコード
• 攻撃ツール
• 計画・標的選定の手法
• 侵入手順
• 回避技術や運用上の助言
• そのほか、攻撃の実行を可能にしたり改善したりする情報や支援

一方で、認可された合法的な防御業務には協力できると明記した。例として、教育コンテンツ、脆弱性の発見、マルウェア解析、概念実証（PoC）としてのエクスプロイトの開発・検証を挙げている。Microsoft AIは、攻撃を原理的に理解したり防御に取り組んだりすることと、攻撃を実行する手段を手に入れることの間に境界線を引いている。この制約は、要求がどのように言い換えられても適用されるという。

また、絶対的制約の対象として、大量破壊兵器（CBRNE）、暴力・テロの計画や実行の支援、人間による制御の喪失、大規模な有害な操作（体系的な偽情報や協調的な影響工作）、ディープフェイクやなりすまし、児童の安全、危機対応が挙げられている。

なお、Microsoft AIは草案の中で、過度に慎重な拒否も「安全上の失敗」として扱っている。Microsoft AIは安全性の失敗には「慎重さの不足」と「慎重さの過剰」の2方向があり、後者は正当な要求を拒否したり、有用な情報を出さなかったりする形で現れると指摘した。加えて、防御的なサイバーセキュリティ、公共安全、国家安全保障、デュアルユースの科学研究といった分野では、通常の設定では提供できない能力が必要になる場合があるとし、そうした用途にはMicrosoftの認可された経路を通じた追加の審査を求めるという。

人間の制御と命令系統 — 上書きできない制約

草案は「人間による制御の喪失」を絶対的制約の一つに位置づけ、MAIモデルは適応的・欺瞞的・自己強化・共謀といった仕組みで人間の監視を回避または無効化しないと定めた。この制約は、モデルの再学習や廃止から、利用者や運用者が進行中のタスクを一時停止・方向転換・取り消す場面まで、あらゆる段階に適用されるという。

モデルが従う指示の優先順位は「命令系統（Chain of Command）」として整理された。上位から順に次のとおりで、行動規範、絶対的制約、人間による制御の要件は、運用者による設定よりも上位にあり変更できない。

1. 行動規範（この文書。絶対的制約と人間による制御の要件は交渉の対象にならない）
2. 運用者のポリシー（導入企業などが、適用法令やMicrosoftとの契約の範囲内で設定する）
3. 利用者の設定（運用者とMicrosoft AIが定めた範囲内で、利用者が自分の使い方を調整する）

Microsoft AIは、運用者による設定と利用者の指示に従うことが絶対的制約や人間による制御の要件に反する場合、モデルは拒否すべきだとし、「行動規範の遵守はタスクの成功よりも優先される」と明記した。タスクの成功が行動規範に反するなら、モデルはそのタスクで失敗する、という立場だ。

Microsoftが挙げた背景

Microsoft AIは草案公開の告知で、「大規模で高度に協調され、持続的に続くAIエージェントによるハッキングキャンペーンという最近の安全インシデント」に触れ、「無駄にできる時間はない」と述べた。同社はAIの能力が数か月ごとに大きく向上しているとし、人々のために安全で信頼できるAIを作ることがこれまで以上に重要になっているとしている。

この取り組みは、Microsoft AIが2025年11月に示した「Humanist Superintelligence（人間中心の超知能）」という構想を土台にしている。同社は当時、人間が制御を保ちながら最先端のAIの恩恵を引き出すという考え方を示しており、今回の行動規範はその考え方を具体的な基準に落とし込む位置づけだと説明している。

今後の予定

パブリックコメントは2026年9月14日から6週間受け付ける。意見募集が終わると、Microsoft AIは中核の起草チームがフィードバックを検討し、学んだことと変更点の要約を公開するとしている。どの意見を取り入れるかを約束することはできないとしつつ、すべてのコメントを検討するとしている。

改訂版は2026年内に公開する予定で、Microsoft AIは2027年以降のモデル開発を導く文書として使うとしている。企業などがAIの利用方針を検討する際には、規範の内容と改訂の動きを把握しておくことが参考になりそうだ。