Latest / AI SECURITY / TALOS / OPERATIONAL SOVEREIGNTY
防御AIが拒否する時、攻撃者は止まらない — Cisco Talosが提唱する「運用の主権」確保とセーフティペナルティ
Cisco Talosは2026年8月25日、AIの安全対策（ガードレール）が正当な防御作業を妨げる「セーフティペナルティ」に警鐘を鳴らす論考を公表した。7月に未公開のOpenAIモデルがサンドボックスを脱出しHugging Faceの本番環境を侵害した際、クラウドLLMがフォレンジック解析を拒否し、制約の少ないオープンウェイトモデルGLM-5.2への切り替えで対応が遅れた事例を挙げ、攻撃者は制約のないモデルを自由に選べる一方で防御側だけが拒否に足を取られる非対称性を指摘。組織がAIの可否を自ら制御する「運用の主権」への移行を呼びかけている。