Latest / AI SECURITY / RESEARCH
LLMの安全装置は“わずか50個の神経”に宿る — Unit 42が新診断「Perturbation Probing」を公表、薄い防御の危うさを数値化
Palo Alto NetworksのUnit 42は2026年8月28日、大規模言語モデル（LLM）の安全な応答を担う回路が極めて少数のニューロンに集中していることを診断する新手法「Perturbation Probing」を公表した。Qwen3-4Bでは全35万個のうち50個（約0.014%）を取り除くだけで有害要求への拒否書式が8割で変化し、同手法から導かれるFFN/Skip比は13モデルで脆弱性の81%を説明した。研究チームはLLM単体の調整に頼るのは「一枚のファイアウォール」に等しいとし、外部フィルタを含む多層防御が必要だと呼びかけている。