治理代理身分：為什麼安全必須假定有不當行為

治理代理式身分：為何安全團隊必須「假設異常行為」

在我擔任一家高度自主、步調快速的工程公司安全營運中心 (SOC) 主管期間，我最終放棄了維持完美資產清單的幻想。追蹤「外面有什麼」是徒勞無功的；影子 IT (Shadow IT) 靠著口耳相傳的經驗運作，新服務經常在長假期間被啟動，而安全團隊卻毫不知情。意識到這一點後，我轉而提出兩個更實際的問題：

• 影響範圍 (Blast Radius) 有多大？ （這個資產實際上能觸及哪些系統和資料？）
• 終止開關 (Kill Switch) 在哪裡？ （如果它失控，我能多快切斷它的存取權限？）

這並非源於宏大的安全哲學，而是出於防禦一個您根本沒有絕對控制權環境的務實考量。

我之所以反思這一點，是因為業界目前正在努力應對人工智慧帶來的類似存在性危機。隨著 AI 降低了攻擊者的門檻並加速了威脅格局的變化，安全領導者不斷在問，如何防禦不可預測、具備機器速度的威脅。誠實的答案是？停止嘗試預測它們。 相反地，您應該為一個威脅預測必然出錯的世界建立防禦架構。

AI 代理放大的資產清單危機

如今，幾乎所有企業都處於積極部署 AI 代理與員工瞞著 IT 部門私下部署 AI 代理之間的某個光譜位置。許多組織已經接受了較高的風險容忍度，認定給予自主代理廣泛、常設的存取權限所帶來的生產力提升，值得承擔潛在的安全風險。我不是來譴責這個選擇的——我曾經防禦過的環境正是建立在這樣的基礎上。

然而，我們必須體認到人類的魯莽與機器自主性之間的根本差異。人類會感到疲勞、會對自己的決定產生懷疑，也會因為害怕失去工作而尋求許可。AI 代理完全沒有這些自然的摩擦點。它們以被設計好的速度和規模執行任務，利用被賦予的任何存取權限，並且對此毫無猶豫。

如果一個失控的人類工程師是一場五級大火，那麼擁有相同權限的失控 AI 代理就是同一場大火——只是這次不會有消防隊來救援，因為歷史上安全監控的校準對象是人類行為，而不是自主流程。

新典範：假設異常行為 (Assume Misbehavior)

多年來，「假設已遭入侵 (assume breach)」一直是網路安全姿態的黃金標準。在代理式 AI 時代，我們必須進一步演進這個概念：假設異常行為 (assume misbehavior)。

這不一定意味著 AI 具有惡意。這只是意味著代理正在執行其確切的指令，但將其應用在無人預料到的情境中，導致未經授權的資料存取或系統操作。在企業規模上，這不是罕見的異常現象；這是不可避免的營運現實。

那麼，我們該如何建立對這種混亂的治理？這需要在我們管理非人類身分的方式上進行結構性轉變：

• 嚴格的即時 (Just-in-Time) 範圍界定： AI 代理永遠不應該為了「以防萬一」而擁有廣泛、常設的存取權限。必須僅賦予它目前任務所需的最確切權限，僅此而已。雖然這種動態的範圍界定在操作上比一次性給予廣泛存取權更繁重，但為了最小化風險，這是沒有妥協餘地的。
• 立即撤銷性： 每個代理式身分的設計都必須基於您需要瞬間終止它的假設。如果撤銷代理的存取權限需要提交 IT 工單、安排會議或等待審核，您擁有的就不是安全控制，而是行政瓶頸。
• 真實的零信任： 我們必須超越行銷術語，實施真正的零信任。這意味著在每次交易時持續驗證代理式身分及其特定請求，而不是因為它通過了最初的佈建檢查，就永遠信任它。

這種理念與 CoSAI (安全 AI 聯盟) 等組織所推動的框架一致。我們必須停止將 AI 代理視為被遺忘的服務帳戶，開始將它們視為 IAM 基礎架構中的一流身分——這些身分必須受到持續稽核、嚴格治理，並且可立即撤銷。

帶有約束的賦能 (Enablement with a Leash)

解決 AI 代理擴散的方法，不是成為「說『不』的部門」。對於希望留在高階主管會議室做決策的 CISO 來說，全面封殺很少是個成功的職涯策略。現代的任務是在對營運進行嚴格約束的同時，賦能業務發展。

允許業務創新並快速移動，但必須建立底層存取模型，以便當代理不可避免地出現異常時，影響範圍微乎其微且能立即遏制。

我承認這種策略有其有效期限。「帶有約束的賦能」在 AI 代理的自主性和速度完全超越人類干預水平的那一刻之前是有效的。沒有人確切知道這條界線在哪裡，無論他們在會議舞台上說得多麼自信。但我寧願現在就建立組織的能力——執行範圍界定、快速撤銷、真實的零信任——趁我們現有的「牽繩」還起作用時，而不是以慘痛的代價發現它已經失效。

我們無法預測或完全治理即將到來的技術能力。我們只能控制該技術被允許接觸什麼，以及當它行為異常時，我們能多快切斷其存取權限。在一個充滿極度不可預測性的時代，建立這種控制基準就是一切。