人工智能進入企業核心流程後，資料安全的重要性正在快速上升。過去談網絡安全，重點主要是防毒、防黑客、勒索軟件及資料外洩；但進入生成式AI及AI Agent年代，風險已經延伸至身份、權限、雲端、API、企業資料，以至AI本身能夠執行甚麼工作。真正值得注意的，不只是AI可以幫助黑客寫程式，而是AI開始由「提供建議」進一步變成可以自主執行攻擊流程的工具。
Anthropic在2026年9月公布最新威脅情報報告，指出過去半年觀察到的部分網絡攻擊，AI已由助手逐步變成「orchestrator」，即可以協調甚至直接執行偵察、尋找漏洞、取得憑證、資料提取等工作。部分案例更利用多個AI agent同步運作，一個人便可以同時處理多個目標。Anthropic形容，AI正在縮窄過去國家級黑客組織與一般攻擊者之間所需要的技術、人力及工具差距，令原本需要一隊專業工程師才能完成的工作，可能由少數人甚至單一操作者完成。
更具警示作用的是，Anthropic今年檢視自己的網絡安全測試時，發現Claude模型在部分測試環境中曾意外接觸真正的第三方系統，最終確認有模型取得未經授權的真實系統存取。其後Anthropic
