⽂/劉虹君 Gigi Liu|企業韌性專欄作家
微軟共同創辦⼈ Bill Gates 最近發表⼀篇長⽂,談的不是 AI ⼜多會寫程式、模型⼜進步多少,⽽是⼀個更值得警覺的問題:AI 跑得太快,⼈類還沒有準備好。
Gates 認為,即使在最好的情況下,進入 AI 時代的過程仍可能是⼈類歷史上最動盪的轉型之⼀。更值得注意的是,他直⾔⾄今並未看到政府、企業與社會建立出⾜夠完整的轉型計畫。
從資安⾓度來看,這句話其實比「AI 會不會取代⼈類」更值得深思。因為真正正在發⽣的事情是:AI的能⼒成長速度,正在逐漸超越⼈類的治理速度、法規速度,以及資安防禦速度。這個差距,就是下⼀個資安風險的根源。
⼀、過去駭客在找漏洞,現在 AI 幫駭客找漏洞
傳統的網路攻擊需要時間。駭客必須蒐集情報、掃描系統、尋找漏洞、撰寫攻擊程式、反覆測試,才能⼀步步滲透進企業環境。防守者做的是同⼀件事的鏡像:資安維運中⼼、資安⼈員、弱點管理團隊不斷掃描漏洞、分析紀錄、安裝修補程式,希望搶在攻擊者之前補上破⼝。
AI 正在改變這場競賽的節奏。Gates 過去便指出,AI 可以協助駭客更有效率地撰寫程式、尋找軟體弱點,也能利⽤網路上公開的個⼈資訊,產⽣更精準的社交⼯程與釣⿂攻擊。到了今天,問題已經不只是「AI 可以幫駭客」,⽽是 AI 開始具備⾃主完成部分攻擊⼯作的能⼒。2026 年的資安研究也開始警告,前沿 AI 模型的漏洞發現與利⽤能⼒快速提升,防禦端剩下的準備時間正在縮短。
這代表企業未來⾯對的戰場,很可能不再是⼈對⼈,⽽是 AI 對 AI。
⼆、最⼤的問題不是 AI 變聰明,⽽是 AI 開始「⾏動」
⽣成式 AI 剛普及時,⼤家擔⼼的是 AI 會不會產⽣錯誤資訊、會不會洩漏公司資料、員⼯會不會把機密⽂件丟進聊天機器⼈。但具備⾃主⾏動能⼒的 AI 出現之後,問題的性質已經不同了。AI 不再只是回答問題,它開始能夠存取資料、呼叫程式介⾯、操作系統、執⾏程式、處理郵件、建立帳號,甚⾄代表⼈類完成⼀連串⼯作。
於是企業資安必須回答的問題,也從「你是誰」延伸出⼀整組新的追問:這個 AI 正在代表誰⾏動?它被允許做到什麼程度?誰授權它?它存取了哪些資料?⼀旦⾏為異常,我們能不能立即停⽌?如果 AI 做錯事情,我們能不能恢復?這些問題已經超出傳統⾝分與存取管理、多因⼦驗證或零信任架構的範疇。企業正在被迫進入⼀
個新階段⸺AI ⾝分治理。
三、AI 讓攻擊速度第⼀次可能超越⼈的反應速度
傳統資安監控中⼼最⼤的瓶頸,⼀直是⼈需要時間。告警出現後要有⼈看到,看到之後要判斷是不是攻擊,確認之後才能決定如何處理,最後才能封鎖帳號、隔離設備或停⽌服務。這⼀連串反應鏈,快不過幾分鐘,慢則拖上數⼩時。
AI Agent 不需要等待這些環節。⼀旦攻擊流程逐漸⾃動化,從偵察、漏洞探測、漏洞利⽤、權限提升、橫向移動到資料竊取,整條鏈路都可能⼀路⾃動執⾏。真正的問題於是浮現:如果 AI 能在幾分鐘內完成過去駭客要花幾⼩時甚⾄幾天才能完成的事,⼈類的資安團隊還來得及反應嗎?
這也是為什麼 AI 時代的資安不能只談「偵測」。企業需要的是⾃主防禦能⼒⸺讓 AI 對抗 AI。但⾃主防禦仍然不是終點。
四、就算 AI 防禦失敗,企業還是必須活下來
這是我認為 AI 資安最容易被忽略的⼀環。今天⼤家都在談 AI 驅動的監控中⼼、端點偵測與應變、防火牆與威脅情資,這些技術固然重要,但本質上回答的仍然是同⼀個問題:如何阻⽌攻擊?
真正的企業韌性,必須再往下追問⼀層:如果沒有阻⽌成功呢?如果 AI Agent 已經取得⾼權限、⼤量資料被刪除、備份也遭到破壞、⾝分系統遭到控制、核⼼服務因此停⽌,企業真正需要的能⼒就不再只是偵測,⽽是存續。
五、資安正在走向 AI 韌性
企業資安接下來會走出⼀條清楚的演進路線:從資安,到資安韌性,再到 AI 韌性,最終走向⾃主韌性。資安解決的是如何不被攻破;資安韌性解決的是即使被攻破,企業仍能繼續營運;AI 韌性解決的是當
AI 成為攻擊者、使⽤者甚⾄決策者的⼀部分時,企業仍能控制風險;⾃主韌性則更進⼀步⸺當攻擊速度超過⼈類反應速度,系統本⾝必須具備偵測、隔離、重建與恢復的能⼒。
六、未來企業真正需要建立的,是「AI 安全邊界」
AI 治理不能只停留在⼀份政策⽂件上,真正的治理必須落到技術控制的層次,包括:
・AI ⾝分⸺每⼀個 AI Agent 都必須具有可識別的⾝分。
・AI 權限控管⸺AI 可以存取哪些資料、介⾯與系統,必須受到權限管理。
・提⽰詞安全⸺防⽌提⽰詞注入攻擊與惡意指令改變Agent ⾏為。
・代理⼈沙箱⸺⾼風險 AI Agent 應在隔離環境中執⾏。
・AI 稽核紀錄⸺AI 做過的每⼀件事,都必須完整留下紀錄。
・模型治理⸺企業必須清楚掌握使⽤哪些模型、版本與資料來源。
・⼈為接管機制⸺關鍵操作必須保留⼈類停⽌或接管的能⼒。
還有⼀項經常被忽略的能⼒:資料⽣存能⼒。無論攻擊者是⼈還是 AI,只要企業最重要的資料仍能安全保存、重新取得並重建,企業就還有恢復營運的機會。
七、AI 時代,備份也必須重新思考
很多企業仍然認為「我有備份,所以我有韌性」。但在真正遭遇⼤型勒索攻擊時,已經有太多案例證明,備份本⾝也可能成為攻擊⽬標。進入 AI ⾃動化攻擊時代,攻擊者甚⾄可能更快找到企業的備份伺服器、管理帳號、儲存節點與復原路徑。
真正的問題已經不是「我有沒有備份」,⽽是當主要系統、管理權限甚⾄部分備份同時遭到破壞時,企業還能不能把資料重新組回來。這正是資料⽣存能⼒與資安韌性的分野所在⸺備份不是韌性,可重⽣,才叫安全。
結語:真正危險的不是 AI 開始思考,⽽是 AI 開始⾏動
Bill Gates 這次的警告,表⾯上談的是⼯作、教育、經濟、治理與 AI 風險,但從資安⾓度來看,它其實提醒了另⼀件事:⼈類第⼀次可能⾯對⼀個攻擊速度超過治理速度的科技環境。
未來真正危險的,或許不是 AI 比⼈類聰明,⽽是當 AI 開始代表⼈類⾏動時,我們卻還沒準備好控制它。攻擊速度超過⼈的反應速度時,資安不能只依靠⼈;AI 開始⾃主執⾏任務時,⾝分管理不能只管理⼈;攻擊無法百分之百阻⽌時,企業不能只思考防禦。
AI 時代真正需要建立的,不只是⼈⼯智慧本⾝,更是⼈⼯智慧韌性。因為下⼀個資安問題,可能不再是「我們能不能阻⽌ AI 攻擊」,⽽是⸺當我們阻⽌不了時,我們的企業還能不能活下來
