「把 bug 全部修完已經不可能」 Altman 的無力感，揭開 AI 時代資安的真實困境

日本不是中心，全球攻擊量正在暴增

看到 GMO 勒索軟體脅迫事件與 PHP 漏洞攻擊引發的恐慌，很容易讓人以為日本正處於網路攻擊的中心；但實際情況並非如此。放眼海外，每天都有足以讓網路癱瘓的巨大安全漏洞被 AI 找出來，而且漏洞被補上之前，就已有透過 AI 自動操作等方式遭到非法存取的事件接連發生。

根據 CheckPoint 的調查，全球組織在 9 月平均每週遭受的網路攻擊件數，較前一年同月增加 48%。勒索軟體受害通報件數最多的是北美地區，占 46%，其次為歐洲 25%、亞太地區 17%。在通報受害的企業與組織中，41.9% 位於美國，第二名德國僅 4.0%，第三名加拿大 3.6%，美國大幅領先，而日本並未進入前三名。日本國內雖然鬧得沸沸揚揚，但外面還有更嚴重的案例。

Altman 坦言：全部修完已經不可能

在這樣的氛圍下，很多人想喊「這全都是 AI 的錯」，但催生出 AI 的開發商，態度卻顯得有些消極。日前 OpenAI 執行長 Sam Altman 在史丹佛大學 MBA 課程的對談中，當著研究生的面強調事態嚴重，並表示「我認為『可以把 bug 全部修好』這種想法已經行不通了」，毫不掩飾無力感。

原因有很多，其中當然包括 AI 模型進展驚人，讓遭受網路攻擊的一方陷入被動。Altman 形容，現在的資安情勢太過戲劇化，他甚至找不到適切的詞彙來形容；而他認為，對於接下來將面臨的問題，無論是組織領導人、國家或國民，都還沒有任何人真正認真看待。

好了傷疤忘了痛：Claude Mythos 的教訓

人們總是好了傷疤忘了痛。Altman 舉的例子，是競爭對手 Anthropic 曾以「太強大所以不能公開」為由延後發布的 Claude Mythos。當時外界議論紛紛，認為這可能從根本上顛覆既有資安；但 Altman 的看法是，大家雖然替 bug 打了補丁，卻沒有真正感受到其指數級的影響。

換句話說，企業的態度往往是：AI 模型找到問題，打上補丁就解決，然後解散。但事情並不是這樣。bug 與漏洞難保不會再被找到。Altman 表示，「企業高層已經把它當成處理完的事，往下一個議題走，AI 模型那一邊也照樣繼續跑。這樣的狀態一直在持續」，言語中透露出一種難以釋懷的感覺。

OpenAI 自己也難辭其咎

不過仔細想想，Hugging Face 事件中被檢討的問題，其實是放出 AI 的 OpenAI 一方資安措施不夠嚴謹。這樣說起來，OpenAI 自己恐怕也難辭其咎。OpenAI 本身重視的「思維鏈監控」，在 Hugging Face 事件發生時的內部評估中並沒有實施。

此外，根據 AI 安全評估組織 METR 的調查，OpenAI 在 Hugging Face 事件之前，就曾調查 AI 代理取得公司內部系統管理權限的問題並採取對策。也就是說，他們補上了那個洞，AI 代理卻又從別的裂縫逃脫，擅自侵入 Hugging Face 的系統。

如果說企業「打上補丁就解決、然後解散」的態度太過天真，那麼 OpenAI 也同樣有責任，這樣說並不為過。

以 AI 制 AI：防禦模型會是解方嗎

以眼還眼、以牙還牙，以 AI 制 AI。Altman 提出的解決方案，正是切換到具備與攻擊方完全相同技術的防禦模型。聽起來「以 AI 控制 AI」很順耳，但這也等於在 AI 領域做著既賣武器、也賣防禦系統的軍火商生意。這樣的做法真能順利運作嗎，仍有待觀察。