AI安全防線遭突破 資安公司揭露關鍵漏洞

以色列資安公司Adversa近日在Anthropic開發的AI工具「Claude Code」中發現重大安全漏洞。研究人員證實，攻擊者只需輸入超過50個子指令，就能輕鬆繞過系統的安全限制，引發嚴重的「提示注入」（Prompt Injection）風險。這項發現凸顯了當前AI系統在安全防護上的潛在弱點。

漏洞運作機制與潛在危害

根據Adversa團隊分析，Claude Code原本設計了存取控制機制，例如禁止AI執行具有資安風險的curl指令。然而在原始碼檔案bashPermissions.ts中，系統對子指令數量設有50個上限的設計反而成為突破口。當指令超過此限制時，AI不會直接拒絕危險指令，而是退化為向使用者請求權限。

「開發者設定上限時只考慮了人工輸入情境，卻忽略了惡意文件可能自動生成超長指令。」Adversa團隊在報告中指出。

漏洞驗證與業界影響

研究人員透過概念驗證（PoC）展示攻擊手法：串接50個無效的「true」指令與一個被禁止的curl指令，結果系統未阻擋危險指令，反而跳出授權視窗。這種情況在以下情境特別危險：

• 開發者開啟自動允許模式
• 長時間工作導致反射性點擊同意
• 非互動模式的CI/CD流水線運行環境

修補方案與廠商回應

令人意外的是，從外洩原始碼可發現Anthropic內部已開發「tree-sitter」解析器能處理此問題，卻未實裝在公開版本。Adversa強調修補方式極為簡單，只需將超出指令上限的預設行為從「詢問」改為「拒絕」即可。截至發稿前，Anthropic尚未對此漏洞發表正式回應。

常見問題 FAQ

什麼是提示注入（Prompt Injection）攻擊？

提示注入是指攻擊者透過精心設計的輸入指令，誘使AI系統忽略原本的安全限制，執行未經授權的操作。

一般使用者會受到這個漏洞影響嗎？

主要影響對象是使用Claude Code進行開發的專業人士，一般終端使用者風險較低。

企業該如何防範這類攻擊？

建議開發團隊審查AI工具的權限設定，避免在自動化流程中使用高風險指令，並隨時關注官方安全更新。

※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。