企業 AI 資安：如何在擁抱 AI 的同時保護機密資料

當企業積極導入 AI 技術以提升競爭力的同時，AI 帶來的資料安全風險也不容忽視。從員工將機密資料輸入公開 AI 服務，到大型語言模型可能洩漏訓練資料中的敏感資訊，AI 資安已成為每個組織必須正視的課題。本文將全面探討企業在 AI 時代面臨的資安挑戰、風險評估框架、防護策略，以及如何建構安全可信賴的企業 AI 環境。

企業 AI 應用中的主要資安風險

企業在使用 AI 服務時面臨的資安風險可以分為幾個層面。首先是「資料外洩風險」：當企業使用第三方雲端 AI 服務（如 ChatGPT、各類雲端 API）時，輸入的資料會被傳送到外部伺服器處理。如果員工在不知不覺中將客戶個資、商業機密、財務資料、程式碼等敏感資訊輸入這些服務，就可能造成資料外洩。各家 AI 服務商對於「使用者輸入是否會用於模型訓練」的政策並不一致，且會隨方案等級（免費／個人付費／企業版）、部署區域與契約條款而不同，也可能隨版本更新而改變。因此不應以「業界普遍如何」來推定，正確做法是針對貴公司實際使用的每一項服務與方案，查閱其官方資料使用與訓練政策的當期版本，並在企業合約中明確約定不得用於訓練、資料保留期限與刪除義務，再輔以管理控制（如封鎖未核准的 AI 網站、在閘道端做敏感資料偵測）而非僅依賴廠商聲明。

其次是「模型安全風險」：大型語言模型本身也可能成為攻擊的對象。提示注入攻擊（Prompt Injection）是指攻擊者透過精心設計的輸入，誘導 AI 模型繞過安全限制，執行不預期的操作或洩漏系統提示詞中的敏感資訊。模型竊取（Model Extraction）則是透過大量查詢來複製模型的行為。對抗性攻擊（Adversarial Attack）則是透過微妙的輸入修改來欺騙 AI 模型做出錯誤判斷。

第三是「供應鏈風險」：企業使用的 AI 模型、框架、函式庫可能包含已知或未知的安全漏洞。開源模型雖然透明度較高，但也可能被植入後門（Backdoor）。AI 供應鏈中的任何環節被攻擊，都可能影響依賴其服務的所有企業。

第四是「合規風險」：隨著各國 AI 相關規範陸續發展（如歐盟《人工智慧法》、台灣的《個人資料保護法》），企業在使用 AI 時需檢視是否符合適用的法律要求。以 AI 處理個人資料若未落實告知、目的特定、必要範圍與安全維護等要求，可能涉及行政責任與民事賠償；具體適用條件與可能後果，需依個案資料類型、企業角色與現行條文由法務判斷。此外，AI 系統的決策過程缺乏透明度（黑盒問題），在需要說明理由的場景（如金融信貸審核、人資篩選）中容易引發爭議，這類用途在部分法域被歸類為高風險而有額外義務。實際適用範圍與作業要求，仍應以主管機關最新公告及貴公司法務認定為準。

建構企業 AI 資安防護框架

有效的企業 AI 資安防護需要從組織、技術和流程三個層面同時著手。在組織層面，企業應建立明確的 AI 使用政策，規範員工可以和不可以在 AI 工具中輸入的資料類型。定期的資安意識培訓讓員工了解 AI 相關的資安風險和正確的使用方式。成立跨部門的 AI 治理委員會，負責制定和監督 AI 使用的安全標準。

在技術層面，資料分級與存取控制是最基本的防護措施。將企業資料依敏感度分為不同等級，並為每個等級設定相應的 AI 使用限制。例如，最高機密等級的資料只能在地端 AI 環境中處理，一般等級的資料可以使用經過安全評估的雲端服務。實施細粒度的存取控制，確保員工只能存取其工作所需的 AI 功能和資料。

資料脫敏（Data Masking/Anonymization）技術可以在資料送入 AI 系統之前，自動將敏感資訊（如姓名、身分證號、信用卡號等）替換為脫敏後的替代值，在不影響 AI 分析效果的前提下保護隱私。加密技術則確保資料在傳輸和儲存過程中的安全性。

對於使用 RAG 等技術連接企業知識庫的 AI 系統，需要實施嚴格的檢索權限控制：確保 AI 系統在回答問題時只能存取該使用者有權限查閱的文件，避免透過 AI 系統繞過既有的文件權限管理。

地端部署：企業 AI 資安的最佳實踐

對於資安要求嚴格的企業，地端 AI 部署是降低資料外送風險的主要選項之一。在地端部署模式下，模型推論與檢索都在企業自有環境中執行，因此可以有效阻斷「提示內容與檢索到的內文被送往第三方推論服務」這條最主要的外送路徑。

不過地端不等於沒有外流面。盤點威脅模型時，至少還有幾條路徑需要單獨處理：模型權重與相依套件的下載來源（供應鏈風險，需驗證雜湊值與來源可信度）；系統與模型的更新機制是否需要對外連線；可觀測性與錯誤回報工具是否把提示內容送往外部 SaaS；備份與異地備援的存放位置與加密狀態；Agent 或外掛可呼叫的外部 API 會帶出哪些欄位；以及內部具權限人員的濫用與誤用。務實做法是為 AI 系統畫出完整資料流圖，逐條標記企業邊界的位置與對應控制，再據此判斷殘餘風險是否可接受；地端改變的是風險組成，而不是把風險歸零。

地端 AI 環境的安全配置應包括：網路隔離：將 AI 系統部署在與外部網路隔離的內部網段中，防止未授權的外部存取；身份驗證與授權：實施多因素認證和基於角色的存取控制（RBAC），確保只有授權人員可以使用 AI 系統；稽核日誌：記錄所有 AI 系統的使用行為，包括查詢內容、存取的文件、生成的回答等，便於事後追查和合規稽核。

模型安全也是地端部署需要關注的重點。企業應定期更新 AI 模型和相關軟體以修補已知的安全漏洞；對模型的輸入和輸出進行內容過濾和安全檢查，防止提示注入攻擊和敏感資訊洩漏；以及實施模型版本管理，確保可以在發現問題時快速回滾到安全的版本。

AI 資安的監控與持續改進

AI 資安不是一次性的工作，而是需要持續監控和改進的動態過程。企業應建立 AI 系統的安全監控機制，即時偵測異常的使用模式（如大量的資料擷取、異常的查詢模式），並設定自動化的告警規則。

定期的安全評估和滲透測試可以主動發現 AI 系統中的安全漏洞。紅隊演練（Red Team Exercise），也就是模擬攻擊者對 AI 系統進行各種攻擊嘗試，是一種特別有效的安全評估方法。對於使用大型語言模型的系統，還應定期測試模型是否能被誘導產生不安全的輸出。

建立 AI 資安事件的應變計畫也至關重要。當發生資料洩漏或 AI 系統被攻擊的事件時，企業需要有明確的處理流程：包括事件偵測、影響評估、止損措施、根因分析、以及後續改善。遵循業界標準的資安框架（如 ISO 27001、NIST AI RMF）可以幫助企業建立系統化的 AI 資安管理體系。

法規合規與 AI 治理

各國的 AI 監管規範正在快速發展。歐盟《人工智慧法》（EU AI Act）普遍被視為第一部跨產業、全面性的 AI 專法，採風險分級架構，對被歸類為高風險的用途（如用於信用評估、人員招募、執法等場景）設有較嚴格的安全、資料治理與透明度義務；其各項義務有分階段生效的時程安排，且實作細則與標準仍在陸續發布，適用與否需依貴公司是否落入其管轄範圍逐案判斷。

在台灣，AI 治理的主管機關是數位發展部。政府部門端已有可參照的規範文件：行政院於 2023 年通過並函頒《行政院及所屬機關（構）使用生成式AI參考指引》，就公務使用生成式 AI 的資料處理與人工審核等事項提供原則性指引；資通安全管理法體系下的資通安全責任等級分為 A、B、C、D、E 五級，不同等級對應不同的資安應辦事項，會影響公部門與特定關鍵基礎設施提供者的 AI 系統建置要求。至於《個人資料保護法》，其修正與相關子法的研擬進度、以及是否針對 AI 處理另設要求，請以全國法規資料庫與主管機關的最新公告為準，不宜以預期中的修法方向作為規劃依據。實際適用範圍與作業要求，仍應以主管機關最新公告及貴公司法務認定為準。

延伸查詢：全國法規資料庫、數位發展部

企業在導入 AI 時應提前評估相關的法規要求，確保 AI 系統的設計和使用符合法律規範。這包括資料處理的合法性基礎、個人資料的告知與同意、AI 決策的透明度與可解釋性、以及資料主體權利的保障等。建立完善的 AI 治理框架，不僅能降低合規風險，也能增強客戶和合作夥伴對企業 AI 應用的信任。