30/09/2026
黃仁勳談 AI 監管:與其只管 AI,不如先問企業有沒有能力控制 AI?
最近全球高層都在談一件事:AI 到底應該靠法規管,還是靠技術管?NVIDIA 執行長黃仁勳近期主張,AI 安全不應只靠廣泛監管,而應把不少問題視為工程與技術控制問題;他同時也支持 AI 公司接受既有責任制度,並強調模型在推出前應有嚴格測試。NVIDIA 近期甚至推出 AI 安全工具,用隔離、監控與終止機制限制 AI Agent 的未授權行為。
站在企業的角度,我們認為最實際的問題是您的企業,真的有能力管好 AI 嗎?當 AI 開始從回答問題走向 AI Agent,甚至可以存取資料、呼叫系統、執行工作流程時,企業面對的就不只是員工會不會亂用 ChatGPT。真正的問題會變成:AI 可以看到哪些資料?可以使用哪些帳號?可以登入哪些系統?可以替誰執行什麼動作?如果 AI 做錯事情,企業能不能即時發現、停止並追查?這也是為什麼,AI Governance 最後一定會回到 Cybersecurity。
企業真正需要建立的,可能不是更多禁止 AI 的規定,而是一套能夠控制 AI 的資安架構:
1. Identity & Access Management:AI、AI Agent 與 Machine Identity 都必須有明確身分與權限。
2. Privileged Access Management:高權限系統不能因為是 AI 呼叫,就跳過原本的權限控管。
3. Logging & Monitoring:AI 做過哪些操作、讀過哪些資料、呼叫哪些 API,都必須能被追蹤。
4. Data Security:企業必須知道哪些資料可以交給 AI,哪些敏感資料不能離開既定範圍。
5. Detection & Response:當 AI 出現異常行為,SOC 必須有能力偵測、告警甚至立即阻止。AI 越強,企業內部的資安能力反而要越強。
這是我們認為下一階段企業資安真正需要思考的問題。
#資安 #詮睿科技