AI 安全的未来：从架构设计到体系化治理

　　随着AI应用加速普及，企业面临着一个关键的架构层抉择：是将身份识别、策略执行、可观测性和数据治理等现有的安全管控措施扩展到覆盖所有AI系统?还是将AI作为一个独立的层进行保护?这个选择将决定AI给企业带来的是韧性，还是安全隐患。如今，生成式AI工具早已从面向公众的试验产品，发展成为一项数字化基础能力。很多企业已经开始构建私有大语言模型环境，将AI集成到核心应用中，并部署能够检索数据、与API交互、跨业务系统启动工作流的智能体系统。因此，AI不再是外围工具，而是变成了基础设施的一部分。这种转变要求企业更换一种安全思维模式。业内最常见的误区是将AI视为一个具有独立管控措施的独立应用栈。实际上，AI工作负载依赖并影响着身份系统、网络策略、数据治理、API执行和运营工作流。要有效保护AI，就必须将治理规则、流量监测和策略执行嵌入到整个架构的每一个控制节点中。

　　1AI在各层扩大攻击面AI风险并不局限在单一的控制点，而是出现在各个层。● 在交互层，公共生成式AI工具和用户提示词，会因为影子AI的滥用和管控不完善的工作流，造成数据泄露风险。● 在知识层，私有大语言模型基础设施，包括训练数据、向量数据库、检索管道和模型逻辑，权责都属于企业。一旦AI在企业系统内运行，企业就得对其完整性和安全防护承担全部责任。● 在执行层，智能体AI引入自主能力，带来了新的风险。因为智能体可以检索数据、跨系统传输信息、调用API并触发自动化流程，且通常以机器级速度运行。这些层并不是独立的。随着AI自主能力增强，安全风险会不断积累。核心挑战并不在于孤立的可视性，而是跨整个技术栈的协同执行。2落地顺序至关重要企业采用AI的方式，与其部署的内容同样重要。有些企业在初期谨慎试用生成式AI，为私有大语言模型基础设施建立治理体系，在制定策略和框架分段完成后，再引入智能体的自主能力。但另一些企业则从产品试用阶段直接跳转到自动化落地，在架构防护措施尚未完全到位之前就部署了智能体。行业预测显示，未来很多这种“智能体优先落地”的项目将被重构或者放弃——这并不是因为底层技术失败，而是因为这些企业没有及早集成治理体系。当AI的自主能力超越架构管控范围时，企业将面临监管、安全和成本的约束，从而被迫重构项目。这不是技术的局限性，而是落地顺序问题。治理必须在AI自主能力落地之前实现规模化。

　　3运行时是AI风险高发阶段开发阶段的管控和部署前的测试，不足以防范生产环境中的AI遭受攻击。一旦AI模型投入生产，就会导致新的威胁，例如提示词注入、模型篡改、API滥用以及推理过程中的跨系统数据泄露。私有大语言模型还面临额外的运行时风险，例如训练数据投毒和模型窃取等等。智能体系统通过验证用户身份，调用企业API，与业务系统直接交互，放大了潜在的安全隐患。因此，AI安全需要在运营期间对用户、智能体、网络和应用程序进行持续管控。在实践中，这意味着AI需要跨网络进行安全防护，并在防火墙、API网关、SIEM和零信任网络访问上同步执行策略。

　　4融合是赋能因素更广泛的影响体现在架构层。如果企业网络和安全技术栈呈现出碎片化态势，则很难实现AI安全管控。当策略执行、遥测、身份控制和API检查分散在相互割裂的系统中时，AI会造成安全缺口和新的漏洞。安全网络融合提供了一个可行的方案。统一的操作系统基础、共享的策略框架和协调的遥测模型能够在边端、云端和数据中心环境中落实统一的执行标准。AI工作负载应该遵循与其他关键系统相同的准则。随着Fortinet平台的演进，AI可见性、运行时防护和智能体管控已经被集成到融合基础架构中，而不是作为独立系统来开发。原则很简单：创新应该使架构更强大，而不是让架构割裂。

　　5治理智能体系统智能体AI带来的变革影响深远。这些系统不仅仅能生成分析结果，它们还会通过检索信息、分析数据、与API交互来执行操作。它们做出的决策能够在整个受管控的环境中即时传播。这样的权限级别要求企业能够完整监测智能体通信、身份上下文、其行为是否与企业策略保持一致。至少，自动化运行必须受治理框架的约束，这意味着智能体系统应该在既定的权限边界内运行，不能越界，而且其行为必须能够被记录下来、可解释且可审计。

　　6为未来做好准备AI应用落地仍在持续加速。随着更多企业将AI从试验阶段推向全面生产，AI基础设施将因为监管压力和数据属地化需求而不断扩容。因此，智能体系统也将日益成熟。成功的企业不会急于部署孤立的解决方案，而是会选择内嵌AI安全能力的、稳定可靠的架构体系。随着AI成为企业生产环境的一部分，它不能被当作一个独立的组件，而是必须作为架构的一部分来进行安全治理。

　　资料来源于网络，详情请点击：SIEM（https://www.fortinet.com/cn/products/siem/fortisiem）