财联社10月13日讯（记者郭松峤）近日，中共中央、国务院正式印发《关于发展新质生产力的意见》（下称《意见》）。在“全面实施‘人工智能+’行动”一节中，《意见》明确提出“构建技术监测、风险预警、应急响应体系，确保人工智能安全、可靠、可控”。
人工智能分析师李云对财联社记者表示，此次《意见》提出构建技术监测、风险预警、应急响应体系，可以看作是对上述分散政策的顶层整合——把安全能力从单点产品上升为系统性基础设施。
在产业界，网络安全上市公司的最新技术发布和布局响应，正在把文件中“技术监测、风险预警、应急响应”的要求落到具体产品线上。
政策回应：从框架到体系的加速构建
财联社记者注意到，今年以来，政策层面，从《生成式人工智能服务管理暂行办法》到《人工智能生成合成内容标识办法》，从《人工智能拟人化互动服务管理暂行办法》到《智能体规范应用与创新发展实施意见》，我国已形成覆盖内容生成、标识管理、拟人化互动、智能体应用等关键环节的制度体系。
李云对财联社记者表示，一系列政策发布，再到此次《意见》提出“技术监测、风险预警、应急响应体系”，政策主线正在从“内容合规”转向“行为可控”。智能体一旦能调用工具、访问系统、执行任务，安全治理就不能只停留在模型输出层面，而必须覆盖资产识别、权限管控、运行审计和应急处置全链条。
产业节奏与安全设计的落差同样值得关注。业内人士指出，当前AI领域安全投入远远跟不上研发和应用的规模，安全评测、风险预警、应急处置机制等环节，仍在追赶技术迭代的脚步。与此同时，使用层面的风险不容忽视。政务、金融、工业等领域人工智能应用加速落地，部分使用者对AI能力边界认知不足，滥用、误用问题突出，也给安全治理带来新的挑战。
炒股杠杆平台数据显示，截至今年8月底，全国累计有1112款生成式人工智能服务完成备案，731款应用或功能完成登记;中央网信办部署的“清朗·整治AI应用乱象”专项行动，第一阶段累计处置违规AI产品1.4万余款。人工智能健康发展综合性立法也已提上日程。
“当前类Claw智能体主要存在三类风险”
财联社记者在绿盟科技2026年秋季大模型安全创新成果发布会观察到，企业的AI治理重心正在改变，已从“管住模型说什么”转向“约束智能体做什么”。
元股证券:ygzq.hk在近日全国网络安全标准化技术委员会秘书处发布的《网络安全标准实践指南——智能体部署使用安全指引》中，首次为智能体从评估、部署到停用的全流程划出安全红线。
作为该指南的起草单位之一，绿盟科技相关负责人对记者表示，这份文件将成为企业采购、安全检查与责任认定的重要参照，智能体资产清点、权限最小化、高风险操作阻断、行为审计与长期记忆治理，正在从可选项变为必答题。
绿盟科技能力中心产品经理郭光正对记者分析，结合真实环境的实测结果，当前类Claw智能体主要存在三类风险：跨形态共有安全风险、Skills安全风险、沙箱逃逸风险。
“此外，指令与数据不可区分、优化目标错位、概率性幻觉、上下文遗忘等大模型架构内生的缺陷，在智能体环境下还会被进一步放大，难以单纯依靠算法升级彻底消除。”郭光正谈到。 此次大会上另外一个视角需要引起各级企业重视，当AI从“只会聊天”的工具变成替员工干活的“数字员工”的时候，企业可能面临数据悄悄流出去、数字员工行为悄悄越界的处境。当数字员工自己拆任务、发邮件、查资料的时候，效率上去了，新的麻烦也来了。
以近期公开报道的事件为例，2026年4月，美国汽车租赁软件公司PocketOS的AI编程智能体在测试环境中遇到报错后自作主张，9秒删掉了公司的生产数据库，连同一块存储上的备份也一并清除。
从产业实践看，安全评估正从“可选项”变为大模型与智能体上线的“前置门槛”。绿盟科技AI安全产品总监李斌在接受财联社记者采访时表示，要想让AI更安全地赋能自己的业务，智能体行为需要全链路审计，也就是说智能体从接到任务到每一步操作，全程记录、实时审计，出了问题能查清是哪个智能体、谁的授权、干了什么。
李斌强调，尤其是针对办公助理类智能体数据安全，需要让智能体读取和外发的文件先过“安检”，敏感数据自动拦截或脱敏放行，员工下载的AI插件安装前先做安全检查，让员工放心用AI、没敏感数据出不去。
“最后，要统一管住企业调用大模型的入口和智能体访问内部系统的权限现货配资服务门户，每个部门、每个智能体的用量和花费一目了然，超额自动‘踩刹车’。三项能力组合起来，让每一位AI数字员工有身份、有边界、有记录，让AI赋能业务‘安全’落地。”李斌表示。
元股证券-炒股杠杆中心丨稳健操作更省心提示：本文来自互联网，不代表本网站观点。
相关文章
大盘行情指数走势
热点资讯