2026世界人工智能大会暨人工智能全球治理高级别会议（WAIC 2026）上，人工智能安全治理成为备受关注的议题之一。随着大模型加速迈向智能体时代，AI正在从“回答问题”走向“自主执行任务”，如何在能力持续提升的同时确保安全可控，成为产业界、学术界共同关注的重要议题。
为什么智能体安全成为今年AI治理的重要议题？一个关键变化是，过去人工智能安全更多关注模型“输出什么”，而进入智能体时代，关注点正在转向AI“会做什么”。安全问题已不再只是防止模型生成错误答案，而是要确保整个系统的决策和行动处于可控范围。
在7月19日的WAIC 2026前沿AI与智能体安全论坛上，图灵奖得主约书亚·本吉奥表示，人工智能能力正沿着快速增长轨迹发展，当前能力提升越来越集中于推理、编程、科学研究以及自主行动等领域。与此同时，安全保护措施的提升速度仍可能赶不上能力增长。
“我们大多数人只想着监管AI本身，这只是其中一个维度。”浙江大学求是特聘教授杜跃进接受记者采访时表示，智能体进入真实应用场景后，安全治理不能只关注模型本身，系统性监管不可或缺。杜跃进还表示，智能体安全正在进入“问题大爆炸”阶段——过去，人们习惯寻找单一漏洞并修补，但智能体涉及模型、数据、工具、权限、业务流程等多个环节，任何一个环节出现问题，都可能引发连锁影响。特别是在金融、电力、政务、科研等关键领域，不能简单将“能用”理解为“安全可用”。
安远AI创始人兼首席执行官谢旻希表示，当前全球AI治理需要构建从“看清风险”到“系统防范”再到“规则协同”的治理闭环。
人工智能技术正在走进千家万户、赋能千行百业，高度重视人工智能引发的各类内生和衍生风险，全方位施策，才能让技术在制度土壤里茁壮成长。
在主旨讲话中，习近平主席深刻指出“确保人工智能始终处于人类控制之下”，强调“推动构建法律法规、技术监测、风险预警、应急响应体系，筑牢安全底线，防范滥用恶用”，为驾驭好人工智能这匹千里马进一步指明了方向和路径。
新修改的网络安全法以法律形式将人工智能纳入国家网络安全法律体系；针对深度合成、生成式人工智能等特定风险出台专项规章；发布相关标准划定人工智能伦理安全边界与底线……中国不断完善相关法律法规、政策制度、应用规范、伦理准则，以“善治”促“善智”。
《2026世界人工智能大会暨人工智能全球治理高级别会议主席声明》提出，“坚持风险导向、敏捷治理，探索分类分级管理，筑牢安全底线”“加快安全、产业、伦理标准制修订”，获得国际社会广泛支持和响应，为促进全球人工智能安全发展汇聚力量。
开放合作，促进共同繁荣、维护共同安全——
大道不孤，众行致远。跑得稳，不仅是一国之稳，更应是天下之稳。
“应当共同反对在人工智能领域泛化国家安全概念、把本国安全凌驾于他国安全之上的做法。”习近平主席在主旨讲话中，直指当前全球人工智能治理领域的一个关键症结。
当前，全球智能鸿沟依然存在，众多发展中国家在算力、数据、人才等方面受到明显制约。人为设置技术壁垒、把科技合作政治化，只会扩大差距、增加风险。
“各国应当秉持以人为本、向上向善理念，让人工智能成为促进共同繁荣、维护共同安全的一个重要动力源，携手构建公正合理的全球人工智能治理体系。”习近平主席重要讲话彰显深厚的天下情怀和负责任大国的时代担当。
人工智能的未来，归根到底取决于人类今天作出怎样的选择。坚持发展和安全并重，把握好人工智能发展趋势和规律完善全球治理，人工智能这匹千里马将既跑得快又跑得稳，不断为增进全人类福祉、推动人类文明进步注入强劲动力。
（记者魏玉坤、周圆、刘桢、吴梦桐）
（新华社北京7月19日电）
(责任编辑：秦宇雯)