ISC.AI2026第十四届互联网安全大会于6月24日在北京举办，主题为智能体颠覆安全。ISC．中国工程院院士、国家新一代人工智能战略咨询委员会委员、中国人工智能学会党委书记、副理事长赵春江出席并演讲。
赵春江强调，当前AI系统面临多层次的安全风险，涵盖数据层、模型层、应用层和基础层。随着2025年多智能体商业化应用元年的到来及2026年的广泛普及，身份伪造、模型失效、权限管理漏洞、通信劫持以及恶性的勒索风险逐渐显现。此外，提示注入与越狱机制、AI驱动的隐含数据挖掘，以及模型训练过程中的数据投毒，都给模型的精度与决策结果带来了严重隐患。
他提醒，过去传统的“矛与盾”式的简单防御已不足以应对，未来必须主动提高系统的“免疫能力”。
赵春江指出，未来，应遵循网络安全框架，在医疗、金融、政务等重点领域开展示范性应用，以检验安全防护技术措施的成效，最终完成从识别新类型安全问题到构建智能化防御体系及治理框架的全面跨越。
来源：新浪财经 睿见Economy
