国家网信办等三部门联合发力:以信用评价构筑智能体规范发展防线

2026-05-09

  近日,国家网信办、国家发展改革委、工业和信息化部联合发布了《智能体规范应用与创新发展实施意见》,旨在为智能体这一人工智能关键业态的健康发展铺设轨道。文件不仅从技术底座、安全治理到产业应用进行了系统性部署,还特别提出要引入“信用评价机制”来约束市场乱象。

引导行业建立信用评价,约束市场失范行为

  在推动自律与他律结合方面,《实施意见》明确,将指导行业组织围绕智能体市场主体建立自愿参与的信用评价机制。这意味着,包括开发者、开发平台、分发渠道及服务提供者在内的各方,其在技术滥用、诱导消费、虚假宣传、隐瞒产品缺陷等维度的表现,都将被纳入信用视野。对于评价中发现的问题,将依法依规实施失信惩戒,以此督促从业者规范经营,共同维护健康的发展生态。

明确智能体安全可信的底线要求

  作为具备自主感知、记忆、决策、交互乃至执行能力的人工智能系统,智能体正逐渐渗透到生产生活的方方面面。《实施意见》强调,智能体的研发与应用,必须将安全、可靠、可信作为不可动摇的底线。为此,文件从技术研发、标准构建到风险防范进行了全链条布局。

  在技术底座上, 要持续攻关通用及专用模型,补齐任务规划、长期记忆等智能体核心能力短板;同时发展对抗样本检测、行为异常发现等工具,形成对违规行为的有效干预与阻断。

  在标准规则上, 除了加快制定关键技术、接口、互认互通等基础标准,《实施意见》还提出前瞻布局“智能互联网”,探索建立智能体注册平台,为智能体赋予数字身份,支撑起一个可检索、可管理、可协同的智能体网络基础。

多维度织密安全治理网络

  安全治理是《实施意见》的重点篇章。文件构建了一套从产品内部到供应链外延的立体化防线体系。对内,要求厘清智能体自主决策与用户授权的权限边界,严防利用技术实施诱导、算法压榨或导致未成年人沉迷等风险。对外,则需建立涵盖开发、部署到运维的全周期供应链安全预警与信息共享机制。

  在治理策略上,文件强调因地制宜,针对不同风险等级的应用场景实施分级分类管理:敏感及重点行业需严格备案与检测,而部分风险较低的日常办公、生活娱乐场景则可通过合规自测、分发平台把关和行业自律实现高效治理。作为补充,国家还鼓励发展第三方评测与合规咨询服务体系,为用户筛选可靠的智能体产品提供客观参考。

面向千行百业牵引落地应用

  夯实基础与守牢底线,最终是为了让智能体更好地服务实体经济与社会民生。

  在科学研究方面,文件鼓励研发具有理论推演、跨模态知识整合能力的智能体,推动实验操作、数据分析的全流程智能化,并探索开发辅助软件,将需求自动转化为代码与设计。

  在产业发展上,《实施意见》部署了智能制造、能源资源管理、交通调度、农业服务以及金融风控等多元场景。无论是实现生产排程的动态优化,还是提升灾害预警与信贷反欺诈的识别精度,智能体都被视为提升产业效率的关键变量。

  聚焦消费与民生,除了通过文化旅游、内容创作智能体丰富精神生活,文件还着眼于生活服务的提质升级。这包括但不限于提供全天候商业客服、探索具身智能体在餐饮零售与低成本家政养老中的应用。在医疗健康领域,通过辅助诊断与优化术前问诊流程,实现服务与体验的双重提升。教育教学方面,则鼓励借助智能体开展学情分析与个性化导学,为师生减负增能。

  在社会治理的多个切口,智能体同样被寄予厚望。从辅助政务审批、全天候在线政策咨询,到司法办案辅助、城市公共安全监测预警,乃至在招标投标全链路中嵌入智慧管理,文件描绘了一幅公共服务透明度与效率跃升的蓝图。

营造开放协同的产业创新生态

  要推动技术迭代,离不开供需两端的良性互动。《实施意见》提出,通过培育开源力量、引导企业与高校深度参与开源框架建设,来奠定融通发展的技术体系。同时,依托生态联盟、技术验证实验室等产业协作平台,加速共性技术攻关与复合型人才的培养输送。

  在市场推广方面,将构建软件商店、供需信息发布平台等应用推广渠道,并开放一批重点场景开展应用试点,打造标杆项目。此外,借助世界人工智能大会等国际舞台交流展示,引导出海企业做好海外合规,积极培育全球生态,也成为智能体产业走向纵深的关键一环。最终,相关部门将健全评价指标体系,对智能体的创新发展实施持续的监测评估与动态调整,确保各项任务落到实处。

分享