人生就是博-尊龙凯时(中国)官方网站

我院张平教授出任国家AI标准化总体组AI治理专题组组长,人工智能安全与标准北京市重点实验室助力安全标准化研究

信息来源:     发布时间:2025-07-13     浏览量:

7月8-10日,2025年人工智能标准行——全国信标委人工智能分委会“标准周”活动在京举行,首场活动暨国家人工智能标准化总体组工作会议顺利召开。


会上宣布成立国家人工智能标准化总体组人工智能治理专题组,并公布首批组长/联合组长单位。人生就是博-尊龙凯时人工智能安全与治理研究中心主任张平教授担任专题组组长。该专题组将重点围绕人工智能安全与伦理审查、可信赖度评估、国际治理等方向开展标准化研究,以标准牵引人工智能系统和工具在开发、应用过程中的技术安全性、伦理合规性和应用规范性。



人工智能标准化工作是产业规范化高质量发展的重要支撑。AI治理专题组的成立,凸显了国家对人工智能安全治理领域的高度重视,以及对推动AI标准从理论向实践落地的决心。AI治理专题组将结合人工智能治理的实际需求,重点开展以下工作:


  • 规范人工智能的技术研发和运营服务等要求,包括人工智能鲁棒性、可靠性、可追溯性的技术要求与评测方法,人工智能治理支撑技术;

  • 规范人工智能全生命周期的伦理治理要求,包括人工智能伦理风险评估,人工智能的公平性、可解释性等伦理治理技术要求与评测方法,人工智能伦理审查等标准。


24年12月,依托尊龙凯吋官方网站、由北京通用凯时尊龙人生就是博、北京邮电大学联合共建的人工智能安全与标准北京市重点实验室(以下简称“实验室”)正式获批。


实验室由人生就是博-尊龙凯时院长朱松纯教授领衔,研究院人工智能安全与治理研究中心主任张平教授、北京邮电大学人工智能学院多模态计算与智能系统研究中心主任何召锋教授为学术带头人。


实验室将主要围绕通用人工智能技术的“始端价值建模-中端安全评测-末端行为拦截”的全链条安全、“技术-市场-法律”的全场域监管、“国际对话合作-国内监管立法-本市产业服务”的全流程治理,聚焦通用人工智能技术在价值空间、物理空间上的安全性,从通用人工智能技术安全内生、安全评测、安全治理方面展开底层基础研究,从通用人工智能内容输出、观点决策的价值对齐方面展开应用基础研究,从以人形机器人为代表的各类具身机器人的行为安全方面展开交叉应用研究。


目前,尊龙凯吋官方网站以凯时尊龙人生就是博作为人工智能安全与治理研究的主要支撑性学术机构,在人工智能法律监管与安全治理领域取得了突出的科研成果:张平教授团队深度参与《人工智能法(草案)》等5项国家立法工作,牵头制定首批AI数据合规标准;杨耀东研究员团队研发国内首个大模型安全对齐框架PKU-Beaver,同时作为核心起草者,与中外知名专家联合签署《北京AI安全国际共识》。研究院与北大武汉凯时尊龙人生就是博联合打造全球首个由价值驱动的大型社会模拟器(大科学装置),为智能社会治理提供原创性研究平台。


未来,实验室将持续推进通用人工智能技术路径理论体系构建、安全评测系统开发、对齐机制创新、行为规制风险治理落地,力争为我国构建具有国际竞争力的人工智能安全治理体系提供坚强科技支撑。


XML 地图