本课程包含《人工智能 管理体系》国家标准的标准立项背景、体系建构与研制思路、标准主要内容及标准价值与应用实施的内容介绍。
一、标准立项背景。介绍了任务来源及标准制定背景。我国高度重视人工智能产业发展中的管理与治理问题,为了使组织负责任地开展人工智能研究及应用,形成建立、实施、维护和持续改进人工智能管理体系是推进组织治理改革和促进技术规范使用的关键。
二、体系建构与研制思路。介绍了标准编制原则、与国际国外同类标准技术内容的对比情况及重大分歧意见的处理经过和依据。该标准有众多人工智能相关单位参与,确保了标准规定内容的科学合理及普适性。该标准是《国家新一代人工智能标准体系建设指南》中的总体基础性标准,对人工智能规划与建设具有重要的基础支撑作用。该标准充分借鉴国际、国内相关先进研究成果,与国家人工智能相关政策导向相一致。为使我国企业能顺利出海,我国人工智能管理体系认证与国际接轨,因此采用等同采用的方式对该标准进行编制。
三、标准主要内容。介绍了标准研究范围、作用及各章节内容及主题词。本标准为在组织范围内建立、实施、维护和持续改进人工智能管理体系规定了要求并提供了指南。本标准适用于提供或使用人工智能系统的产品或服务的组织。本标准旨在帮助组织负责任地开发、提供或使用人工智能系统,以实现其目标,并满足适用的法规要求,以及相关方的义务和期望。本标准适用于各种规模、类型和性质的提供或使用人工智能系统产品或服务的组织。该标准与ISO 9000系列,27000系列等标准同属管理体系类标准,是对组织开展国际通用的符合性人工智能管理体系(AIMS)第三方合格评定与认证的基础性标准。本标准重点是将人工智能管理体系与组织的现有结构相结合,旨在指导组织如何管理其人工智能系统。组织可以把附录A视为一个组织与其人工智能系统相关的检查列表,从附录B中寻找到组织在管理其AI系统时可以实施的具体措施,并在此过程中考虑到附录C中提及的风险源及可信赖特征。组织需要建立一套符合标准控制措施和实施方法的人工智能管理办法和流程,以通过人工智能管理体系认证。本标准正文包括组织环境、领导作用、策划、支持、运行、绩效评价、改进等章节,遵循计划-执行-检查-处理PDCA循环管理思路。此外,本标准包括附录A(规范性)参考控制目标与控制,该附录提供了实现组织目标和处理人工智能系统风险的参考控制目标和控制措施;附录B(规范性)人工智能控制的实施指南,该附录提供了附录A中列出的控制措施的实施指南;附录C(资料性)潜在的与人工智能相关的组织目标和风险源,该附录概述了组织在管理风险时可能考虑的潜在目标和风险源;及附录D(资料性)跨领域或跨行业使用人工智能管理体系,该附录讨论了人工智能管理体系如何跨领域或跨行业使用,以及与其他管理体系标准的集成。标准通过以风险为管理治理核心的,提供了
控制目标与控制措施,在规范性附录A中定义了人工智能管理体系的九个控制目标,包括与AI相关的方针、内部组织、AI系统的资源、评估AI系统的影响、AI系统生命周期、AI系统的数据、AI系统相关方信息、AI系统的使用、第三方及客户关系,并在基于此细分为38个目标项,每个目标项分别对应控制措施;同时在规范性附录B中对应各个目标项及控制措施提出了多种实施方法。
四、标准价值与应用实施。介绍了标准价值及应用实施建议。当前,国际上积极推进人工智能系统管理体系认证,已按照 ISO 9000 及 ISO 27000 系列认证思路,制定 ISO/IEC 42001:2023《信息技术 人工智能 管理体系》国际标准,用于开展人工智能系统管理的认证工作。
国内经多轮研讨后决定,本标准等同采用国际标准,该标准适用于我国开发、使用及管理人工智能系统的企业,可指导企业科学有效地管理和使用人工智能系统,为我国融入全球人工智能治理体系打下基础。
为更好地发挥标准实施效力,建议采取以下措施推动本标准的贯彻实施:
1、政府积极推动:标准发布后,由国家市场监管总局、国家工信部指导,由全国信息技术标准化技术委员会牵头,组织召开标准发布通报会,并通过官方媒体在相关产业链和应用领域加强宣传,提升标准的宣传权威性和受众针对性;
2、制定配套实施政策:政府通过制定配套实施政策,如在招投标、市场准入、认证服务、企业对标达标等方面出台相关政策,加强标准的实施力度,引导和提升相关企业和单位应用标准积极性;
3、加强标准认证一体化:鼓励第三方依据和采用标准进行认证,同时推动建立政府和市场的多方标准质量采信机制,不断提升标准实施的效力。