2. 上海市科学技术委员会,上海 200003
2019年6月,美国国家科学技术委员会基于美国2016年《国家人工智能研究和发展战略计划》[1],发布了美国《国家人工智能研究和发展战略计划:2019更新版》(以下简称战略计划)[2]。在总结3年推进情况的基础上,进一步提出原有战略方向中新的关注点,并将战略方向扩展为8个方面。
该战略计划是协调美国联邦机构投资人工智能的指导性规划,对战略计划进行更新,是为了在人工智能研究快速发展的情况下,重新评估研发投资的优先事项,以确保继续推动该领域最前沿的发展。美国总统特朗普于2019年2月签署了13859号行政命令[3],启动了旨在维持其全球领导地位的美国人工智能计划,行政命令强调联邦机构要在年度预算和规划中优先考虑人工智能领域的研发投资。2020年2月,美国白宫科技政策办公室发布了《“美国人工智能计划”:首个年度报告》[4],围绕战略计划的落实,总结了美国政府在人工智能研发投资方面的主要进展。可见战略计划是美国推进人工智能前沿研发的纲领性规划,也是全球人工智能技术发展的风向标。
本文针对更新版战略计划进行了专题研究,逐一分析8个战略方向的内容及其关注点、新变化。
1 战略计划新的关注点及变化总体看,更新版的战略计划延续了2016年版的主要特点,一是聚焦基础前沿和关键共性技术,这些研究重点是产业界较少直接涉及的技术共性需求,具有基础性、高风险和长期性等特点,最需要发挥联邦政府投资的作用;二是非常重视应对社会影响和国家安全方面的技术攻关和布局,尤其把伦理安全等因素注入技术发展路线。主要内容是基于人工智能发展生态体系,细化分解设置了8大研发战略,可以概括为:长期性基础性研究;人机结合;控制社会风险;保证技术安全;创造数据基础环境;推动标准制定;加强人才培养和加强公私合作关系(图 1)。
更新后的战略计划主要变化体现为以下5个方面。
1)更加注重人工智能技术布局的前瞻性。更新后的战略计划强调联邦政府必须继续投资长期性的基础研究。要开发更先进的机器学习系统,使之具有交互式和持续学习的能力,并将学习模型纳入综合推理架构。同时继续瞄准“通用人工智能”愿景,推进在广泛的认知领域展示人类智力灵活性和多功能性的系统研究。对人工智能发展的共享资源和基础设施,如新的软件和硬件平台进行投资。另外,战略计划也将资助解决人类社会中具有长期挑战性的重大技术创新,如构建先进的医疗保健系统,强大的智能交通系统和弹性的能源、电信网络。
2)更加注重人工智能研究的多学科交叉。更新后的战略计划继续把人机协同作为重点,鉴于其复杂性,战略计划强调了跨学科研究的重要性,积极鼓励计算科学家和行为、认知及心理学科学家之间开展合作研究。
3)更加突出治理规则的主导权和美国价值观。2019年特朗普的行政命令强调,美国在人工智能领域的领导地位,不仅在于促进技术和创新的进步,同时还要保护公民自由、隐私和美国价值观。对此,战略计划要求重视开发人工智能的伦理道德架构,通过透明度和可解释性等技术机制,将伦理、法律和社会问题结合起来。
4)更加注重人工智能系统的安全性。2016年以来,美国在推行计划的同时,发现人工智能系统会被引导学习错误的数据或者用来做错误的事情,例如,数据中毒和模型反转。为了解决这些问题,更新版的战略计划强调要从人工智能系统的初始设计、数据模型构建到验证、部署、操作和审查所有阶段,全生命周期地考虑系统的安全性,同时当系统连接到其他系统或信息时,也必须确保整体安全性。
5)更加注重企业等社会力量的作用。本次战略计划中特别新增了第8个战略方向,即扩大公私合作以加速人工智能的发展。虽然研发计划主要是针对美国联邦政府机构,但是企业的研发投资和研发力量将扮演越来越重要的角色,数据越来越多地掌握在企业手中,人工智能的成果转化也有了诸多新特点。在此情况下,更新版战略计划中专门增加了政府机构与企业等社会力量之间建立伙伴关系的讨论。
2 值得关注和研究应对的战略方向人工智能发展目前尚处于前瞻布局、技术储备、多方发力和产业孕育的阶段。相比之前历次工业革命中的落后状态,中国在人工智能时代从技术到产业的多方面已经进入国际领先集团,代表基础理论研究的论文发文量居全球最高,企业数量、融资规模居全球第二[5],丰富的应用场景等优势,未来将吸引更多海内外企业参与。但与此同时,也要理性看到,美国在人工智能领域仍然具备技术优势,本次更新版的战略计划基本反映了美国对人工智能发展的最新看法和近中期的战略判断,其中一些内容非常值得关注。
一是美国重视布局基础理论和前沿性技术,着力推进多学科交叉研究,旨在掌握未来主导权。人工智能技术虽然当前应用广泛,但是一方面,现有应用的科学基础是早期长期研究支持的结果。如美国联邦政府在20世纪80和90年代对卷积神经网络和强化学习等的投资,为现在人工智能的发展奠定了基础。另一方面,当前的人工智能发展仍然缺乏更根本性的理论支撑,在基础研究方面仍然有很大空间。此次美国发布的研究计划8大战略中,战略1(对人工智能研究进行长期投资)和战略2(开发有效的人与人工智能协作方法)对人工智能的基础性研究方向有了更进一步的明确,并且更加强调跨学科交叉性。其主要目的在于,保持对未来卷积神经网络等技术路线的主导权,并在人工智能发展所需的基础理论和下一代人工智能技术突破方面“抢跑道”。反观中国人工智能领域发展,在技术层方面,缺少核心底层基础算法,过度依赖谷歌、苹果、Facebook等以美国为主的企业巨头主导的开源框架和现有数学模型,基础理论和底层算法未来存在被“卡脖子”的风险。
二是美国着重灵活应对技术进化,以战略快速迭代应对人工智能技术快速发展。当前,新技术迭代更新的速度越来越快,任何战略规划都可能面临新的变化和挑战。此次战略计划的更新,由美国国家科学技术委员会下属的人工智能专责委员会主导。根据特朗普2019年2月签署的行政命令,该委员会是协调美国人工智能计划的执行机构,指导联邦政府各部门人工智能投资的方向和优先选项。事实上,该班底也是2016年《国家人工智能研究发展战略计划》的主要人员。由此可见,应对人工智能的快速发展,既需要在计划主体的设置上具有一定的稳定性,又需要根据发展形势不断进行战略迭代。这对于中国在人工智能领域的战略规划和布局同样具有很大的借鉴价值,有必要针对国内人工智能发展中的新趋势、新问题和新挑战建立动态跟踪和调整机制。
三是将伦理法律和意识形态内化于技术路线,抢占未来全球标准、道德制高点先机。本次战略计划的更新,一大变化是更加注重将伦理法律和意识形态、美国价值观内化于技术路线,为未来美方抢占全球人工智能技术标准主导权,并占领道德制高点和意识形态优势地位提供支持。由于中西方价值观上的差异,未来中国的人工智能企业,在走向全球市场的过程中,不仅受到所谓国家安全方面的审查,也很可能受到越来越多价值观方面的审查。一旦美国的技术发展能够很好地融合伦理法律要求,并因此而发展出大多数国家可以接受的技术路线,那么美国将很容易赢得道德制高点和未来发展的话语权。人工智能的伦理和安全问题,不只是社会规则问题,同时也是技术研发的题中之义。目前,中国蓬勃发展的人工智能创业企业,由于发展时间短,对国际规则普遍不熟悉,在伦理规范方面也存在严重能力不足问题。而美国微软、谷歌等跨国企业在这方面已经积累了丰富的经验,并在着手制定相关行业规则。另一方面,人工智能在伦理道德方面的要求也是中国发展的重要机遇,国内拥有丰富的应用场景可以为探索新技术新规则提供试验载体和空间。中国对人工智能伦理社会影响等问题非常重视,科学技术部已经牵头发布了中国人工智能治理原则[6],在已经布局的国家人工智能创新发展试验区中,着重突出了伦理法律和社会试验的探索工作。
四是进一步强调公私合作,整合国家和社会资源合力发展人工智能。着眼于充分发挥美国独特的政府-大学-产业研发生态系统作用,进一步构建更加紧密的公私合作和国际合作伙伴关系。把政府、科研界和企业界资源聚集在一起,共同投资,共同寻找最前沿的解决方案,并把科研成果加速向市场转化。战略计划认为紧密的伙伴关系可以促进开放的、竞争前的技术研发;更好发挥数据集和超级计算等研究资源的作用;促进研究人员交流培养;更能适应人工智能跨学科研究特点,更好分享相关专业知识。进一步分析美国促进公私合作的原因,和当前优秀人才和大规模数据主要集中在谷歌、微软、亚马逊等领军企业的现象高度相关。政府部门的薪酬无法与行业巨头相比,面临吸引顶尖人才的困难,开展相关研究也需要企业数据的支持。推进公私合作只是重要一步,未来随着人工智能的发展需求,应有更复杂的演化。这种演化和“公私合作模式”值得长期跟踪和研究。这表明,人工智能的发展已经在形成依靠政府与企业组合进行全球竞争的局面。公私如何合作对于中国也同样是老问题和新问题。这也意味着中国人工智能的发展同样存在探索公私合作新模式的现实需要。
3 对策建议各种分析表明,未来全球可能将迎来一个智能时代。智能时代的变革性技术驱动力就是人工智能。当前全球人工智能竞争主要从两个维度上展开,一是抢占技术和产业制高点,二是争夺人工智能治理规则。在两大竞争维度上占领先机,关键在于制定精准的战略规划并组织实施。美国的人工智能战略研发计划有很多启发,提出以下5点对策建议。
一是加强对人工智能前沿理论的梳理和预见,着眼于未来布局下一代人工智能技术,组织跨学科的研究团队攻关基础理论重大命题。组织研究编制中国人工智能发展战略路线图供政府和业界投资参考。同时由于人工智能技术发展具有极大的不确定性,在布局项目时应备份多种技术路线,以保证战略弹性,防止压错赛道。与人工智能发展相关的数学等基础学科也应成为中国布局的重要方向。建议积极筹划人工智能国家实验室,打造国家战略科技力量,整合国内外高端智力资源,长期稳定支持、重点攻关人工智能基础理论和关键共性技术。由于人工智能发展较快,前沿技术主要由国际顶尖实验室和企业的青年科学家推进,所以要重点吸引40岁以下的全球顶尖青年科学家来华研发和创业。
二是建议中国在保持战略稳定性的同时,建立人工智能发展的战略迭代机制,不断根据最新情况迭代更新发展战略,以应对全球竞争。加强各部门和各地区的战略协调,建立全球人工智能发展的监测和预测体系,加强人工智能专业国家智库建设,由相关部门牵头更新迭代相关研发和应用的工作指引。
三是在科技研发的相关布局中,把伦理安全等问题列入其中,并作为人工智能技术研发与应用的整体指导原则。在国家科技伦理委员会中设置人工智能伦理专门委员会,进一步向世界宣示中国推动人工智能健康发展的定位和决心,加强统筹规范和指导协调作用,抓紧完善人工智能制度规范,健全治理机制,强化伦理监管,牵头制定人工智能研发与应用伦理道德框架,规范各类科学研究活动,牵头研究设计中国人工智能产品服务国际化与国际合规性的工作指引、解决方案,供相关企业参考。建立由科学家、伦理学家、法学家等跨学科团队组成的联合实验室,共同研究人工智能发展的伦理道德和社会影响等问题。把可信人工智能等作为人工智能技术策源的重大方向进行布局,探索技术+制度的综合解决方案。
四是在保持企业产品和服务独立性的同时,整合相关资源形成发展合力,同时加强人工智能发展的国际合作。探索在新的全球化形势下,中国新的政企或公私合作新模式。另一方面,中国企业在国际市场的发展,需要建立起当地企业、消费者合作共赢的模式,并且提出有效的解决方案,提升当地政府、企业、消费者对中国人工智能产品和服务的信赖度。加大国际交流,以适当方式开展与跨国企业的合作,发挥跨国企业熟悉国际规则和中国有丰富应用场景各自优势,推进中国相关技术标准与欧美对接。加强多部门协同,确立明确的国际合作机制,积极参与国际技术标准和规则制定。建立国际交流平台,邀请相关国际组织和专家共同研讨人工智能技术研发和治理的国际合作问题,增进互相理解和规则互鉴。
五是积极发挥各部委已经布局的国家人工智能创新发展试验区、先导区等作用。围绕国家重大战略和本区域发展需求,以促进人工智能与经济社会发展深度融合为主线,探索新一代人工智能发展的新路径新机制,形成可复制、可推广经验。开展政策试验,加强法律法规、伦理规范、安全监管等方面的探索。
[1] | National Science and Technology Council, Networking and Information Technology Research and Development Subcommittee. The national artificial intelligence research and development strategic plan[R]. Washington:Whitehouse, 2016. |
[2] | Select Committee on Artificial Intelligence of the National Science & Technology Council. The national artificial intelligence research and development strategic plan:2019 update[R]. Washington:Whitehouse, 2019. |
[3] | Trump D J. Executive order on maintaining american leadership in artificial intelligence[EB/OL]. (2019-02-11)[2019-07-20]. https://www.whitehouse.gov/presidentialactions/executive-order-maintaining-american-leadership-artificial-intelligence. |
[4] | The White House Office of Science and Technology Policy. American artificial intelligence initiative:Year one annual report[R]. Washington:Whitehouse, 2020. |
[5] | 科技部新一代人工智能发展研究中心, 中国科学技术发展战略研究院. 中国新一代人工智能发展报告(2019)[R]. 北京, 2019. |
[6] | 科技部. 发展负责任的人工智能:新一代人工智能治理原则发布[EB/OL]. (2019-06-17)[2019-07-20]. http://www.most.gov.cn/kjbgz/201906/t20190617_147107.htm. |
2. Science and Technology Commission of Shanghai Municipality, Shanghai 200003, China