全球人工智能安全治理需团结合作 人工智能,风险

　　(环球热门)

　　日前，为期两天的首届人工智能安全峰会在英国布莱奇利园举办。英国科学、创新和技术部的信息显示，本次峰会邀请了约100名各国官员、人工智能企业代表和专家。美国、中国、日本、德国、印度等20多个国度的政府代表以及结合国、经合组织、国际电信联盟等多个国际组织的代表参会。各方代表就人工智能技术快速发展带来的风险和机会展开讨论。28个国度和欧盟共同签订了《布莱奇利宣言》(下称《宣言》)，批准通过国际合作，树立人工智能(AI)监管方式。

　　呼吁国际合作

　　《宣言》指出，人工智能带来宏大机会，有潜力加强人类福祉、和温和繁华，并已安排在日常生活的许多领域。但同时人工智能也带来重大潜在风险。《宣言》强调，人工智能的许多风险实质上是国际性的，因此最好通过国际合作来解决。与会国度和地域批准协力打造一个具有国际包容性的前沿人工智能安全科学研讨网络，以对尚未完整了解的人工智能风险和才能加深懂得。

　　《宣言》引发国际社会关注。据英国《金融时报》报道，《宣言》呼吁以“以人为本、值得信任和负义务”的方法运用人工智能，是首个此类全球许诺。据《南华早报》报道，《宣言》提出双管齐下的议程：重点肯定各国共同关怀的AI技术风险，对其形成科学认知的同时，推进跨国政策形成以降低风险。

　　英国科学、创新和技术部大臣米歇尔·多内兰表现，此次峰会为缭绕人工智能相干风险的全球讨论奠定了基本，也让国际社会心识到，必需加深对人工智能相干风险的懂得并采用应对措施。

　　中国现代国际关系研讨院科技与网络安全研讨所研讨员李艳表现，英国选择在布莱奇利园召开峰会心味深长，这里是二战期间盟军破译密码的重要地点。半个多世纪前，有“现代盘算机科学与人工智能之父”之称的数学家图灵也是在此创造了第一代图灵盘算机。今年以来，人工智能连续成为国际热门，人工智能发展与安全、国际竞争与规矩制订牵动多方。在全球热议人工智能安全问题的背景下，英国借此时机召开峰会，其意有三：一是顺应国际大势，回应国际关切；二是搭建国际平台，彰显国度作为；三是成为未来国际合作主要贡献方和“斡旋者”。

　　“英国脱欧后，加大了对人工智能领域的投入，开发了许多底层技术和数据架构，人工智能产业发展敏捷。”北京理工大学网络空间国际治理研讨基地研讨员裴轶说，这为英国举行此次人工智能安全峰会提供主要支持。

　　依据英国政府发表的声明，下届人工智能安全峰会将于一年后在法国举行，韩国将在未来6个月内结合主办一次小型虚拟峰会。据西班牙《国度报》报道，此次峰会期间，英国建议政府之间成立一个人工智能小组，相似于处置气候变化问题的政府间气候变化专门委员会，每6个月举办一次会议，英国将分离与韩国、法国共同主办接下来两场。

　　中国科技部副部长吴朝晖率团参会并在峰会揭幕式上发表讲话。中方指出，此次峰会为各国提供了人工智能安全与国际治理议题的主要对话平台与交换合作机遇。人工智能治理攸关全人类命运，是世界各国面临的共同课题。发展人工智能，应该积极提倡以人为本，智能向善，增强技术风险管控，并在相互尊敬、平等互利的原则基本上，激励各方协同共治，加强发展中国度在人工智能全球治理中的代表性和发言权，不断弥合智能鸿沟和治理才能差距。与会期间，中国代表团参与人工智能安全等问题讨论，积极宣介中方提出的《全球人工智能治理倡议》，并与相干国度开展双边谈判。

　　共同应对风险

　　正如米歇尔·多内兰所言，世界正处于一场技术变更中，人工智能的蓬勃发展或将转变人类社会的方方面面，不仅带来宏大机会，也会带来要挟全球稳固和损坏人类价值观的风险。抓住机会、应对风险，全球要共同奋斗。

　　“人们很早就开端关注人工智能的风险问题。人工智能技术历史上历经几轮热潮，受益于大数据、算力等领域的突破，此轮人工智能发展浪潮最显著的特色是研发、使用和落地速度非常快，这就给平衡安全与发展的有效治理带来宏大挑衅。”李艳说，最初，对人工智能风险的预判和管控重要聚焦于军事领域，如无人操作体系、无人指挥体系。随着ChatGPT等通用式人工智能技术突破，人工智能的使用场景愈加普遍，其风险也不再局限于某一特定领域。

　　在今年的结合国大会上，人工智能安全治理是一个新兴的热点议题。7月18日，结合国安理会举办主题为“人工智能给国际和平与安全带来的机会与风险”高等别公开会。这是安理会在结合国总部举办的首次人工智能会议。结合国秘书长古特雷斯警告称，人工智能正在多领域施展作用，但它也可能被怀有恶意的人应用，包含将其用于可怕主义、鼓动冤仇和暴力等。他说，结合国的人工智能监管机构应该标准、监视和执行人工智能规矩，监管方法与其他机构监管航空、气候和核能的方法大致雷同。

　　裴轶表现，目前人工智能技术重要造成三类问题。一是信息安全问题。人工智能须要实时更新海量数据用于模型训练。当前，在个人隐私领域中，相干企业、平台尚未达成遵循知情批准原则的共鸣，存在越权应用等现象。因此，用户如果缺少相干意识，在应用人工智能技术时，很可能导致个人隐私数据泄漏。二是虚伪信息问题。尽管技术中立，但人为投放不实消息或片面事实可能导致人工智能模型产出虚伪信息，也就是“深度伪造”。三是数字鸿沟问题。人工智能具备高效的信息检索和整合才能，虽然为人们的工作和生活提供了极慷慨便，但其产出的真实性和正确性并不牢靠。因此，信息甄别、自主决策才能强的应用者将更擅长应用这项工具，而盲从的应用者则可能为其所害。随着两者应用技术的差距不断沉积，数字鸿沟也就此加深。

　　李艳表现，目前，人工智能技术和产业尚处于发展初期，很多风险还难以评估。但如果等人工智能安全风险明确浮现或爆发后再制订治理规矩，人类将付出宏大代价。国际社会须要给予人工智能一个亲密审慎打量的空间，治理规矩的制订须要在技术和社会的紧密互动中坚持机动性，随时依据实际情形校准政策，从而有效且前瞻性地解决问题。

　　统筹安全与发展

　　为应对人工智能安全领域的风险，各国已纷纭展开举动。

　　10月30日，法国、德国、意大利三国在意大利首都罗马举办高等别会议并发表结合公报称，法德意三国正在制订人工智能战略愿景，切磋欧洲的结合项目和额外投资，并通过出台人工智能监管法规来管控风险。9月底，美国国度安全局发布成立人工智能安全中心，负责监视美国国防和情报部门人工智能才能的开发和整合。6月，欧盟推出全球首部人工智能法案，对生成式人工智能企业提出更高的透明度要求。同月，英国首相苏纳克在访美期间和美国总统拜登发表《大西洋宣言》，批准在人工智能等领域增强合作。

　　此外，2019年，结合国教科文组织宣布了《人工智能伦理问题建议书》，积极思考人工智能伦理问题，推进人工智能伦理原则在全球范畴内的流传与实施。同年，二十国团体(G20)宣布《G20人工智能原则》，强调人工智能的伦理和社会义务。2018年，欧盟委员会提出《人工智能的伦理准则》，强调人工智能的使用必需符合人类价值观和伦理原则，并建议采用举措增强人工智能的监管和透明度，增进其可连续发展。

　　作为结合国安理会常任理事国和国际社会负义务的一员，中国积极参与全球人工智能治理，致力于晋升人工智能技术的安全性、可靠性、可控性、公正性。早在2021年12月，中国就向结合国《特定常规兵器公约》第六次审议大会提交《中国关于标准人工智能军事使用的立场文件》。2023年11月，中国又向结合国《特定常规兵器公约》缔约国大会提交了《中国关于增强人工智能伦理治理的立场文件》。这些主意保持保护人类福祉，坚守公正正义，体现了大国义务担负，为解决全球人工智能治理难题贡献了中国智慧和中国方案。日前，中方在第三届“一带一路”国际合作高峰论坛期间提出《全球人工智能治理倡议》，就各方广泛关切的人工智能发展与治理问题给出建设性解决思路，为人工智能相干国际讨论和规矩制订提供了蓝本。

　　“首届人工智能安全峰会为全球人工智能安全治理搭建了国际交换平台，引起了各方关切，为今后开展合作营造了良好的舆论气氛和国际政策环境。但此次峰会能否为全球人工智能治理搭建一个更具连续性、更有稳固性的机制，还存在较大不肯定性，有待进一步打量。”李艳说。

　　“人工智能安全治理要达成全球性共鸣还面临不少挑衅。”李艳表现，不同国度的国情和发展阶段不同，对人工智能安全治理的好处诉求不尽雷同。当前，人工智能安全领域比拟容易在原则和伦理层面达成共鸣，但是在军事、技术规范等具体领域达成共鸣的难度相对较大。但无论如何，国际社会就此坚持积极的对话交换，总是有助于在发展和安全之间求取最大的平衡。

　　裴轶表现，监管要统筹安全与发展，通细致化立法领域、拓宽管辖范畴、进步法律效率层级等方法，为人工智能的摸索划定原则底线。