360联合天津智慧城市数字安全研究院发布《全球人工智能安全治理》报告******
2023年1月10日,360天枢智库、天津智慧城市数字安全研究院、网络空间国际治理研究中心三方联合发布《全球人工智能安全治理》报告,报告站在全球视角的宏观高度纵览、分析和解读人工智能安全治理问题,提出人工智能发展面临十大安全挑战,旨在探索既能发挥人工智能技术效益又能控制其安全风险和负面影响的治理之道,是中国学术界和产业界对人工智能发展与安全的一次思想碰撞与深度探索,对人工智能安全治理具有积极指导意义。
在人工智能加速智能化变革的同时,针对人工智能的伦理规范、风险框架、以及治理理念和模式的探索成为各国学术界和政策界的重点工作。360首席安全官、天津智慧城市数字安全研究院院长杜跃进称,人工智能作为中、美、欧等国家或地区都在积极发展的关键新兴技术,其在发展过程中所产生的安全挑战也更为复杂多元,世界主要国家和地区已经将安全治理列为各自人工智能战略的优先事项。
目前,各国普遍关注的人工智能安全问题共十类,包括网络安全问题、企业合规问题、可解释性问题、隐私安全问题、声誉和伦理问题、未来劳动力问题、公平性问题、人身安全问题、社会稳定问题、以及国家安全问题。而以上挑战映射到人工智能的研发和应用过程,又可以划分为人工智能自身安全、衍生安全、以及人工智能赋能安全等核心安全挑战。
报告显示,作为一种数字技术,人工智能“双刃剑”特征明显,不仅自身存在数字安全威胁和隐患,随着人工智能工程化、场景化、平台化落地不断加快,人工智能安全需求已经超越单纯技术范畴。面对日趋复杂的安全挑战,人工智能安全治理难以一蹴而就,只有在实践中不断摸索,才能将人工智能安全风险遏制在可控范围。
报告对各国人工智能安全治理模式进行了深入剖析,针对上述问题,报告主要发现:美国流派在人工智能安全治理上采取的手段是在人工智能技术部署、使用与监测的全过程中都进行验证与监管,建立与之配套的规范体系;欧盟流派则更寄希望于运用监管框架与信任体系来对人工智能的安全进行规制,其规制更倾向于人权方向;相较美国与欧盟,中国流派的人工智能安全治理致力于形成内含研发、管理和应用的全流程安全保障体系,涵盖基础框架研制、基本安全原则、供应链管理实践指南、安全服务能力、应用领域的标准研制等各个方面。
为了避免人类社会发展被技术创新所“反噬”,也就是落入所谓的“科林格里奇困境”,产学研各界以监管和设置可操作性原则为主导,通过治理实践凝聚共识,探索人工智能安全治理的思路与模式。报告详细介绍了业界通用的各类风险治理思路,首先是基于未来风险预防的影响评估模式,其次是基于自主性原则的元监管模式,然后是基于透明追踪的AI系统预警模式。并由此细分出以用户为考虑重点的参与性设计和以政府为主导力量的敏捷治理两条路径。
在中国,360等多家人工智能龙头企业以自身实践构建行业安全案例,走出了技术赋能、行业规制、平台监测的多种道路。其中,360承建了科技部牵头成立的“安全大脑国家新一代人工智能开放创新平台”建设,集中解决各类人工智能发展问题,引领人工智能安全生态建设。
作为报告联合发起方,天津智慧城市数字安全研究院依托于新一代人工智能创新发展试验区核心区——中新天津生态城提供的丰富应用场景,紧紧把握新型城市发展规律和机遇,致力于促进人工智能与经济社会发展深度融合,助力打造“智慧城市国家级标杆区”。
随着数字经济成为改变全球竞争格局的关键力量,人工智能产业将得到更大发展。同时,人工智能安全治理也将得到全世界的关注和推动,《全球人工智能安全治理》报告作为相关领域的权威论著,也将为人工智能产业的健康发展贡献一份重要的力量。
东西问·中外对话|恢复面对面沟通,中美关系将取得实质性改善吗?******
继中美元首11月在巴厘岛举行会晤后,本月11日至12日,中国外交部副部长谢锋在河北廊坊同来访的美国国务院亚太事务助理国务卿康达、白宫国安会中国事务高级主任罗森伯格举行会谈。这是两国工作团队的又一次面对面沟通。中国外交部发言人12日表示,双方一致认为会谈是坦诚、深入、建设性的,同意继续保持沟通。
中美如何把握好当前的时间窗口,更好地促进对话和交流,推动两国关系重返稳定发展轨道?中新社“东西问·中外对话”邀请美国战略与国际问题研究中心(CSIS)高级顾问甘思德(Scott Kennedy)和北京大学国际关系学院教授、美国研究中心主任王勇展开对话。
王勇表示,中美两国领导人巴厘岛会晤之后,中美关系存在着一种“重置”的可能性。他认为,至少中美现在都感到需要去管控彼此的分歧和竞争,争取在可以合作的领域加强合作和沟通。
视频:【东西问·中外对话】北大王勇教授 :中美科技创新不是“零和游戏”来源:中国新闻网
不久前亲身到访中国,与北京和上海等地各界人士展开深入交流的甘思德认为,要解决两国当前存在的“回音室”效应,必须有面对面的交流,只有两国学者等各界人士更多往来于对方国家,才能有更加丰富、公开的对话和交流。
对话实录摘编如下:
中新社记者:中美双方在科技创新领域是不是“零和”状态?
王勇:中美之间科技创新符合市场规律,一直互补互促,你追我赶。过去20年以来,美国的资本投入、技术、理念极大促进了中国创新企业的发展,也收获了巨大的利益。借助中国市场,中国企业在大数据、人工智能、互联网经济方面取得非常大的进展。
9月1日,2022世界人工智能大会在上海拉开帷幕,集中展示全球人工智能发展成果。 中新社记者 汤彦俊 摄尽管目前两国存在很多竞争,但在产业创新方面,中美仍是互补的,有非常多的共同利益。就拿芯片产业来说,中国占到全球芯片消费的60%左右。美国目前加强所谓的芯片供应链弹性,让其他的国家和地区在美投资。但最后如果中国不买美国的芯片,美国的芯片企业就失去了中国的市场,会对美国芯片制造业与研发造成非常大冲击。最后由于利润的下降,芯片研发的速度会放慢,又反过来损害美国所谓的国家安全利益。
如果单纯从经济和市场的角度来看,中美之间合作会继续进行。遗憾的是,美国政府正在用政治和国家安全的逻辑取代经济和市场的逻辑。希望美国纠正这种偏执的决策思维方式,选择遵循市场的规律。
甘思德:要恢复比较稳定的关系,强调比较优势,加强科技合作等,两国都要做一些让步和调整才行。
中新社记者:新冠疫情以来,中美之间的面对面对话减少,沟通渠道不够理想,经济领域存在有限“脱钩”的风险,民间层面的人文交流和往来也受阻,我们应该如何改善这个状况?
甘思德:我发现华盛顿和北京处于一个“回音室”的状态,无法得到新的一手信息,所以很难改变这些共识。因此,双方的误解增加,感情下降,日渐疏远。
要解决这些问题,必须要有面对面的交流,通过网上的交流完全不够,反而会增加误会。只有你愿意登上飞机,到别国待一段时间,融入社会进行交流,你才有机会真正地听到别人在说什么,知道他们为什么作出一些选择。
我们需要王勇教授到美国来,美国的中国问题专家去中国。只有我们这么做,才能有比较丰富、公开的对话和交流。
视频:【东西问·中外对话】美智库专家:美中需增强面对面交流,打破“回音室效应”来源:中国新闻网
王勇:甘思德教授上次来北京访问,是在疫情之后,在美国学者当中,至少是最早的(一批学者)之一。对于促进恢复中美之间的人文与学术交流起到非常大的作用,我个人对他的勇气和耐心非常佩服。
如果甘思德教授的同事能发出邀请,(如果)条件允许,我非常乐意跟其他中国学者一道访问美国,继续我们的对话。
中新社记者:近来中美之间似乎释放了一些希望重新规划和定位双方关系的信号。两位如何预判未来中美关系走向?
甘思德:我在北京和华盛顿碰到的好多人已认识到这点,两方已经知道必须加强沟通,也有足够的政治空间进行对话,在某些问题上调整自己的政策。
中共二十大结束到美国中期选举结束之后,中美关系开了一个窗口。我们要抓住机会,谈一谈该如何减少误解,对某些具体问题采取对策,提高双方的互信。应该抓住中美元首在巴厘岛会晤的机会,加强沟通。比如说,我们能不能对经济问题进行定期的磋商。以前有各种各样的机制,例如中美商务部的定期开会,一年一次的两国政府经济与战略对话。我肯定是比大部分在华盛顿的人,要乐观一些。
王勇:现在受到疫情和美国国内政治的影响,中美实际上是缺少沟通和战略互信。但从理性的角度来看,中美两国之间经济优势互补,是天然的合作伙伴。作为安理会两大常任理事国,中美对于地区和全球和平与稳定负有特殊的责任。中美之间存在着非常大的相互学习借鉴、开拓文明互鉴的空间。
中美之间的出路就是增进相互理解,相互欣赏,甚至相互赞美,看到对方的优点,学习对方的长处,在自己的治国理政当中避免不好的地方。基于这种善意和理解,中美关系还有很多出路。我对此相对谨慎乐观。
中新社记者:美国国务院亚太事务助理国务卿康达、白宫国安会中国事务高级主任罗森伯格此次访华,与中国外交部副部长谢锋举行会谈。如何看待会谈的作用?会谈能够给中美关系带来实质性改善吗?
王勇:中美两国领导人巴厘岛会晤之后,中美关系出现了比较大的变化,存在着一种“重置”的可能性。至少中美现在都感到需要去管控彼此的分歧和竞争,争取在可以合作的领域加强沟通和合作。
中美关系之所以出现这种变化,一方面是国际社会的期望,希望中美作为两个大国能够坐下来,为稳定关系,减少双方竞争失控可能对地区和国际秩序所造成的破坏而努力。另一方面, 中美作为全球最大的两个经济体,在稳定和防止全球经济进一步下滑方面负有特殊责任。双方有理由加强宏观经济协调,在能源和粮食安全等方面寻求合作,同时在气候变化等全球性问题上也可以加强合作。
反之,中美之间如果不能管控分歧、竞争,导致失控、擦枪走火,将最终损害两国的利益。从这个意义上讲,减少误判、管控分歧,为竞争装上“防护栏”非常重要,符合双方的利益。
(文图:赵筱尘 巫邓炎) [责编:天天中] 阅读剩余全文() |