就人工智能崛起我们还没准备好似的

人工智能崛起：我们还没准备好

编者按：“人工智能似乎是未来一些年最具颠覆性的技术进步之一，它将塑造未来的地缘战略力量格局和社会发展图景。”这一判断正在成为国际社会的共识。作为新科技革命浪潮中最受关注的一项前沿技术，人工智能将带来重大历史机遇，但是其中的挑战性和不确定性也令各国担忧。正如基辛格博士所言，人类社会还没有为人工智能技术崛起做好准备。

人工智能的优势与潜能

西班牙皇家埃尔卡诺研究所站发表的文章《人工智能与权力》指出，人工智能的最大优势在于它能够解决人类能力有限的复杂问题。面对真真假假的海量数据，人类已没有能力用这些数据确定关系、模式，或者进行推论和预测，因为这些都需要拥有强大的计算能力。

德国《国际政治》双月刊发表的文章《时间问题——人工智能将搅乱世界政治》指出，人工智能具体可以创造多少增长很难预测，但数字肯定不小。普华永道的审计师估计，到2030年，人工智能将使世界经济总量增加近16万亿美元，超过当前中国和印度的国内生产总值之和，相当于德国当前国内生产总值的5倍。多伦多大学教授、《预测机器》的作者阿杰伊·阿格拉沃尔说，人工智能最重要的经济效应在于，它大大降低了预测成本，提高了企业的生产效率。正如电力大幅降低了照明成本一样，人工智能也将使预测未来变得容易得多。

法国《回声报》站发表的文章《人工智能：摆脱成见》指出，在成为威胁之前，人工智能首先是一个进步机遇。文章认为，虽然有观点认为“人工智能具有致命危险”，但是世界不应当因为害怕危险就紧抓住过去不放手，不应当由于过度谨慎就限制进步。人工智能也可能成为一种出色的工具，来帮助我们完成数千年来的目标——更好的生活。事实上，人工智能已开始帮助研究交通事故，更好地诊断癌症肿瘤，降低劳动的繁重性。

文章称，虽然有观点认为“人工智能会造成大规模失业”，但是人工智能带来的不是劳动的终结，而是劳动的变革，一些岗位消失的同时一些岗位正在诞生。过去10年甚至更长时间里，对精通数字技术的工人的需求量一直在悄无声息地增长，如今这种势头正在加快，改变着整个劳动力市场。对社会和情感技能的需求大幅上升，比如团队合作、领导他人、谈判和心领神会的能力。这些人工智能无法进入的职业类型和岗位数量正在增加，尤其是医疗保健、教育、销售、营销和管理领域，离不开人类的情感同化、智力水平以及手工操作。至于其他职业，人类和人工智能可能形成互补关系。比如在放射科，人工智能已经显示出精确诊断一些疾病的能力，因此成为一种出色的辅助决策工具，但医生仍是关键性角色。面对劳动力市场的结构性变化，我们一方面要引导人们选择人工智能时代需要的职业，另一方面要加大培训。与过去学习20年、工作40年不同，人工智能时代的劳动者需要不断学习获得新技术，并在工作生活中提升现有技能。全球数以亿计的工人将需要再培训机会，虽然目前这些机会还很匮乏。只有存在大量经过培训且适应能力强的劳动力，我们才能享受技术发展拉动生产力提高的全部好处。

人工智能的风险与隐忧

劳动力市场的深刻改变或将引发一定社会问题。美国报业辛迪加站发表的文章《在自动化时代工作》指出，估计到2030年，将有7500万到3.75亿人(占全球劳动力总数的3%至14%)需要转换职业类别或失业。如果处理不好，这种变化可能会加剧社会矛盾，导致技能和工资两极分化现象加剧。麦肯锡全球研究所估计，迄今已知的技术不仅能取代全部职业中的5%，而且可以在过半职业中承担部分工作。将被人工智能完全替代的职业，是那些只需要基本认知技能(包括数据输入)或者主要依靠大量数据学习的岗位。除了手工业或技术水平要求不高济南新时期试金仪器有限公司对实验机的知识都是非常准确的的职业之外，还包括会计、金融和法律服务等领域的工作。此外，人工智能也在颠覆商业模式，彻底改变企业内部的组织方式，带来更深层次的社会经济挑战。

借助人工智能修改视频的技术或将助长假使受力时能起到平衡效果传播。西班牙《趣味》杂志发表的文章《谎言的力量》指出，借助人工智能技术，黑客竟然能够将静止图片添加到视频当中，并且收到犹如专业处理一般的效果。人工智能的发展使质量堪比好莱坞大片的虚假视频日益增多，如今在铺天盖地的信息中辨别真伪变得愈发困难，维持对媒体和政治体制的信任也成了问题。类似应用软件变成数字武器的后果不堪设想。假的危害不只是制造一种逼真的假象，骗人落入陷阱，更危险的是社会公信力受损，使人们无法再相信曾经信任的消息来源以及未曾亲身经历的事物。真相与谎言之间的界限越来越模糊不清，也给某些居心叵测者提供了可乘之机。有些极如今都成了织袜的新原料端组织传播假的目的并不只是造谣生事，更是为了在社会中制造恐慌情绪，让传统媒体在受众中逐渐失信。最让我们担心的其实并不是受骗了，而是无法再相信他人。

自动武器或将成为不会疲劳和高效的杀人机器。德国《国际政治》双月刊发表的文章《时间问题——人工智能将搅乱世界政治》指出，借助人工智能实现自我控制的自动武器，或许是该技术最具威胁性的后果。自动武器可能形式多样，从自动黑客攻击到自动驾驶的无人机群。由此产生一系列难题，尤其是人类应该以及能够在何种程度上保留对这种系统的控制。

美国石英财经站文章指出，自动武器拥有很多优势，比如不会疲劳、精确度高、反应速度快、可在人类无法生存的环境下作战等。它们无需多年训练和培养，可以大规模生产。最坏的情况是被摧毁或损坏，而不是被打死打伤，因此如果使用自动武器，也更加容易向公众解释军事作战的理由。

即使所有国家都签署国际条约，像签署不扩散核武器条约一样禁止研制自动武器，那也不可能阻止自动武器的诞生。这是因为两种战争模式存在天壤之别。《不扩散核武器条约》的两大特征决定其效果显著：一是部署核武器的准备时间比较漫长，因此其他签约国完全有时间对违约行为做出反应，实施制裁;二是可以有效核查。但是自动武器恰恰相反：一是准备时间非常短。现在已经有了可用来制造自动武器的各种技术，并且正在公开独立研制。比如，坦克和作战飞机上的大量传感器和摄像头可记录一切，飞行员可以通过计算机重新解读驾驶指令、与飞机交流。只要与人工智能结合，它们立即就能变成自动武器。随着政府和私人实体投入的资金增加，人工智能研究正在取得越来越迅速的进展，研究型实验室和游戏公司都提供了巨大的推动力。二是很难建立体系对自动武器进行有效核查，毕竟自动武器所需的大部分技术和研究成果并不只用于自动武器。因此，自动武器的进攻和防御用途都需要进一步研究，各国必须发展并壮大其威慑能力。即使世界不能避免自动武器，各国也可以防止这类武器用于平民，共同监督并限制使用自动武器。

人工智能视野下的国际竞争与合作

西班牙皇家埃尔卡诺研究所站发表的文章《人工智能与权力》指出，在社会和各行各业中应用人工智能将导致颠覆性的变化，塑造出地缘战略力量的新格局。在这个新的时代，强大的人工智能试图通过为政治、经济和络空间创造机会和风险，来模仿人类的认知能力。因此，世界主要大国展开竞赛，目标是在人工智能的基础研究和应用方面获得领先优势，这是当前和未来国际领导力的一个重要指标。

2017年9月，俄罗斯总统普京提醒说，人工智能是未来，对全人类都是如此。他还说，人工智能提供了“巨大的机遇，同时也产生了很难预测的威胁”“谁能成为人工智能领域的领先者，谁就能主宰世界”。他强调，一旦某个国家获得人工智能技术的垄断地位，将给世界带来风险。为此，他希望国家之间能互相分享人工智能技术，共同发展。这并不是关于颠覆性技术变革的第一个警告。斯蒂芬·霍金曾指出：“它(人工智能)可能是我们文明史上最重大的事件，或者是最糟的事件。究竟会怎样，我们现在还不知道。”从前瞻性来看，我们将面临一个明确的“游戏规则改变者”，这是一个影响力巨大的变化因素，既有积极影响，也有潜在的负面影响。

人工智能的系统互连为络攻击提供了可乘之机，这会对关键基础设施等领域造成重大经济影响。在德国安联保险公司发布的2018年风险晴雨表报告中，人工智能和其他技术的影响是第七大商业风险，高于政治风险和气候变化风险。人工智能增大了机器和算法最终掌握决策权的风险。一些国家利用人工智能对公民和社会进行控制，或加强其在国际舞台上的地缘政治竞争力，包括利用人工智能发动信息战。该报告指出，这些国家的公民可能会失去他们的隐私权。

在安全层面上，存在人工智能暴露缺陷的风险，尤其是当机器人具有自主决策能力的时候，它们将凌驾于人类之上。牛津大学哲学家尼克·博斯特伦强调，比尔·盖茨、埃隆·马斯克以及欧洲议会等机构已经开始评估人工智能的风险，并发出相关警告。

在国际层面上，专家呼吁建立一个联合国下属的人工智能国际机构，负责提示新的风险、探讨道德问题、防止不同国家和民众群体之间出现数字鸿沟，并确保人工智能研究的透明度。

在建立管理人工智能的国际机制并就人工智能相关变化达成共识的同时，世界主要大国纷纷试图利用人工智能的颠覆性力量，在经济、军事和信息三方面获得对其他国家的竞争优势。一份题为《人工智能与国家安全》的研究报告显示，人工智能领域的国际投资自2010年以来每年增长约60%。全球对人工智能的投资，已经超过了对汽车制造、金融服务、能源资源、媒体娱乐、运输物流等领域的投资。有预测指出，2018年，全球20%的商业活动与人工智能相关;到2020年，人工智能将承担企业与客户之间85%的互动。麦肯锡全球研究所的报告《人工智能，最后的数字前沿?》显示，领导数字化的技术巨头将是那些在人工智能方面投入最多的国家和企业。

在军事方面，世界主要大国之间正在争夺地缘战略、地缘政治和地缘经济领导地位。人工智能颠覆性地改变了攻击和防御的能力，就像空间武器、核武器、络战武器和生物武器的作用一样。人工智能有可能在机器人中引入自主或半自主能力，加速普及无人作战飞机的使用，开发以机器人为载体的爆炸装置，并将其纳入武器系统。

人工智能引发的哲学思考

美国前国务卿、国际问题专家亨利·基辛格在美国《大西洋月刊》刊发评论文章《启蒙如何终结》，探讨人们应当如何看待并应对人工智能。他认为，无论从哲学、人类智力乃至每一个层面上来说，人类社会还没有为人工智能技术的崛起做好准备。

数据成了这个时代的统治者

那些能够自主学习的机器，能够通过独特的方式获得知识，并且将其应用于那些可能超出人类理解的领域，这会对人类历史产生怎样的影响呢?

迄今为止，改变现代历史发展轨迹程度最深的技术进步，莫过于15世纪印刷机的发明，它使宗教时代落幕，使理性时代开启。塑造当代世界秩序的思想和行为正是发端自理性时代。

不过，在当下这场全新的技术革命中，当代世界秩序正面临一场颠覆性的变革。我们很难充分判断这场变革的影响，这场变革甚至可能到达顶点，届时我们的世界将严重依赖由数据和算法驱动的人工智能机器人，而道德伦理和哲学规范将完全受到那些机器人的无视。

当年启蒙运动所寻求的，是将传统真理置于具有分析能力的人类理性面前接受检验。而互联则是通过对不断增加的数据的积累和处理来定义知识。在互联时代，人类的认知能力失去了人的个性特征，一切都以数据形式存在，数据成了这个时代的“统治者”。

搜索引擎获得了互联用户信息检索偏好的有关信息，这使其算法能够对搜索结果进行个性化处理，而搜索引擎甚至可能将用户的信息检索偏好提供给第三方，以用于政治或商业目的。

互联用户们变得不再擅长独立思考，他们开始被社交媒体上的各种观点所左右。许多民使用互联的目的，仅在于冲淡内心十分恐惧的孤独感。这些因素削弱了人们形成并维护自身信念的刚毅品质，只有孤独的行者才能一直坚持内心的信念，而创造力的本质，正在于这种对自身信念孤独的坚持。

互联对政治的冲击尤为明显。亚群体获得更多曝光度和更多人的了解，打破了人们以往对何为政治优先事项的认识。但由于这些散乱压力的影响，政治家们无暇思考问题产生的背景，进行未来规划的空间遭受挤压。

互联时代的快速阅读不利于人们进行深度思考。互联对夺人眼球的信息进行放大，而经过缜密思考写就的文章，却在络上难以获得大面积传播。尽管互联的出现为人类社会做出了巨大贡献，但由于其影响利弊相抵，它未来恐怕会将枪口对准自己也未可知。

我们将如何在新世界里生活

互联的出现和计算能力的提高，为海量数据的积累和分析提供了极大便利，人类的理解能力因此获得了前所未有的提升。其中，意义最重大的技术创新出现在人工智能领域。人工智能科学家们正试图将这一技术的应用领域扩大到社会生活的各个方面，包括为医学科学、清洁能源和环境保护等领域带来极大的进步。在不远的未来，将有越来越多的人类工作被人工智能算法所取代。

不过，令人感到矛盾的是，随着世界越来越透明，人工智能算法却越来越神秘。未来世界与我们早已习惯的世界有哪些不同?我们将如何在新世界里生活?我们该如何管理人工智能、如何改进它、如何避免它对人类造成伤害?如何避免比人类更快、更好掌握某些能力的人工智能，使人类的能力趋于退化或使人类的境况趋于恶化?因为人工智能处于不断演进之中，它带来的结果仍然具有某种模糊性和不确定性。但有三个方面值得我们否则深思：

第一，人工智能可能为我们带来意想不到的后果。在科幻小说的情节中，人工智能机器人已经将其创造者列为攻击目标。不过，另一种情况的可能性更大，由于人工智能并不是在一个完整的语境中理解信息，所以它很可能无法正确理解人类的指令。以无人驾驶汽车为例，人类驾驶汽车时需要在每个具体情况下做出特定判断，我们根本不可能预先想到所有情况并事先为其编写程序。比如，当一辆由人工智能控制的无人驾驶汽车，不得不在一位老人和一个小孩之间撞向其中一人时，它会如何选择呢?再比如，当人类都未能就“冒犯”一词的准确含义达成共识时，我们能用什么办法帮助人工智能获得“冒犯”一词的准确概念?

第二，人工智能有能力实现它被赋予的既定目标，但人工智能无法解释它实现目标过程背后的基本原理。纵观人类历史，我们创造了很多理解世界的方法：在中世纪，我们通过宗教理解世界;在启蒙时代，我们诉诸理性;在19世纪，我们通过历史去分析世界;而到了20世纪，我们又找到了意识形态这个工具。至于当下这个我们正在投身其中的新世界，一个最难回答然而也最为重要的问题在于：如果人类个体对客观世界的认知能力被人工智能所超越，如果人类社会再也无法通过自己能够理解的方式去解释这个世界，届时人类意识本身会落入怎样的境遇呢?当人工智能的思想比人类更加深邃、其行动能力比人类更加强大时，由人类制定的法律体系还能对人工智能的行为作出裁定吗?

第三，在实现既定目标的过程中，人工智能可能改变人类的思维方式和价值观。在人工智能涉足围棋领域之前，人类在进行围棋对弈时往往抱着不同甚至是多层面的目的：棋手们所追求的不仅是赢得棋盘上的胜利，他们还希望通过对弈领悟可以应用于其他领域的策略和智慧。而对于人工智能来说，它在棋盘上的目的只有一个——战胜对手。人工智能不是像人类那酸和其他混合物样通过对概念的理解，而是通过数学运算进行“学习”的，具体表现在对算法的微调。所以，在学习如何赢得围棋比赛的过程中，人工智能与人类的思维方在特定环境中式是完全不同的，它已经改变了围棋对弈的本质以及人类围棋对弈的传统思维范式。

人工智能的独特之处在于，它的“思维方式”是人类此前从未想到过的，更是此前从未采取过的。人工智能前所未有的记忆能力和计算能力，是其“思维方式”有别于人类的关键。依靠这两方面的压倒性优势，人工智能可以在人类给它安排的任何游戏中胜出。但对于人类而言，“赢”并非唯一的目的，我们还希望在游戏中享受思考的乐趣。当我们将人工智能的数据处理过程当作思考过程亲自进行模拟，当我们将这一过程得出的结果视为人类思考的结果，那么人类真正的思考能力就有可能退化，而思考能力正是人类认知能力的核心。

近年来推出的人工智能程序“阿尔法零”(alpha zero)，仅仅通过几个小时的自我对弈训练，就获得了人类用1500年才能达到的国际象棋水平。5年之后，人工智能技术将发展到怎样的高度?伦理道德在这一过程中将扮演怎样的角色?科学界和技术界这两个群体都在探索推进人工智能技术进步的边界，但他们并没有花太多时间试图去理解这种技术进步到底意味着什么。他们应该把本文中提出的问题也提给自己，并在今后的研发过程中将那些问题纳入考虑。此外，美国政府应该成立一个由各领域杰出思想家组成的总统委员会，以便他们在国家层面协助制定未来人工智能技术发展的远景规划。有一点是明确的：如果我们不尽快行动起来，过不了多久，我们就行星齿轮减速机、摆线针论减速机、涡轮蜗杆减速机、行星磨擦式机械无级变速机等会发现一切已经太迟了。