霍金遗作警示AI的未来之“患”

经济参考报2018年10月18日09:34分类:英国

人工智能(AI),是斯蒂芬·霍金生前热衷谈论的话题之一。他的遗作《对大问题的简明回答》于16日发布,文中对人类未来提出了以下问题:人工智能会比人类聪明吗?宇宙里有其他智慧生命吗?地球未来面临的最大威胁是什么?上帝存在吗?“大爆炸”之前发生了什么?

“超级人工智能的出现将成为人类有史以来最好或最坏的事情。”在霍金看来,人工智能的最大风险并非恶意,而是能力,一个超级聪明的AI将非常善于实现目标,“如果这些目标与我们的目标不一致,我们就会陷入困境。”

在霍金看来,人工智能很有可能成为一种不受人类控制的新物种,人工智能时代的来临将快于我们的想象,如果机器有了自己的思维能力、动手能力,这意味着它已经是一个有生命、有思想的个体。“人工智能能以不断加快的速度重新设计自己。而人类则受制于生物进化速度,无法与其竞争,从而最终被超越。”

“对于智能时代的到来,我感到了一丝恐惧。”霍金一方面从自己那张轮椅中感受到了人工智能的神奇,另一方面也为人类越来越依赖人工智能而担忧。

从全球范围看,人工智能的热度越来越高,渗透到日常生活的程度也越来越深。全球科技商业预言家、畅销书《失控》作者凯文·凯利认为,未来20年,全球最重要的技术就是人工智能,而英国帝国理工学院的人工智能学者马克·戴森罗克说:“如果人工智能以这种速度发展下去,我们或许在未来10到20年里就能看到电影《钢铁侠》中那个人工智能助手贾维斯。”

作为物理学家和天文学家,霍金为人类研究人工智能提供了一个好莱坞大片般的视角,足以满足浅层科幻爱好者的好奇心。如果换成历史学家,又会如何看待人工智能和人类世界的未来?

著有《人类简史》、《未来简史》及《今日简史》等热门书籍的以色列历史学家尤瓦尔·赫拉利一直保持着较高警惕。“我们开始生产半机械人和完全无机物的生命形式。”赫拉利说,如果人类不小心的话,最终可能落入一个由超智能但完全无意识的实体所主宰的世界,“这个实体在任何任务中都能超越我们的实体,但却不能感受到爱,不能欣赏美,也不能体验快乐”。

这位研究了人类社会整个发展进程的学者坦言,没有人知道2050年就业市场会是什么样,但肯定与今天完全不同,人工智能和机器人技术将改变几乎每一个行业。现在人们从事的许多工作,到2050年都可能会消失:制造衬衫、驾驶出租车、诊断疾病、销售保险、教书育人等等。

赫拉利在《今日简史》中说,这有点像19世纪汽车取代马车时的情景,当时有许多马车夫转行当出租车司机,遗憾地是,我们可能不是那些还有其他就业选择的马车夫,而是被彻底淘汰的马。

“不过,2050年就业市场的特点很可能是人类与人工智能的合作而非竞争。”赫拉利说,从警务到银行等各个领域,“人类+人工智能”的表现都将超越单纯的人类或单纯的计算机。就趋势而论,人工智能不只是让计算机更加聪明、运算更快,还会在生命科学、社会科学方面取得突破。“我们越了解是哪些生化机制在左右人类的情感、欲望和选择,计算机就越能分析出人类的行为、预测人类的决策,并最终取代司机、银行经理和律师等。”

不过,对人工智能持乐观态度的大有人在,比如著有《终极智能》一书的作者,美国企业家、发明家阿米尔·侯赛因。他认为宇宙一直在等待被更多的智能生命所感知,如今人类即将进入感知机器与人工智能的时代,这一等待终于要告一段落。对人类来说,人工智能不是一种威胁,而是我们追求知识的又一个阶梯。“我们可以将未来的人工智能比喻成思想中的‘虫洞’,通过与它们合作,我们可以探索突破进化限制的思想空间,可以获得宇宙中隐藏得最深的知识,最终我们可以变成新生命的创造者。”阿米尔·侯赛因说。

总之,与牛顿、达尔文等人类发展史上的大师们一起长眠于伦敦泰晤士河畔西敏寺的霍金,又一次激起了世人对人工智能的思辨:“我们站在一个美丽新世界的门槛上。这是一个令人激动的、也是危险的位置,而你们就是先驱者。”霍金已经故去,而活着的你我却有机会见证一切。(王龙云)

新华社民族品牌工程:服务民族企业,助力中国品牌(广告)

新华社品族品牌工程

[责任编辑:王静]