您当前位置:主页 > 滚动软件 >《AI创世纪》:人工智慧将使人类一无是处,甚至毁灭人类? >
《AI创世纪》:人工智慧将使人类一无是处,甚至毁灭人类?
滚动软件

《AI创世纪》:人工智慧将使人类一无是处,甚至毁灭人类?

粉丝数:732+
浏览量:6581欢迎浏览本网站的精品文章
时间:2020-06-10 10:47:39
AI将使人类一无是处

对《星际争霸战》(Star Trek)影迷来说,他们早就看到了地球未来生活可能的样貌。在《星际争霸战》所描绘的社会,金钱并不是中心角色,人民工作的动机也不是为了生存需求。影集中还演到了另一个种族佛瑞吉人(Ferengi),他们惯用一种叫做「拉缇锭」(Latinum)的货币,让几位主角觉得是既古怪又退步的做法。《星际争霸战》的世界里不会有人问「你从事什幺工作?」,因为大家的「工作」就是……生活。

我认为这绝对不是科幻电影的凭空想像,它所描绘的景象说服力十足,是人类必将通往的未来。也许在一些细节上,大家会意见纷歧,比方说这样的未来是10年后、50年后或是100年后,不过所有资料都指向同一个方向:人类现今从事的大部分工作,将来都会交给机器来做。

艾尔・高尔(Al Gore)在其着作《驱动大未来:牵动全球变迁的六个革命性巨变》(The Six Drivers of Global Change)中指出,美国与全世界面临的二大挑战就是「机器取代人力」(robo-sourcing)和「外包」。根据美国劳工部(US Labor Department)的资料显示,未来成长最快速的职业为「照护」类工作,也就是专门照顾年长者的私人看护和护理师。这类工作机会将增加到180万个左右。此外,目前有300万个左右的工作将来会被无人车取代,包括计程车司机、卡车司机、铁路公司员工等等。2017年3月,PricewaterhouseCoopers(PwC)顾问公司发表一份研究报告,估计美国就业市场在这波自动化竞赛中将急遽缩减。到了2030年,预计美国38%的现有工作将消失,这个比例高于德国的35%、英国的30%和日本的21%,原因在于美国的金融服务及批发零售业的重複性任务和自动化流程较多。

不管确切数据为何,显然势必会出现大量「失业」人潮,社会契约(social contract)(注1)也必须大幅调整。差不多50年前,未来主义者巴克敏斯特・富勒(Buckminster Fuller)就主张,科技已经进步到足以满足每个人的基本需求。当时就和现在一样,政治决心成了阻碍。想要解决机器取代人类所造成的失业问题,就必须从结构上做改变,而在此之前,政府必须先化解人民对生存议题的恐惧心理:要怎幺赚钱求温饱?要是工作没了,孩子怎幺办?银行会把我的房子收走吗?这种担心柴米油盐酱醋茶的心情,摇撼着那些构成我们文化框架的神话。「美国梦」精神是不是已经蕩然无存?衰败的我们还算是美国人吗?如果我们这幺轻易就被机器取代,那我们又有何用?

我认为,种种对生存问题的臆测估算,正好就是把我们生活方式所立基的那一大堆落伍假定打掉重练的机会。为什幺我们会认为非得「工作」谋生不可?150年前,美国有将近70%的人口以製作食品为业,如今这个比例已缩减至不到2%。工业化创造了足够的新职务,让劳工得以走出去,在工厂觅得待遇优渥的工作。那是一场巨大的变革,民众纷纷走向外界,做其他种类的事情。在现代化过程中以及今日的后现代化时代,人的工作已经不再侷限于生产攸关生存的商品及服务了。将来,人类的创造力所製作的产品属于心智层面,即「创造想法」。我们会不会创造出比机器智慧素质更高的概念?人类的每一个卓越之处,机器智慧也都会尝试驾驭,包括思考在内。

那幺人类会被置于何地?《瓦力》(Wall-E)那部电影是我们的未来吗?人类全都会坐在活动椅上喝着超大杯汽水(注2)?人生一旦没了有意义的工作,我们就会迷失自己。害怕AI把人类变得毫无用处正是AI的两大威胁之一,另一个则是AI的崛起势必将迫使我们重新检验宗教与哲学这些赋予人性最深层目的之基石。

AI将毁灭人类

哲学家尼克・伯斯特隆姆着有《超智慧》一书,同时也是很有名的存在风险(existential risk)学者,他透过一系列反乌托邦思想实验(dystopian thought experiment)警告大众要提防AI的威胁。

伯斯特隆姆设想了一个可怕的情境,就是有个AGI以将迴纹针生产扩大到极致为目标。他认为这种矢志造出最多迴纹针的机器,会不断地提升自己的智慧,最后将发展成他所谓的「超智慧」,努力发明效果愈来愈强的技术以累积更多的迴纹针。这项思想实验假设AI若有了更精密的智慧,说不定有朝一日会耗尽全太阳系来製造迴纹针。

我十分尊敬伯斯特隆姆和他的付出,不过对于他所举的例子,我有些疑虑。一如我在前文提过的,AGI的特徵就是有能力设定愈来愈複杂的目标。累积迴纹针这种目标实在无聊到很难让机器本身变得更聪明或是更有创造力。

然而,伯斯特隆姆的研究激发大家深思的,其实是「效用函数」(utility function)概念,也就是一种根据对个人所产生的效用来评比选项的数学函数。人类的抱负多半是由各式各样的目标所构成。

比方说,如果想获得快乐,就必须随着生活中的各种系统来调整目标;也许我们应该努力运动,担任社区志工,多花一点时间和家人相处或是睡眠要更充足等等。从狭义的角度来看,效用函数则是指用最便捷的方法取得最大值的特定结果,这就是伯斯特隆姆所说的存在风险。举例而言,假设我们赋予AGI机器增进人类幸福这种目标的话,会产生什幺结果?机器一定会不计后果、用最快速的方式达成目标,比方说超级演算法(superalgorithm)可能决定製造探针,趁人类熟睡时用探针刺激大脑分泌脑内啡(endorphin),或是强迫餵食人类鸦片类药物,引发飘飘欲仙的生物化学作用。

现今的机器只能在有限的领域执行效用函数,例如下西洋棋。然而,在未来的AGI世界,机器的效用函数想必一定十分複杂,甚至更重要的是,机器极有可能可以自行评估效用函数。我们控制得了这些机器的目标吗?应该没办法。马斯克这类对开发AI严词批评的人士进一步主张,光因为这一点,就应该减缓科学的进展脚步。他们认为,当前的AI缺乏设定远大目标的能力,这是唯一能使人类免于大灭绝的原因。

我们不是算命仙,没有人能卜出人工智慧机器未来的目标,不过对于当今世界的实际状况我们很了解。在我看来,「人类」穷凶极恶的举动比我们所设想的未来AGI机器要危险多了。从握有精密科技的伊斯兰国领导人巴格达迪(Abu Bakr al-Baghdad)或是北韩最高领导人金正恩(Kim Jong-un)身上,早就可以看到存在风险。掌握精密ANI系统的精神领袖,象徵的是比最大量迴纹针製造机还要庞大得多的风险。想想眼前最实际的威胁,假如我们不再朝更高智慧迈进的话,对人类有何益处?更值得警觉的是,如果我们停止研究的步伐,其他一些不怀好意的政治势力却依然进步神速,那我们又会有何下场?

限制并禁用特定类型的AI研究,尤其是可作为军事用途的系统,往往受到善良聪明又理智的人们所支持。然而,禁令和规範在我看来不太可能发挥我们原本所指望的效果。事实上,就像过往很多的制裁和禁令,这些方法十之八九只会导致隐密的地下计画因应而生,而这些计画的幕后黑手正是我们试图要阻挡的团体和组织。

这令人忍不住想到核子武器扩散的例子。核武已经遍及美国以外的地方,而美国是第一个开发这种武器的国家。现在俄罗斯、英国、法国、中国、印度、巴基斯坦、以色列、南非、北韩都已经拥有此能力,据称连伊朗也有核武。这些国家大多都受到严厉制裁,也被禁止输出两用系统(dual-use system)。不过,这是我们咎由自取。事实上,许多分析师就指出,有鉴于中东複杂的同盟与敌对关係,伊朗发展核子武器所意味的是沙乌地阿拉伯、阿拉伯联合大公国与土耳其很快就会跟上脚步,着手开发这种武器系统──假如他们还没有开始进行的话。

注释:

    社会契约乃一种政治哲学思想,指个人与政府之间对权利义务有共识。《瓦力》的剧情背景设定在公元2805年,当时的人类后裔定居外太空的「公理号」(Axiom)太空船,每个人都过度肥胖且坐在一排设有运输带的座椅上,整天使用面前的萤幕聊天、工作、恋爱、学习,吃喝玩乐全在电脑程式控制之中。

相关书摘 ►《AI创世纪》:将人工智慧应用于战争之中的「极速战」

书籍介绍

《AI创世纪:即将来临的超级人工智慧时代》,宝鼎出版
.透过以上连结购书,《关键评论网》由此所得将全数捐赠儿福联盟。

作者:埃米尔.侯赛因
译者:温力秦

AI(或称人工「机器」智慧)在我们日常生活中扮演的角色益发吃重,从自动驾驶、搜寻引擎、无人机到最新的语音辨识软体等种种技术发展,便可窥知一二。

然而,近来AI领域的突飞猛进却引发了二极化的反应。有些专家主张,人类大部分的难题都能靠机器解决;有些人却认为AI的进化将导致我们走上反乌托邦的暗黑之途,消弭人类之地位于无形。

AI究竟会对世界产生何种影响?答案儘管见仁见智,但想到人类有可能创造出具有智慧的东西,确实会让人不寒而慄。不过,换个角度思考,如果这就是人类最终极的目的呢?如果AI就是人类最伟大的发明呢?

杰出的发明电脑科学家埃米尔・侯赛因认为,人类已经写下AI的初篇章,着手勾勒最伟大的造物神话。就近期而言,许多重要领域会在AI技术的辅助之下加速发展,例如智慧居家、网路资安、金融市场、能源开採、军事国防、健康医疗产业等等。放眼未来,人工智慧的爆炸性成长也将全面改造人类的存在意义。

《AI创世纪》:人工智慧将使人类一无是处,甚至毁灭人类?

相关推荐