人工智能不会做什么:100亿人类与100亿机器人共存的未来

good

大多数棋手都斩钉截铁地表示了否定,认为那一天不会到来。 P22

那时候,人类就不会再有与人工智能一较高下的想法了。 P23

在制作这档节目之前的2015年1月,我们还曾制作过一档由5期节目组成的系列特别节目《我们的未来》,并在节目中描绘了在到达技术奇点的2045年,世界将会是怎样的景象。 P24

而各章的末尾的“报告”,则由中井导演根据采访成果,进行客观地解说,并对关联话题进行补充。 P25

这样的人物被Al-phaGo击败,世间所受到的震撼可谓非同一般。 P27

那时的我说什么也想不到,李世石会在这场对弈中落败。 P28

我想从国际象棋的行子中,应该同样可以看出这人的思维方式。 P29

令人惊叹的是AlphaGo的运行速度,它可以以极快的速度完成每一场比赛。 P30

例如IBM公司在1997年开发的国际象棋程序“深蓝”,它曾在这一年的系列比赛中打败了当时的世界冠军、俄罗斯的加里·卡斯帕罗夫(Garry Kasparov)。 P33

这一定律是关于电脑发展进步的经验法则,根据这一定律,在空间不变的情况下,集成电路的密度一年半增加一倍,所以电脑的计算速度也会以指数级急速增加。 P34

听说过深度学习这个词的人恐怕不少。 P35

但是,如果通过50个人来传递这句话,会得到怎样的结果呢?从第一个人开始,在若干次的传话之后,内容很可能在不知不觉中变成了“明天去日本桥的百货店买东西”这类与最初的信息毫不相干的东西。 P36

在我看来,这就是误差反向传播算法的本质。 P37

其中最令我惊叹的,是美国某个城市里发生的一件事。 P38

由这些例子可以看到,人工智能正在不断渗透到我们社会生活的各个角落。 P39

就在因特网出现的前后,将棋界也发生了翻天覆地的变化。 P40

在那之后,我与认知神经科学方面的学者也有过很多次接触的机会,并一直对人工智能相关的发展状况进行了追踪。 P41

听说库兹韦尔也正在携手谷歌合作进行研究,那么他这些看来“不可轻信”的观点,恐怕是相当的可靠。 P42

在将棋中,作为“算步”的前一阶段,首先要做的是删除那些不用去想的棋步,在进行这项工作时,对棋手来说非常必要的素质就是直觉。 P43

我认为,这个策略网络的作用,很有可能就相当于人类的直觉。 P44

在目前的人工智能研究中,通用性是一个非常重要的课题。 P46

过去曾有“将棋程序没有通用性”这种说法,因为人们普遍认为,无论是把其他领域的程序用到将棋上,还是反过来在其他领域应用将棋程序,都是不可能实现的。 P48

不过我想,如果公开AlphaGo的检索部分的设置,将棋程序和国际象棋程序一定也能够应用。 P49

虽然我不知道Alpha-Go的程序与这些案例有多大关联,但这家公司能在短时间内取得这样的成果,不得不说令人震惊。 P50

那么,就让我来说明一下,人类棋手在与电脑将棋对战时,需要直面怎样的“违和感”。 P51

所以,不熟悉围棋规则的工程师也可以开发AlphaGo。 P52

之所以是三子,是因为根据现在的计算处理能力,这个数量是有效的。 P54

之前提到的巡逻的事例也是如此。 P55

当然,也可以说这是因为将棋程序不像人类那样有盲点,所以能够自由地选择下法。 P56

之前讲过,人工智能为巡警指出了合适的目的地,但是一旦将决策权完全交给人工智能,也许人类自身的直觉就会钝化。 P58

这样一来,人们就需要对软件给出的评判进行思考,判断要对软件的评判参考到什么程度,接下来应该怎样进行选择。 P59

所谓第二意见,是医学界的一个说法,指患者不仅仅听取一名医生的意见,还听取其他医生所提供的“还可以这样诊断(或治疗)”之类的建议。 P60

想要决出高下,就牵涉到能否熟练运用软件,以及如何对包括数据库在内的程序本身进行充分利用。 P61

对人工智能的算法进行思考和学习,得到新的创意想法——例如全新的审美(详见第二章),这样的利用方法才更加有建设性,更加意义深远。 P62

也就是说,人们可能会需要一个人工智能版的池上彰[3]先生。 P63

天气就是其中的一种,政治方面的判断也与此类似。 P64

在关于人工智能的演讲或对谈中,我曾提到过:“人工智能无论怎样进化,都无法创造出船梨精来。 P65

茂木先生还问了这样一个问题:如果人工智能的智商达到4000,社会会是怎么样的?到那时候,社会的形态可能会发生翻天覆地的改变。 P66

他让人工智能学习如何玩游戏之后,人工智能拿到的分数很快就超过熟练的老玩家。 P68

这恐怕就是彼时刚开始引起世人关注的深度学习的本质了。 P69

”两人的寒暄都非常简单,实在看不出来是初次见面。 P70

采访当天,我们也提到了人工智能对社会可能带来的消极影响,哈萨比斯先生时常认真地点头表示:“我知道会出现这样的问题。 P71

那么,这个软件是依靠怎样的算法来运行的呢?其根基正是所谓的深度学习。 P72

从上述例子来看,拥有这种超强识别能力的人工智能,将来甚至很可能会代替医生等需要高度专业知识的职业。 P73

支撑深度学习的神经网络,正是根据人类大脑的网络结构获得的灵感。 P74

第一个阶段是筛选出下一步的范围(value network,价值网络);第二个阶段是根据不同的局势,判断应该预读到接下来的第几步(策略网络),以此来控制计算的深度,从最少的必要深度中,选出现阶段的最佳下法。 P75

GPU与IoT深度学习技术的进步令人瞩目,但其概念却并不新颖,实际上在30年前就已经诞生。 P76

通过这种结构,可以实现自动识别、自动防御、远程测量等功能。 P77

与羽生先生一起采访,总是会发生令人惊奇的事件。 P78

哈萨比斯先生有一句话令人印象深刻,他说:“人工智能很容易驾驭音乐等数学性的领域。 P79

不仅如此,有些人类可以轻轻松松就做到的事,人工智能却完全做不到。 P81

因此就像我在第一章所提到的那样,我们必须以人工智能的判断并非绝对准确为前提,思考如何更好地来使用人工智能。 P82

这是因为棋手本身很少会去数步数。 P83

这是棋手经过长期训练积累所获取的技能。 P84

但到了这一步,我们会遇到计算量呈现出爆发式增长的问题,毕竟,下法的可能性的数量,是每一步下法的可能性数量不断相乘的结果。 P85

就是说,要特意避开对“这个飞车是动还是不动呢”这类具体下法的分析,而是要着眼于从开局到终局的流程进行战略性的思考。 P86

而且由于年轻时的记忆力很好,又很有干劲,就能够冒险。 P87

因为体力好、劲道足,所以还可以应付。 P88

但是,花费的时间多并不意味着选出的下法就越好,这一点是最难的。 P89

这一点与围棋有着很大差异。 P90

所以想要在将棋方面变强,最重要的是什么呢?如果问我的话,我会回答:“瞬间判断出下哪步是错的。 P91

因为他们常常不按常理下棋,棋局的形势也乱七八糟,所以旁观者很难对局面进行正确的评价和认识,也很难记住。 P92

将问题进一步深化——为什么接近基本形的局势更容易被记住呢?因为棋手总是会通过大致的情形把握局势,将布子简化来对盘面进行记忆。 P93

能否感受到妙招之美,是判断棋手是否拥有将棋才能的关键。 P94

深蓝获胜的关键在于国际象棋一直以来就有记录棋局的习惯。 P95

据说,它通过这种方法学习了近3000万手的局面和棋步,又通过与自己对局,收集到了在统计学上可以信赖的数据信息,从而变得更加强大。 P96

对于将棋软件来说,评价函数的正确程度是十分重要的,我听说,有些程序甚至会设置300多种评价指标。 P97

从10年前开始,收费的将棋软件就基本卖不出去了,因为免费的将棋程序实在是太强了,付费版根本没有市场。 P98

这是为什么呢?我认为,这与人工智能没有恐惧心有关。 P99

这种人类思考的盲点或死角,似乎是我们与生俱来的防卫本能或者说生存本能造成的。 P100

通过这片狭小的视野,我们根据自身经验培养出的审美感受到不合逻辑、形状不好等直觉或大局观。 P101

”因为那样一来,人类就对人工智能的真实想法一无所知了。 P102

这个网站基本上已经成为了将棋软件互搏的场所,如果有人类参加,反而会被认为是不合常理。 P103

与借来的软件不断对局,不断分析,就可以预测这个程序会选择某一些下法的几率,并在面对不同的局面时,确立相应的对策。 P104

到最后,棋手甚至会怀疑自己到底是不是在研究将棋。 P105

举例来说,现阶段人工智能的课题中,有一个问题叫做水平线效应(horizon effect)。 P106

这种水平线效应对于电脑程序来说,很可能是致命的弱点。 P107

据说,打败了国际象棋冠军卡斯帕罗夫的深蓝中,也包括了这种程序。 P108

也就是说,人类不仅要学习人工智能导出的结论,而且要通过这些结论认识到自身思考的盲点,改变自身的审美。 P109

日本江户时代成书的《将棋图巧》,是一本集结了经典残局的书。 P110

或者说,我当年所使用的学习法,可能在今后会变得毫无意义。 P111

在其他的领域,学习者通常会有教练、课程安排,或者可以根据值得信赖的教科书来进行训练。 P112

而如今,通过在网上进行大量的对局而成为专业棋手的人,也已经有十几位了。 P113

随着技术不断发展,今后也许还会出现使用软件练习来变强的一代人。 P114

不过,记住历史,并不等同于有一个棋谱的数据库就好了。 P115

”不过,由于数据库的出现,对局的环境已经发生了改变。 P116

我自己虽然一般来说不会回顾自己的棋谱,但偶尔见到了过去自己的棋谱时,有时候难免会觉得“啊,这个棋形当时觉得很美,现在怎么这么丑呢”,甚至觉得丑得难以接受。 P117

结果,棋手们现在对矢仓唯恐避之不及。 P118

我经常被人问到“你认为自己与人工智能对局能赢吗”这样的问题。 P119

羽生先生同时与三个孩子进行了将棋对局。 P121

以表明亲族关系的家谱为例。 P122

我们会不自觉地将性质完全不同的信息整合为完整的记忆。 P123

如今,在世界各地,解析人脑算法的研究都在加速进行。 P124

要做需要丰富的创造力的工作,对于机械来说也许太难了吧?”哈萨比斯先生认为,只要脑是一个物理系统,其内部逻辑和现象在理论上就可以被电脑完全模仿。 P125

项目组为了写出星新一风格的作品,让人工智能解析了1000部作品。 P126

不过他也表示自己通过这件事发现,曾经认定的人工智能的“不可能”,其实是有可能实现的。 P127

这类话题常常会出现在与人工智能相关的演讲或是对谈中,很多书里也会提到。 P129

至少,这款人工智能还没有达到能让饭田先生自己认为“很妙”的程度。 P130

那位老师能够清楚地看穿我的下法,同时一直在对局中保持着只胜我一两目的优势,对我进行指导。 P131

在采访中,我得到了与该公司董事长孙正义先生对谈的机会,趁机向他询问了开发Pepper的初衷。 P133

不过,让人工智能能够通过独立思考解决各种问题,并像人类一样拥有喜怒哀乐等感情,实现这些功能,恐怕是制造像人类一样的人工智能必须逾越的难关。 P134

Pepper在第一次的对局中输给我之后,本来是有点沮丧的,但当它用摄像头和麦克风认识到每次自己输掉时周围的人就会很开心之后,它的“情绪”看起来就渐渐好转了。 P136

不过,Pepper的开发组对这部分也已经做了考虑,对这类情况做了一些初步的设置。 P138

如果只是事先的设置,那么就算这个机器人在当时的情景下做出了非常类人的行为,也未必能在其他场景下做出同样的行为。 P139

开发人工智能这件事,重要的并不是特定领域的知识,而是为了让人工智能进行学习所必备的编程技术。 P140

我所采访的实验阶段的Pepper,在胸前的平板电脑上可以看到感情地图,这一点与公开销售的Pepper版本一般无二,但在是否按照感情来做出行动这点上,却大不相同。 P141

陌生的采访组接连不断地发出声响,导致在初期的采访中,Pepper的感情状态一直很不稳定。 P142

例如,在美国加利福尼亚大学伯克利分校,有教机器人叠毛巾或手帕的项目。 P143

这应该是由于机器人与人类一样,是在三次元空间里活动的缘故吧?AlphaGo是通过电脑在二次元的棋盘上进行学习活动的,所以就算一直不管它,开发者也能得到成果。 P144

如果机器人无法判断什么时候要保护人类或自己,那么它在实际社会中可以排上用场的领域就很狭窄了。 P145

这样一来,倒油时就有起火的危险。 P146

简单来说,就是开发出的机器人要做到:机器人不得伤害人类,或坐视人类受到伤害;除非违背第一法则,否则机器人必须服从人类命令;除非违背第一或第二法则,否则机器人必须保护自己。 P147

这个问题是这样的:正在行驶的电车的刹车坏了,电车的正前方有5个人,这样下去5个人都会被碾死。 P149

假设你与一个陌生人站在桥上。 P150

在日本,一般人们都认为,大家都应该参加医保。 P151

这时人工智能就会产生一种社会信用,如同消费者评价企业那样,我们也可以评价人工智能,诸如“这个人工智能法人十分尊重人命”。 P152

要做到体贴,需要观察力和关怀他人之心。 P153

只是短短几个小时而已,我的心中就不自觉地涌出了一种亲近感。 P155

当机器人与人类共存的世界到来时,我们很可能就会感到,必须赋予机器人人权才行了。 P156

绘画傻瓜的有趣之处在于,它绘图的兴致是被设计出来的。 P157

在会场对若干观众进行了采访之后,我们了解到,观众中有很多人压根不知道这部音乐剧是由人工智能创作的,他们以为,这只是在伦敦公演的众多音乐剧中的一部而已。 P158

他只是单纯地希望,人工智能的作品可以被公正客观地看待。 P160

”的确,诗歌并不只是字面意思的集合,其中还包含了创作背景等意义。 P161

2016年4月,一幅由人工智能绘制的伦勃朗“新作”被公开。 P163

人工智能欣赏画作的角度和方法,可能是人类没有的。 P164

我们每天都会收到各种推送。 P165

但是如果是针对视频,就需要连续捕捉图片数据,计算量会产生爆发性的增加,所以往往无法顺利展开。 P166

如果对这种审美加以时间方面的考量,那么是不是可以说,人类会对一贯性或持续性的事物感到美呢?的确,像大海、高山这种在自然界长期存在的事物,常常是被人们当作美景的。 P167

而我会觉得管弦乐指挥的音乐是体现他本人个性的节目,如果换成人工智能就很无趣,也是同样的道理。 P168

像工业机器人那样在特定场所进行特定动作的机器人,早就在世界各地的工厂中获得了广泛应用。 P169

例如,一个设备可以接有摄像头和麦克风,但却没有可以提供嗅觉或触觉信息的机器可以接入。 P170

比起开发像人类一样的机器人,多数的机器人企业和研究者更关注实用性方面的问题,即帮助人类做到以前做不到的事。 P171

不过,想让机器人学习更复杂的动作,就必须让它控制更多的发动机,需要计算的要素也会增加。 P172

例如,想让扫地机器人知道“大量吸起灰尘和垃圾”是正确的行为——这种情况下,机器人可能会认为“吸起一定量的垃圾和灰尘之后喷出来,再吸起来”就是吸起大量的灰尘或垃圾。 P173

生物通过五感获取的信息中,视觉的信息量占比很高。 P174

但机器人只要使用可兼容的数据来进行学习,就可以互通有无。 P175

第一种是神谕型(Oracle)。 P178

而针对人工智能在这种判断方面的研究,目前还没有什么很大的进展。 P179

美国哲学家、认知科学家丹尼尔·丹尼特(Daniel Clement Dennett),曾对框架问题进行过一个简单易懂的举例说明。 P180

也就是说,机器人1号虽然理解“搬出电池”这个目的,却不能理解,伴随着这个动作是会产生副作用的——炸弹也会随着电池一起被搬出来。 P181

AlphaGo的软件性能之所以能取得飞跃性提升,原因之一也是应用了这种算法。 P183

因为在下围棋的时候,电脑可以模拟出从第一步到最后一步的全部走法,然而在国际象棋中,有时候却会出现下不完的局面。 P184

对于现阶段的围棋软件来说,运用回溯法[10]的概算与马尔可夫链蒙特卡尔理论组合,还是很有效的。 P185

其中最有名的,是英国数学家、计算机学家阿兰·图灵(Alan Turing)在1950年提出的图灵测试。 P186

对于房间外面的人来说,中文对话是可以成立的。 P187

例如,被称为形态解析(morphological analysis)的算法已经变得越来越简洁了。 P188

还没有被收录在语料库中的语言,被称为“未知语”。 P189

实际上,即使是两个面对面谈话的人,也并不能完全理解对方的意思。 P191

只要使用这些工具能达到交流的目的,旅行就会变得很愉快。 P192

比如,当看到无人机在天上飞的样子时,人类最多看两三架,就能够推论出这大概是无人机。 P193

这部分是目前的人工智能难以效仿的。 P194

[此书分享V信 getvip365]哈萨比斯先生的研究目标并不止于一个领域,他想要研究开发的是能在各种领域使用的通用型人工智能。 P195

阻挡在面前的障碍有很多,解决框架问题想必是必要条件之一。 P196

这样想来,搞清人脑之谜与实现通用型人工智能,大概会是“先有鸡还是先有蛋”的问题。 P197

不过在那之后,人工智能在日本的研究就进入了长期缺乏公众支持的“冰期”。 P198

它就类似于曾经实现了登月的阿波罗计划,国家对有前途的领域积极提供支持。 P199

为什么只专注于软件的强化呢?其中最大的原因就是“预算”。 P201

同样,技巧软件的开发者出村洋介先生的专业其实是法学。 P202

这几年来,Apery、技巧等优秀的将棋软件也陆续开源化。 P203

但是,这些企业还是在这之间找到了微妙的平衡点,将软件开源来获取反馈。 P204

这是为什么呢?DWANGO人工智能研究所的山川宏所长曾经对计算机与文字处理机做了一番比较,我想,他的见解应该可以作为参考,下面就来大致地介绍一下。 P205

这种通用型的计算机自然比文字处理机更有吸引力。 P206

2014年末,物流巨头亚马逊发布了一款搭载人工智能的音箱Echo。 P207

到时候,就会产生这样的良性循环:随着大量生产,设备的价格会剧烈地下降,而人工智能就会进一步普及,促进生产量提升。 P208

测试的形式是通过屏幕进行对话。 P209

顺便提一件私事,我那个还在上小学的儿子在搜索玩具和动画的时候,经常会使用语音识别功能。 P210

而这种含糊不清的情况对于项目组来说可是个大麻烦。 P211

今后,随着我们自身“对理解的理解”逐步加深,人工智能在通用性方面也许就可以更上一层楼了。 P212

”(《中央公论》,2007年5月号)这已经是我十多年前的发言了。 P214

人工智能没有恐惧心等特性,会给我们带来不安。 P215

不过在我这次采访的人工智能研究者中,也有人认为,赋予人工智能感情,其实是一件很危险的事。 P216

这个答案究竟是不是最好的,还需要我们再进行分析才行。 P218

在一定的风险管理下,只要胆大引进就好。 P219

身处人工智能研究开发一线的专家们非常清楚,人工智能只能让获得正确答案的概率提高,却并不是永远不会犯错的。 P221

2015年,人类未来研究所的研究人员发表了一篇题为《威胁人类文明的12个风险》的报告,引起了舆论的广泛关注。 P222

他告诉我:“问题并不在于机器讨厌我们,而是在于机器对我们没有任何的兴趣。 P223

例如,为了让人工智能系统的判断不至于失控,今后人们也许会加上由人类进行验证的流程,从别的方向来确保人工智能的安全性。 P226

对于怀有疑问或不理解的事,人类通过直接向老师提问获得解释说明,然后才能理解或者接受——这种情况是非常多的。 P227

这种做法让一些因为学费等原因放弃受教育的人可以听课,获得必要的知识或技能,因此我认为这是一件很好的事情。 P228

那么接下来,所有人应该都会通过这个途径来学习。 P229

不过,这些事情是必须实际做做看才能理解的。 P230

让我再啰嗦一遍,这种知而学之的环境对于现在的人来说是一种极大的优势,事实上,棋手的水平的确也有了整体提升。 P231

日本有一个网站叫tabelog,正如大家所知,这是一个给餐饮店铺打分的口碑网站。 P232

关键在于,这说明了棋手在对棋步的选择中,有着玩的余地。 P233

因为如果能事先进行信息的收集,并做出预判,在序盘时就不用花费过多的能量来思考,可以比较轻松地开始。 P234

这样给自己定好规矩,我才会下定决心记住棋谱——“现在不记住,就再也看不到了”。 P235

很多下法以前是定势,但现在已经不再被使用了,或是有被破解的趋势。 P236

不仅是人工智能,新技术也在不断被推出,但是能否以有意义的形式,以健康的目的来使用这些新技术,归根结底,还是在于人类。 P238

但是,这种转变究竟是不是向着好的方向,就又是另外一回事了。 P239

事实上,电脑根据摩尔定律,确实发生了进化,再加上众多优秀的程序员参加了编码工作,这才造就了将棋软件今天的强大。 P240

又例如现代的足球等球类比赛,它们变得系统化,其中一部分已经让外行看不出其中的有趣之处了。 P242

这样说来,如果要挑战一个不存在数据的未知领域,无论是对人类还是对人工智能来说,都是具有重大意义的。 P244

但是,要问智慧究竟是什么,恐怕没有人能够回答吧。 P245

新加坡交通部通过搭乘地铁的民众的智能手机App,收集和储存了地铁站台内的个人位置等信息。 P247

人们几乎不会意识到,自身生活的便利是怎样获得的,但是,人们的生活在静悄悄地发生变化——当然,我们不能忽视这种变化导致的对个人信息及隐私问题的担忧,但是,这也不失为一种与人工智能共同生活的可能。 P248

像具备人格一样做出各种行为,并进行丰富多彩的交流——能够做到这些的人工智能在日本也已出现,它就是人工智能琳娜(Rinna)。 P249

这篇论文之所以会引起社会轰动,是因为其中列出的将会被机器取代的职业,包含了律师、外科医生、注册会计师等非常专业的职业,即所谓的白领。 P250

在这项服务中,人工智能会自动总结出与企业决算相关的新闻报道。 P251

而且,这种趋势将愈演愈烈。 P252

这项计划不仅计划让工厂无人化,利用人工智能和机器人实现生产效率的最大化,还在进行让机器人和人一起工作的技术开发。 P253

通过这样做,我们似乎更容易与人工智能互相让步。 P254

我们现在正在做的事,在今后将越来越多地被人工智能所取代吧。 P255

另一方面,也有一些科幻作品以更现实的角度描绘了未来。 P256

话说回来,为什么人工智能的开发在近几年突然成为热潮,并产生了如此令人惊异的进步呢?正如第五章里介绍的,英国牛津大学的人类未来研究所发表的报告《威胁人类文明的12个风险》中,人工智能也是其中提到的风险之一。 P257

也正因此,人工智能虽然被认为具有像《终结者》那样让人类灭绝的风险,却仍然在以令人惊异的速度不断进步。 P258

这让我感到,在不久的将来,人工智能一定会成为我们日常生活中更加寻常的东西。 P259

简单来说,这个观点是指,如果事物的所有对象无法被分离为0和1(即不能进行线性分离),人工智能就无法处理它。 P260

——译者注[3]池上彰:日本著名记者,信州大学特约教授。 P262

good

标签