网站地图 - 广告服务
您的当前位置:主页 > 科技 > 人工智能 > 正文

对话MIT传授泰格马克:如何理解人工智能的未来?

来源:网络整理 编辑:楚天腾龙 热度: 时间:2018-11-01 22:09
导读:《生命3.0》是一本近来很火的畅想人工智能未来的书。该书作者迈克斯·泰格马克 (Max Tegmark)是麻省理工大学物理系终身传授,也是未来生命研究所(Future of Life Institute)创始人。该组织汇集了包罗包罗史蒂芬·霍金、埃

《生命3.0》是一本近来很火的畅想人工智能未来的书。该书作者迈克斯·泰格马克 (Max Tegmark)是麻省理工大学物理系终身传授,也是未来生命研究所(Future of Life Institute)创始人。该组织汇集了包罗包罗史蒂芬·霍金、埃隆·马斯克、比尔·盖茨在内的8000多名全球顶尖人工智能专家,致力于规避高级人工智能带来的人类保留风险。本周,笔者与泰格马克传授进行了一场有趣的对谈,对未来人工智能成长提出了许多有趣的不雅察看。

对话MIT传授泰格马克:如何理解人工智能的未来?

迈克斯·泰格马克 (左)。《生命3.0》英文版书封(右),该书中文版已由浙江教育出书社于2018年出书。
《生命3.0》的大旨是生命成长的三段论。生命1.0的状态是生命之初的原生状态,虽然有生命,但说不上有思想。生命2.0的状态就是我们人类的现状,如果用计算机语言来描述,我们的血肉之躯就是人类生命的硬件,是百万年的进化而来的,而我们的头脑与思想却不是印刻在身躯之上,不是先天进化而来的,而是后天习得的。换句话说,我们的思想是可以被后天所设计的,这就是生命2.0与1.0的区别。而且,随着科学技术的进步,从语言、文字到印刷术、现代科学,再到计算机、互联网,人类个体智慧之间的联系变得日益紧密,人类整体智慧的沉淀不再会被任何一个人的大脑的有限容量所局限,这正是生命2.0的美妙之处,同时也为迈向生命3.0奠基了基础。
到了生命3.0的阶段,不仅软件可以后天被设计,硬件也是如此。生命不再依赖血肉之躯的进化,硅基(也就是基于硅片的)硬件也可以成为生命的载体。彼时,生命第一次可以甩掉血肉之躯,不再依赖生物的进化,而成为躯体的主宰。简言之,《生命3.0》中最重要的不雅概念就是,机器可以和血肉之躯的人类一样,成为智慧的载体。而机器和人类最大的分歧,恰恰在于机器的硬件不再受到进化的约束。《生命3.0》还有一个潜台词,即与人类相似的智慧,并不必然要依赖于自然进化出的人类大脑。机器的发现过程中有很多类似的例子,比如人类向往飞翔,但人类设计出的飞机与大自然中的鸟类和虫豸都分歧。
《生命3.0》是一本想象力丰硕而逻辑推理严谨的著作,对人工智能大成长之后人与机器的关系做出了一种宏大的分析。泰格马克对人工智能的前景充满乐不雅观,属于相信通用型人工智能(AGI—Artificial General Intelligence)有可能在我们有生之年呈现的乐不雅观派。但是,他分歧于技术乐不雅观主义者,认为技术的进步就必然带来人类的进步、必然能让人类面临的问题迎刃而解。他念兹在兹的,是如何为人工智能的成长框定一些共识和法则,确保未来即使人工智能达到甚至超过人类的智慧,也仍然会和人类的方针一致。
对于泰格马克提出的机器也会拥有智慧,而且可以让智慧不再依赖血肉之躯的不雅概念,我有必然保留。目前已经有其他专家提出,智慧也许不仅仅与大脑相关,血肉之躯给我们带来的感官与反馈,可能与大脑一起作为整体,共同促成了人类智慧的发生。如果真是如此,人工智能的成长法式可能要慢不少。
尽管如此,泰格马克仍然提出了“人与机器”未来相处的一些重要问题,非论人工智能的成长比我们想象地更快还是更慢,人工智能在乘数效应的敦促下会变得越来越强大,到了那时,留给人类试错的空间将越来越小。当人类研发出核刀兵之后,必需就限制核刀兵达成公约,因为核战争一旦打响,人类的家场地球就可能面临毁灭。核战争不会给人类第二次机会,人工智能也是如此,当它变得更为强大之后,我们将不得不考量它是否会给人类带来伤害,因而必需达成必然的操作法则来确保其方针与人类一致。
地球历史上有太多降维冲击的例子,非洲西部黑犀牛在2011年的灭绝就是一个晚近的例子,底子原因是有着更强大智慧的人类与黑犀牛的保留方针已经相去甚远。以此类推,当AGI超过人类的智慧时,如果他们的方针和人类保留的方针发生了偏差,人类灭绝可能是概略率事件。所以,人工智能的成长必需由人来确定标的目的,此中有两点出格重要:第一,我们要确保人工智能的不变与安全,一方面尽可能降低人工智能犯错和宕机的可能,另一方面则是要确保人工智能不会被黑客所独霸;第二,人工智能必需可信,这是人工智能研究中的一个热点问题。
让人工智能理解人类的方针分成三步:学习、采用、保持。但是,武汉新闻网,就人工智能研究的现状而言,它们可以不雅察看到的人类的行为和方针之间并不必然有明确的关联,从大量的行为中去了解真实的方针并不容易。《生命3.0》中举了一个例子,看到消防员去着火的房子里救女孩,人工智能可以理解为是消防员愿意为女孩的生命而献身,也可以理解为消防员很冷,要去着火的房子里取暖。我们如何让人工智能形成正确的判断,理解人类行为背后可以意会却并不言传的一些想法,是确保人工智能未来与人类方针一致的第一步。
我向泰格马克提出的一个问题是,人工智能未来更可能敦促中心化还是去中心化?他的回答很有意思:一方面,从人类成长的历史上来看,科技的成长的确不竭敦促人类变得更集中,从分手的部落、村子,到市镇、都邑、帝国,其实都是一个逐渐中心化的趋势。AI作为最新的通用技术,也必然会进一步敦促中心化的趋势,让集中规划变得更有效率。但另一方面,AI的成长也让每个人可以获取更多的常识,每个人都将有更强的判断力,每个人都可以被赋能。从这一视角出发,去中心化的确也有它的价值。所以最终AI将如何去博弈,还很值得不雅察看。
对谈还涉及到有关赛博格(Cyborg)也就是人机合体的问题。我问泰格马克传授,如果生命2.0是我们此刻的模式——肉身是硬件,思想是软件,而生命3.0是未来的某种可能,我们不再需要肉身,可以设计新的躯壳,思想作为软件可以更好地传递和分享,那么人机合体的生化人会是中间的一个阶段么?
泰格马克与马斯克很熟,也了解马斯克等人创办的研究脑机合体的企业Neuralink。他一方面认为脑机合体作为一种科学尝试能有多大成长前景值得不雅察看,另一方面他也认为,人与机器最大的区别在于人脑作为大自然的进化是受到很多局限的,包罗必需自给自足、必需能自我复制、带宽有限等等。但是机器则分歧,且不说生物与物理的接口(血肉的神经如何与硅基的芯片结合)不容易,让有很多局限(比如说带宽)的人脑与芯片结合本身是否有意义,也值得商榷。
我们对谈中最重要的问题,是在迈向AGI的过程中,有哪些重要节点值得我们存眷。泰格马克的分析十分有趣:其实我们可以从人与猫的智能的分歧中得到启示。猫和人一样,有复杂的神经网络,可以比机器更好地手脑协同(脑爪协同),能够体察外部环境并做出反映。猫与人最大的区别在于猫没有逻辑思维能力。反不雅观机器学习的历史,首先是人所主导的基于逻辑的编程和算法,然后才是这一波基于神经网络的AI。下一波,如果能把逻辑思维与神经网络的机器学习结合起来,则有可能敦促从猫到人的打破,也就是机器智慧的打破。
既然提出了生命3.0这一概念,泰格马克是否愿意亲身实践?对于这个问题,泰格马克的回答是否认的,“除非我病入膏肓,没有其他任何选择。”这个回答有些出人意料,可见即使是泰格马克这样对未来充满乐不雅观的研究者,仍然和大大都人一样——面对充满不确定性的未来,仍然会选择保守的视角。
(本文作者系《经济学人·商论》执行总编纂。)

责任编辑:纳兰瑾萱

网友评论:

Copyright © 2002-2018 武汉新闻网-www.idudo.com 版权所有
技术支持楚天在线
Top