机器人研究权威专家Hod Lipson:未来机器人将有自我意识,好处远超风险
栏目:公司资讯 发布时间:2019-11-06 20:03

DoNews11月3日音讯 (记者 费倩文)11月3日,腾讯科学WE大会将在北京举办,在大会前夕,机器人研讨权威专家、哥伦比亚大学教授Hod Lipson在承受媒体采访时答复了“机器人会具有自我知道吗?”这一问题。Hod Lipson以为,未来不可避免的会呈现这样一天:国际上的机器获得自我的知道。但这件作业将在10年之后发作,仍是100年之后发作,他也不知道。可是他比较坚信的是:未来机器将会有自我知道。

Hod Lipson和团队研宣布可以自我建模的仿生集体“粒子机器人”,该研讨效果登上了《天然》杂志封面。

机器人研讨权威专家Hod Lipson:未来机器人将有自我知道,优点远超风险

在采访进程中,Hod Lipson还标明,他个人在“将来机器人具有自主知道是否会有风险?”这个问题上坚持达观情绪。他以为,“自主知道的机器人带来的优点将会远远超越它的风险”。Hod Lipson以火的发现为例解说称,火十分风险,也十分强壮。但人类是否期望自己从未发现火呢?答案应该是否定的,由于有了火之后,使得咱们能做许多之前做不到的、难以想象的作业。

Hod Lipson指出,“咱们现在现已开展和运用了许多机器,而这些机器的数量将会越来越多,它们也会越来越杂乱,总有一天人类将无法直接照料这么多、这么杂乱的机器人,咱们要想方法让机器人自己来照料自己。”(完)

附Hod Lipson对话全文:

发问:您真的会觉得机器人会具有自主知道吗?你忧虑它具有自主知道吗?

Hod Lipson:我的答复是必定的,也是否定的。由于我以为不可避免的会呈现这样一天,这个国际上的机器获得自我的知道。这是一个十分巨大的作业,由于咱们现在在逐渐给这些机器体系一点一点增加智能。终究,它们会给自己找到一个模型,它们终究要想了解,并终究了解自己是什么,自己能做什么和不能做什么。

这件作业将在10年之后发作,仍是100年之后发作,我也不知道。可是,我比较坚信的是咱们的孙辈所日子的国际里,机器将会有自我知道。

我是否对此感到忧虑呢?我可以给您举一个比方,便是火的发现。火十分风险,也十分强壮。但人类是否期望自己从未发现火呢?答案应该是否定的,由于有了火之后,使得咱们能做许多之前做不到的、难以想象的作业。

具有自主知道的机器人也是如此,它是一种十分强壮的技能,重要的是每一个人都知道到这种机器人可以做些什么、不可以做一些什么,就像火相同,咱们知道它是强壮而风险的,所以咱们要确保将它用于好的作业上。

我个人在这个问题上坚持达观情绪。我以为自主知道的机器人带来的优点将会远远超越它的风险,因而咱们要寻求开展这样一个技能,由于咱们现在现已开展和运用了许多机器,而这些机器的数量将会越来越多,它们也会越来越杂乱,总有一天人类将无法直接照料这么多、这么杂乱的机器人,咱们要想方法让机器人自己来照料自己。

发问:第一个问题,上过《天然》杂志封面的那个论文说到过粒子机器人没有单点毛病,也没有会集控制。这个体系可以继续坚持运转,它的阈值在什么范围内?由于现在测验下来是20%的粒子发作毛病,整个体系仍是可以坚持运转,这个作业是对机器人鲁棒性的一个打破。

之前《科学》杂志的主编说到过现在全部人们以为机器人的知道问题,都是由于它的鲁棒性,机器人的鲁棒性假设真的够了,它就能发生知道吗?第二个问题,我不是十分了解方才举的火的比方,由于火是没有自己知道的,它依然只是一个东西,教授之前讲50年之后人或许和人工智能一同前进,便是人和人工智能共生的一个状况,在这样的环境下,人们会面对哪些道德和社会上的应战?

Hod Lipson:其实您是把许多问题都会集到了这两个问题。我先答复一下关于鲁棒性的问题,咱们所做的粒子机器人把这个全体当成一个机器人。这种机器人我更想比方成一个人的身体。咱们的身体是由许多细胞组成的,这些细胞会发生、开展和逝世,不断地会有细胞死去。尽管有许多细胞都死掉了,但我仍是我,你仍是你。

那么究竟咱们能让多少细胞死,而不改动自己的性质呢?究竟是20%,仍是30%呢?其实,咱们知道人体的细胞不断地在逝世,这是一个继续的进程,一同也会有新的细胞不断发生。

换句话说,咱们的身体是由一个个不可靠的部分组成,这些部件自身会逝世、坏掉,可是新的部件会不断呈现,重复的呈现,咱们这个全体仍是咱们自己。

做机器人首要在于新思路,你谈到了它的鲁棒性,你也说到了所谓的20%。其实这个20%只是咱们测的一个数字罢了,咱们更关怀的是一个主意,便是怎样制作一种机器人,像人体相同,可以用这些不可靠的部件组成它,可是它作为一个全体依然是像人体相同,可以正常的运转。

这一点和咱们今日造机器的主意彻底不相同,比方咱们现在造的飞机,它由许多部件组成,其间任何一个部件都有自己特定的功用。假设这个部件失灵了、出毛病了,那这个飞机便是不能上天的。假设有一辆车其间一个轮子掉了,这辆车也就无法运转了。

咱们现在期望以一种全新的思路来做机器人,它的鲁棒性和机器人是否有自我知道是无关的,咱们更多的是把它想像成一种生物体。从生物体来讲,你的身体、脑筋是坚持运转所必要的部分,咱们期望这种机器人有一个脑筋,可以自我去建模,这样就可以开展起来。

我举火的这个比方,并不是由于它有自我知道。它并没有自我知道,首要仍是从道德的视点来讲,是说火也是十分十分强壮、风险的。可是,它是人类文明实在开端开展的原因,有了火人类才干够吃从前吃不了的食物,可以制作从前制作不了的东西,可以在夜里看见东西,这全部极大的促进了文明的开展,可是一同火也是十分风险的。

所以,咱们全部人都需求知道到火是十分有用的,十分强壮。假设火失控,就会带来十分糟糕的效果。人工智能也是如此,它既强壮又风险,这个技能十分值得咱们具有,可是咱们要知道这种技能能强壮到什么程度,并且给予它尊重,确保可以恰当地运用。

你说到的全部道德问题,现在应该仍是没有答案的。其实就在5年前,人工智能技能就现已开端开展了,可是没有人对它感到振奋,它只是一个学科罢了,也没有任何人忧虑它有一天会接管了全国际。

可是,在曩昔5年间,这一技能真的腾飞了。忽然之间如同咱们都在问这些道德问题,可是正如我前面说过的那样,咱们对这些道德问题还没有答案,这个技能必定会继续开展,而有自我知道的机器人也终将呈现。

发问:粒子机器人是否可以在一个很小的空间内仿照国际?

Hod Lipson:你问粒子机器人能否仿照国际,我想咱们这个机器人更多的是企图仿照生命,而不是仿照国际的开展和运转。

咱们企图让它仿照生物,特别是动物的机制。咱们企图知道咱们身体里所存在的这些粒子,或许更切当的说是细胞,每一个单个细胞都是不可靠的,并且大脑并不指挥每一个单个的细胞,这些细胞经过自己的随机运动组合在一同,终究发生了每一个实在的个人。

这个也依然是一个比方,可是总的主意是它使咱们可以试着仿照,或许试着仿制一下生命的运转。

发问:跟着自主机器人知道越来越激烈,现在越来越多人对这个感到忧虑,与此一同包含腾讯在内的这些企业,提出了“科技向善”的理念。你是否传闻过腾讯“科技向善”的理念,你对科技向善这个理念是怎样了解的?以及你觉得科技向善该怎样引领未来机器人、人工智能与人类命运的调和开展。

Hod Lipson:这个问题十分好,作为人类来说,咱们开端知道到这样一种强壮的自主知道会呈现,咱们必定会想到必需求确保这些技能会用于好的作业、善的作业。

可是,这种科技向善的主意在许多当地都有人提出来,并且咱们在不断的重复。比方我地点的哥伦比亚大学,咱们有一个十分相似的说法,叫做数据向善,便是把数据用于善的作业,这是全部人类都期望能做的作业,要害还在于怎样做到,怎样确保技能总是以好的方法得到运用,这一点是十分难的,确保人工智能彻底用于好的作业并不简略,由于这个技能十分易用,也不需求投入许多钱就可以用上。技能自身既可以被用来做好事,也可以被用来做坏事,要害在于人类文明和人类社会应该想怎样把它用于好的作业,而不是坏的作业。

关于怎样办现在咱们还没有彻底想清楚。将来是让人工智能去监督人工智能,仍是采纳什么其他方法?可是总的来说终究要靠人类的道德,辅导咱们在一个机器可以自主做出决议的新国际里,确保这些技能依然用于好的作业。

应该说任何这样的问题都没有一个简略的答案,可是咱们有必要走上这样一个进程,并且一步一步的往前走,咱们现在要揭露评论它应该可以做些什么,不可以做些什么,咱们要不断地进行研讨。

在这个进程中,人类会逐渐做出什么能做、什么不能做的决议,实践上在人类历史上咱们发现了既强壮又风险的技能,比方说核技能、基因技能的呈现,基因技能假设被误用或乱用,它的效果也会很糟糕。比方化学的开展,它也有或许会被人用于做坏事,可是终究人类社会都挑选把这些技能用于好的当地。

所以,在人类历史上咱们从前屡次发现这些强壮而风险的技能。但在大部分的状况下,人类社会作为一个全体做出了正确的决议。所以我自己是达观的,我信任这次人类社会全体也将做出正确的决议。尽管,在某个时点上或许有少量人会做出少量过错的、欠好的决议,可是作为一个全体,咱们会做出正确的决议。

发问:一般人们会想科学家做机器人,是让它来仿照人类所做的一些动作,或许人类的功用。可是也有一些科学家做出来的机器人现已能做一般人做不出来的动作了,为什么要让机器人做到这些呢?

Hod Lipson:这个问题十分好,就像咱们为什么要让人工智能或许机器人玩国际象棋、围棋相同。这个是一个应战,咱们会试着让人工智能和机器人做一些人觉得难的东西,看是否能让机器人学会这些技能。

这是自我的应战,也是一个测验,就如同人工智能在最开端学国际象棋的时分,国际上绝大部分普通人是不或许打败国际象棋大师的。由于,一般人都做不到,不过一开端咱们必定也以为人工智能也是做不到的。这对它是一个智力上的应战,它会去学习,然后逐渐做到这一点,这是智力上的应战。

身体上的应战也是相同的,咱们会去问机器人能不能走路。走路这件事看上去十分简略,每一个儿童,甚至婴儿很小就开端学走路,并且学会了。但实践上教机器人走路比让它学国际象棋难得多,由于每一个人类都觉得咱们特别拿手走路,所以咱们不觉得走路这件事有什么难的,可是教机器人走路是十分困难的。

巴斯大学和其它的一些大学进行了特别多研讨,才逐渐让他们的机器人可以走路。在它做到走路之后,科研人员会想能不能让它跑起来,能不能让它在跌倒之后自己爬起来,能不能让它能爬山、爬墙,或许说能不能让它做一个后空翻。

几个月前,伯克利大学发布了一段视频,它的机器人在玩一个魔方,这个是一件十分小的事。由于只要是个人,他的手就能玩魔方,可是对机器人来说这是十分难的作业。

关于科研人员来说,让机器人做这些作业便是在爬一个阶梯,是人在身体和智力上能做到的这些作业,让它像爬梯子相同一个一个得把握,并且试着看一看咱们在这方面可以走多远。

这个技能是不是有用呢?

我或许可以举一个比方。让机器人做后空翻的动作或许自身想不出来有什么实践的用途,可是后边支撑机器人走路、拿东西、做后空翻的这些技能有许多十分实践的运用。

发问:您的这项研讨适合于哪方面的实践运用,比方医学或许其它的。在您的效果傍边,未来还有哪些可以提高的方向?比方说更多、更快、更小的组件。

我传闻您领导的研讨团队里边有一个我国人,叫李曙光。您怎样点评我国在机器人研讨和运用方面的奉献?

Hod Lipson:我先跟您讲一下咱们的方案,咱们预期有必要把它做的更小。咱们在想象这样一种机器人的时分,咱们期望可以仿照成百上千个细胞一同运作的状况。事实上,咱们现在能做到的只是几十个细胞进行这样的运转。咱们期望有一天可以到达数百万、上千万的细胞一同组成的粒子机器人来运作,就像咱们的身体相同。咱们身体里稀有十亿、上百亿的细胞,它们一起构成了咱们。咱们要这样做的话,就需求把它做的更小,咱们需求运用纳米技能,或许说至少是微米技能,这是咱们的下一个方针。由于在它的每一个部件满足小之前,是不或许有有用场景的,由于在大的规划上没有方法完成细胞之间永续的更新,假设它满足小,可以做到许多风趣的作业。

比方说咱们现在看到工厂里的机器人,甚至你家里的吸尘器,现在都是一些大的部件坏了,整个机器就不能运作的部件组成的。将来它们也可以由这样一个一个小的细胞组成,它的优点有许多。

首要,便是它可以应对某个部件呈现毛病,可是全体不会出问题,可以彻底循环。在今日咱们看到的这些机器是不可以循环的,机器坏掉之后相当于把它掩埋了,或许说这个机器的某个金属部件、塑料部件是可以循环的,可是机器作为一个全体是不可的。

可是生物体不相同,生物体是可以百分之百循环的。比方说你吃掉了一只鸡,你就可以充沛运用鸡供给给你的蛋白质,假设你吃了植物或许素食,你也会充沛运用它给你供给的全部,由于你的身体会把它所供给给你的有用物质进行循环,从氨基酸开端,然后对它完成充沛的运用。

咱们现在期望可以有一种物理的机器,使它也可以完成这样的循环,这样它就由数百万、上千万的小部件组成,构成这样一个小粒子的生态体系。只要完成这样的生态体系,才有机会使咱们坚持运用许多机器的人类文明生生不息,由于这些机器自己可以照料自己,可是应该说这是一个十分久远的方针,这不是一个明日就能用上的技能。

发问:可以用两个词谈一谈关于腾讯明日WE大会科学精力的了解吗?并且讲一下故事,教授这边是不是采纳了什么举动,来避免相关的技能被误用,是否存在一些规矩,怎样对相关的技能进行监管?

Hod Lipson:我十分等待明日的大会,并且我知道大会涉及到许多不同的主题,内容都十分风趣,这也使我想到我国和美国科学界的协作。

您说到我团队里边有我国人,其实我那里总共有10个博士生,里边有四个我国人,从硕士的学生来说,数量就更多了,大约占到了一半,或许大约有10多个。

所以,不管是哥伦比亚大学仍是其它大学,其实都是如此。我想这也标明中美在这个范畴的协作比历史上任何时分都要多,不仅在咱们的项目组有我国学生,在大学的教职员工里边也有不少的我国人。

人工智能和机器人范畴尤为如此,在这个范畴宣布论文的数量,我国、美国、欧洲数量大致是相同的,咱们也知道在我国、美国,在国际上许多当地都存在着许多竞赛,可是在人工智能和机器人的国际里,国际的确是平的。

其间部分原因是由于这个范畴对本钱投入的需求很低,因而你不需求投入许多的资金,就可以去研讨和开展这个技能,所以每一个人感爱好都可以参加进来。别的一部分原因是在人工智能和机器人的范畴,咱们共享知道是十分强的,迄今为止这个范畴所获得的每一项成果都是开源的,这也大大促进了国际协作。

至于监管的问题,从现在来看,咱们仅有能做的便是不断的议论这样的作业,咱们必定不能关上门搞开发,要坚持百分之百的敞开。在咱们的实验室白天黑夜都有记者找咱们,他们会来摄影,会问问题,并且有些时分会问十分难答复、根本就没有答案的问题。

在机器人技能的开展范畴,我想这是仅有的出路。或许咱们进行许多的沟通还不能确保这个技能一定是用于好的作业,可是至少经过这个评论,人们可以了解到这种技能的风险性安在,而不是在未来某一天忽然被它吓坏了。

发问:单个粒子机器人现在的缩短状况直径是15厘米,您刚刚说到在它做的满足小之前是不太或许运用的,大约要等多少年时刻才有或许做到微米级、纳米级?在这期间会遇到什么难题?假设真的做到纳米级、微米级,这个粒子机器人详细落地运用场景大约是什么样的?可以举几个比方描绘一下吗?

Hod Lipson:需求多少年才干到达你说的这个标准我的确不知道答案。这个研讨的开展并不只是取决于研讨的难易程度,还涉及到是否可以得到资金支撑,是否有学生对这个课题感爱好。或许他们会被其它的技能所招引,这些都是一些影响要素。

可是,我个人依然觉得它会在咱们的有生之年到达微米。比方10年,或许说我不会想像做的比微米更小,我不会真的想像那时分就能做到纳米级,可是或许咱们只能做到毫米级的,比方说像小的砂糖颗粒相同,毫米级的,那时分就可以做这样的细胞。

没有方法把毫米级的粒子机器人到人类的血管中去,或许咱们现在想像的那些医学中特别先进的运用,或许仍是做不到,可是它应该可以成为一些机器的组成部分,这些机器可以行走、恢复、重复运用。

比方在外空有一些需求做的作业,或许是假设咱们需求登上月球的话,咱们就需求这些机器人可以依据使命的需求,改动自己的形状,在一些当地或许把资料运曩昔十分贵重,咱们需求重复运用咱们的机器人,让它可以依据使命需求进行形状的调整。我个人想像,这很或许是这种机器人比较早的运用形状。

发问:有人说我国和美国在人工智能、机器人范畴的不同是我国或许研讨更偏运用一点,美国或许在基础研讨做的更厚实一点,怎样看待中美在这两个范畴傍边研讨开展程度的不同?我国人工智能范畴在基础研讨方面的缺少和缺乏会不会对未来运用形成一些影响?

Hod Lipson:我不太确认我看到的状况和您的这个描绘是共同的。由于我觉得我国也有许多人在做运用和基础研讨,也有许多美国人在做运用方面的研讨,我国这边也是两方面研讨都有。

应该说这个范畴的研讨一贯都是混合的。在机器人和人工智能范畴,一贯都是这两种,并不总是两分法的判别,许多人都是一同在做的。并且你很少看到有人只会研讨某个特定的运用。比方说只研讨某个医学的运用,或许某个恢复功用的运用,或许他只注重于自动驾驶的机器人,更精确的描绘便是这个范畴十分广泛,的确没有人可以把全部的细分学科、某个技能细节都注重到。

可是在这两个国家都有许多的人做各式各样的研讨,所以恐怕不能一会儿判别中美呈现这样一种不同偏好的原因。

即便在我自己的实验室,有的研讨人员比较注重运用。咱们有一个项目是能做“抓”这个动作的机器人,他们会和工厂有许多的联络,去看现有这样的机器人和咱们自己的机器人,能不能确保它抓10万次不出毛病。

此外也有特别注重于机器人创造力和自我知道的人,这个更具有哲学性的考虑。恐怕只能说这个范畴的内容如此丰厚,所以一个人恐怕没有什么都注重到,可是放在国家标准上,两国都既有有用研讨,也有许多的基础研讨,这便是咱们这个学科和其它学科不相同的当地。

比方天文学必定要做许多理论研讨。咱们这一行是不相同的,机器人这个范畴有许多商业的力气参加,也有许多政治、经济的力气参加,这个范畴的钱十分多,比方说百分之百人工智能驱动的无人驾驶轿车,在这个范畴投入了许多的资金,它十分热,有来自于各个方向上的压力和爱好,所以或许像这样的一些特定细分范畴会招引到更多的注重,但其实在更广泛的人工智能和机器范畴,有用和理论基础性的研讨都在广泛进行。

(据:DONEWS)
服务热线