您会顾虑机器人具备独立开掘吗?行家:好处远超风险

孙辈的世界里机器会有自主意识

具有自主意识的机器人也是如此,它是一种非常强大的技术,重要的是每一个人都认识到这种机器人能够做些什么、不能够做一些什么,就像火一样,我们知道它是强大而危险的,所以我们要确保将它用于好的事情上。

hod
lipson告诉记者,自己的研究团队里共10个博士生,里面有4个中国人,而硕士学生中中国人就更多了,大概占到一半有10多个。自己大学的教职员工里面也有不少中国人。

我听说您领导的研究团队里面有一个中国人,叫李曙光。您怎么评价中国在机器人研究和应用方面的贡献?

“粒子机器人”要向纳米“变身”

提问:您的这项研究适合于哪方面的实际应用,比如医学或者其它的。在您的成果当中,未来还有哪些可以提升的方向?比如说更多、更快、更小的组件。

科学界对hod研发的粒子机器人技术的评价是将引领出第四波人工智能浪潮,机器将可能拥有以往人类独有的创造力。而这个“粒子机器人”的厉害在于,它就像组成人体的细胞一样,即使是有20%的粒子发生故障,整个系统还是能够保持运行,这也是系统生存能力的一个突破。hod
lipson说,人身上每天不断地会有细胞产生、老化和死去,但我还是我,你还是你。现在建造一种机器人,像人体一样,能够用这些部件(粒子机器人)组成它,即使有部分损坏,它作为一个整体仍然像人体一样,可以正常运行。

其中部分原因是因为这个领域对资本投入的需求很低,因此你不需要投入大量的资金,就可以去研究和发展这个技术,所以每一个人感兴趣都可以参与进来。另外一部分原因是在人工智能和机器人的领域,我们分享意识是非常强的,迄今为止这个领域所取得的每一项成就都是开源的,这也大大促进了国际合作。

人工智能和机器人领域发表论文的数量上,中国、美国、欧洲数量大致是一样的,hod
lipson认为,在人工智能和机器人的世界里,世界确实是平的,大家分享意识非常强,这也大大促进了国际合作。hod
lipson的实验室不论白天黑夜都有记者来探访拍照提问,而且有些时候会问非常难回答的问题。

Hod
Lipson指出,“我们现在已经发展和运用了很多机器,而这些机器的数量将会越来越多,它们也会越来越复杂,总有一天人类将无法直接照顾这么多、这么复杂的机器人,我们要想办法让机器人自己来照顾自己。”(周小白)

机器人拥有自主意识甚至反噬人类,一直是很多科学家担忧和争论的问题。今年3月20日nature杂志封面报道的新型“粒子机器人”能像活细胞一样集体移动,简单来说,就像人体是细胞组成的一样,这种“粒子机器人”也可能组合成真正能自主甚至能“再生”的机器人。

但是生物体不一样,生物体是可以百分之百循环的。比如说你吃掉了一只鸡,你就能够充分利用鸡提供给你的蛋白质,如果你吃了植物或者素食,你也会充分利用它给你提供的一切,因为你的身体会把它所提供给你的有用物质进行循环,从氨基酸开始,然后对它实现充分的利用。

中美在人工智能领域的研究侧重点不同?no!

Hod
Lipson:我先跟您讲一下我们的计划,我们预期必须把它做的更小。我们在设想这样一种机器人的时候,我们希望能够模拟成百上千个细胞一起运作的状况。事实上,我们现在能做到的只是几十个细胞进行这样的运行。我们希望有一天能够达到数百万、上千万的细胞一起组成的粒子机器人来运作,就像我们的身体一样。我们身体里有数十亿、上百亿的细胞,它们共同形成了我们。我们要这样做的话,就需要把它做的更小,我们需要使用纳米技术,或者说至少是微米技术,这是我们的下一个目标。因为在它的每一个部件足够小之前,是不可能有实用场景的,因为在大的规模上没有办法实现细胞之间永续的更新,如果它足够小,能够做到很多有趣的事情。

原标题:我们孙辈长大时,机器会有自主意识

我或许可以举一个例子。让机器人做后空翻的动作可能本身想不出来有什么实际的用处,但是后面支持机器人走路、拿东西、做后空翻的这些技术有很多非常实际的应用。

这一点和我们今天造机器的想法完全不一样。飞机由很多部件组成,其中任何一个部件失灵了飞机就不能上天。但粒子机器人组成的机器人更像一种生物体,有头脑能够自我去建模发展,或许未来也能修复再生。

即便在我自己的实验室,有的研究人员比较重视应用。我们有一个项目是能做“抓”这个动作的机器人,他们会和工厂有很多的联系,去看现有这样的机器人和我们自己的机器人,能不能保证它抓10万次不出故障。

“类生命体”的机器人有什么好处?hod
lipson说,生物体是可以百分之百循环的。比如说你吃了一种食物,你的身体会把它所提供给你的有用物质进行循环,对它实现充分的利用。未来,也许有一种物理的机器也能够实现这样的循环,由数百万、上千万的小部件组成,成为一种可循环的生态系统。而这种机器人的初级应用,也许会出现在探索宇宙上,比如在探索月球时,这些机器人能够改变自己的形态去适应和探索环境。

对于科研人员来说,让机器人做这些事情就是在爬一个阶梯,是人在身体和智力上能做到的这些事情,让它像爬梯子一样一个一个得掌握,并且试着看一看我们在这方面能够走多远。

我们现在见到的可能有人的外形,也可能就是一截机械臂、一个大机器……你敢想象吗,未来机器人也许由无数个“细胞”机器人组成,不但有人形有自主意识,甚至可以跟《终结者》里那种机器人一样如水银泻地随意变幻外形,更能像人类一样,即使身上每天都有“细胞”老化死去,也一点不影响正常身体机能……

Hod
Lipson:这个问题非常好,作为人类来说,我们开始意识到这样一种强大的自主意识会出现,我们肯定会想到必须要确保这些技术会用于好的事情、善的事情。

或能用千万小部件模拟“类生命体”

Hod
Lipson:我不太确定我看到的情况和您的这个描述是一致的。因为我觉得中国也有很多人在做应用和基础研究,也有很多美国人在做应用方面的研究,中国这边也是两方面研究都有。

国际合作

我们现在希望能够有一种物理的机器,使它也能够实现这样的循环,这样它就由数百万、上千万的小部件组成,形成这样一个小粒子的生态系统。只有实现这样的生态系统,才有机会使我们维持使用很多机器的人类文明生生不息,因为这些机器自己可以照顾自己,但是应该说这是一个非常长远的目标,这不是一个明天就能用上的技术。

“未来机器人会拥有自主意识,但我并不担心”。作为“粒子机器人”研究团队的领头人之一,hod
lipson教授认为“不可避免会出现这样一天,这件事发生在10年之后还是100年之后我也不知道,但是我比较确信的是我们的孙辈所生活的世界里,机器将会有自我意识。”

但是,我个人仍然觉得它会在我们的有生之年达到微米。比如10年,或者说我不会想像做的比微米更小,我不会真的想像那时候就能做到纳米级,但是或许我们只能做到毫米级的,比如说像小的砂糖颗粒一样,毫米级的,那时候就可以做这样的细胞。

要让机器人自己来照顾管理自己

比如在外空有一些需要做的工作,或者是如果我们需要登上月球的话,我们就需要这些机器人能够根据任务的需求,改变自己的形态,在一些地方可能把材料运过去非常昂贵,我们需要重复使用我们的机器人,让它能够根据任务需求进行形态的调整。我个人想像,这很可能是这种机器人比较早的应用形态。

hod
lipson介绍,所谓的“粒子机器人”系统由许多单独的单元组成,单个粒子呈简洁的圆盘状,内置电池、通信模块、小电机,以及独特设计的机械结构。粒子机器人的每个部件都很简单,不能独立移动。但如果把三个粒子放在一起,粒子在接受指令伸缩时,就会与另外两个“邻居”产生互动,你推我拽,完成直线行走。加入更多的粒子之后,便可以完成更复杂的事情。由一群粒子组成的机器人,能在光线的引导下,四处移动、运送物体,以及躲避障碍物。

Hod
Lipson:你问粒子机器人能否模拟宇宙,我想我们这个机器人更多的是试图模拟生命,而不是模拟宇宙的发展和运行。

有人说中国和美国在人工智能、机器人领域的不同是中国可能研究更偏应用,美国基础研究做得更扎实。hod
lipson表示,自己并不认为如此,中美科学家两方面研究都有涉猎,在他自己的实验室,也是有的研究人员比较重视应用有的更重视基础理论。比如,他自己有一个项目是能做“抓”这个动作的机器人,研究人员会和工厂有很多的联系,去研究能不能保证它抓10万次不出故障,也有特别关注于机器人创造力和自我意识的人,这个更具有哲学性的思考。所以,在更广泛的人工智能和机器领域,实用和理论基础性的研究都在广泛进行。

我个人在这个问题上保持乐观态度。我认为自主意识的机器人带来的好处将会远远超过它的风险,因此我们要追求发展这样一个技术,因为我们现在已经发展和运用了很多机器,而这些机器的数量将会越来越多,它们也会越来越复杂,总有一天人类将无法直接照顾这么多、这么复杂的机器人,我们要想办法让机器人自己来照顾自己。

团队10个博士生中,有4个中国人

提问:您真的会觉得机器人会拥有自主意识吗?你担心它拥有自主意识吗?

“就像被很多人抨击侵犯隐私的脸部识别技术,却是寻找失踪孩童的一大助力;而可能发展为攻击武器的无人机,用在农业上,却是帮助农夫照顾作物的有益工具。所以,ai这面镜子只是‘放大了’人类的心思和一举一动,ai要往好的方向还是坏的方向发展,还是有赖于开发者和使用者的意图。我们现在已经发展和运用了很多机器,而这些机器的数量将会越来越多越来越复杂,总有一天人类将无法直接照顾这么多、这么复杂的机器人,我们要想办法让机器人自己来照顾自己。”

身体上的挑战也是一样的,我们会去问机器人能不能走路。走路这件事看上去非常简单,每一个儿童,甚至婴儿很小就开始学走路,并且学会了。但实际上教机器人走路比让它学国际象棋难得多,因为每一个人类都觉得我们特别擅长走路,所以我们不觉得走路这件事有什么难的,但是教机器人走路是非常困难的。

11月3日,全球多位权威科学家在北京集聚腾讯科学we大会,探秘未来“小宇宙”。会上,扬子晚报记者采访了新型“粒子机器人”研究者、美国哥伦比亚大学创意机器实验室总监、工程学教授hod
lipson。

我们试图让它模拟生物,特别是动物的机制。我们试图认识我们身体里所存在的这些粒子,或者更确切的说是细胞,每一个单个细胞都是不可靠的,而且大脑并不指挥每一个单个的细胞,这些细胞通过自己的随机运动组合在一起,最终产生了每一个真实的个人。

探秘未来

您会顾虑机器人具备独立开掘吗?行家:好处远超风险。所以,不管是哥伦比亚大学还是其它大学,其实都是如此。我想这也表明中美在这个领域的合作比历史上任何时候都要多,不仅在我们的项目组有中国学生,在大学的教职员工里面也有不少的中国人。

对于自主意识机器人威胁论,hod
lipson用“火”的例子来表达自己的观点——火非常危险,也非常强大。但人类是否希望自己从未发现火呢?答案是否定的。因为有了火之后,能做很多之前做不到的事情,比如吃熟食、取暖等等。具有自主意识的机器人既强大又危险,这个技术非常值得拥有,重要的是每个人都认识到这种机器人能够做什么、不能做什么,要确保将它用于好的事情上。

关于怎么办目前我们还没有完全想清楚。将来是让人工智能去监督人工智能,还是采取什么别的办法?但是总的来说最终要靠人类的伦理,指导我们在一个机器能够自主做出决定的新世界里,确保这些技术仍然用于好的事情。

hod
lipson告诉记者,未来,“粒子机器人”要做得更小,将像上千万的细胞那样组成机器人来运作。所以用纳米技术或者至少是微米技术是下一个目标。在粒子机器人的每一个部件足够小之前,是不可能有实用场景的。

但是在这两个国家都有大量的人做各种各样的研究,所以恐怕不能一下子判断中美出现这样一种不同偏好的原因。

此外也有特别关注于机器人创造力和自我意识的人,这个更具有哲学性的思考。恐怕只能说这个领域的内容如此丰富,所以一个人恐怕没有什么都关注到,但是放在国家尺度上,两国都既有实用研究,也有大量的基础研究,这就是我们这个学科和其它学科不一样的地方。

至于监管的问题,从目前来看,我们唯一能做的就是不断的谈论这样的事情,我们绝对不能关上门搞开发,要保持百分之百的开放。在我们的实验室白天黑夜都有记者找我们,他们会来拍照,会问问题,而且有些时候会问非常难回答、根本就没有答案的问题。

但是,在过去5年间,这一技术真的腾飞了。突然之间好像大家都在问这些伦理问题,但是正如我前面说过的那样,我们对这些伦理问题还没有答案,这个技术肯定会继续发展,而有自我意识的机器人也终将出现。

但是,这种科技向善的想法在很多地方都有人提出来,并且大家在不断的重复。比如我所在的哥伦比亚大学,我们有一个非常类似的说法,叫做数据向善,就是把数据用于善的事情,这是所有人类都希望能做的事情,关键还在于怎么做到,如何确保技术总是以好的方式得到运用,这一点是非常难的,确保人工智能完全用于好的事情并不容易,因为这个技术非常易用,也不需要投入很多钱就能够用上。技术本身既可以被用来做好事,也可以被用来做坏事,关键在于人类文明和人类社会应该想怎么把它用于好的事情,而不是坏的事情。

提问:粒子机器人是否能够在一个很小的空间内模拟宇宙?

做机器人主要在于新思路,你谈到了它的鲁棒性,你也提到了所谓的20%。其实这个20%只是我们测的一个数字而已,我们更关心的是一个想法,就是如何建造一种机器人,像人体一样,能够用这些不可靠的部件组成它,但是它作为一个整体仍然是像人体一样,可以正常的运行。

您提到我团队里面有中国人,其实我那里总共有10个博士生,里面有四个中国人,从硕士的学生来说,数量就更多了,大概占到了一半,可能大概有10多个。

这个也仍然是一个比喻,但是总的想法是它使我们能够试着模拟,或者试着复制一下生命的运行。

在机器人技术的发展领域,我想这是唯一的出路。可能我们进行大量的交流还不能确保这个技术一定是用于好的事情,但是至少通过这个讨论,人们可以了解到这种技术的危险性何在,而不是在未来某一天突然被它吓坏了。

Hod
Lipson:我非常期待明天的大会,而且我知道大会涉及到很多不同的主题,内容都非常有趣,这也使我想到中国和美国科学界的合作。

首先,就是它能够应对某个部件出现故障,但是整体不会出问题,可以完全循环。在今天我们看到的这些机器是不能够循环的,机器坏掉之后相当于把它埋葬了,或者说这个机器的某个金属部件、塑料部件是可以循环的,但是机器作为一个整体是不行的。

如果机器拥有了自我意识,你是否会为此感到担心?Hod
Lipson对此持乐观态度,他认为,“自主意识的机器人带来的好处将会远远超过它的风险”。

Hod
Lipson:我的回答是肯定的,也是否定的。因为我认为不可避免的会出现这样一天,这个世界上的机器获得自我的意识。这是一个非常伟大的事件,因为我们现在在逐步给这些机器系统一点一点添加智能。最终,它们会给自己找到一个模型,它们最终要想明白,并最终明白自己是什么,自己能做什么和不能做什么。

相关文章

Comment ()
评论是一种美德,说点什么吧,否则我会恨你的。。。