衡水专业制作网站,上海有哪些建设工程公司,重庆建设银行网站,怎么给网站做推广来源#xff1a; 机器人大讲堂从阿西莫夫提出机器人三定律已经过去70多年了。现在#xff0c;科技巨头试水机器人的新闻也密集起来。比如8月里#xff0c;小米发布了全尺寸人形仿生机器人“CyberOne”#xff0c;别号“铁蛋”。特斯拉宣布将在今年9月30日推出人形机器人Opt…来源 机器人大讲堂从阿西莫夫提出机器人三定律已经过去70多年了。现在科技巨头试水机器人的新闻也密集起来。比如8月里小米发布了全尺寸人形仿生机器人“CyberOne”别号“铁蛋”。特斯拉宣布将在今年9月30日推出人形机器人Optimus擎天柱原型机马斯克称其为特斯拉今年“最重要的产品”。腾讯发布了一款能在梅花桩上旋转踏步、单桩跳跃、双轮站立的多模态四足机器人。在2022世界机器人大会上三位院士纵论了《未来机器人目标、路径和挑战》这一宏大话题。整场对话由世界工程组织联合会前任主席、中国电子学会副理事长龚克担任主持中国科学院院士、清华大学人工智能研究院名誉院长张钹中国工程院院士、中科院沈阳自动化研究所机器人技术国家工程研究中心主任王天然中国科学院院士、中国科学院自动化研究所研究员乔红担任对话嘉宾。机器人的发展目标是什么机器人和人工智能的关系是什么机器人有伦理道德方面的问题吗研究机器人的人应该怎么做以下为对话主要内容有删减谈工作经历我们做的机器人一般是笛卡尔坐标的但人就是活生生的人张钹我从1978年开始在清华大学的人工智能智能控制教研组从事人工智能的研究和教学。那个时候机器人跟人工智能还没有完全分家。我们自然也会去做机器人的工作。1980年到1982年我到美国伊利诺伊香槟分校访问做的第一件事就跟机器人有关是机器人运动规划。1984年我在IEEE发表的第一篇文章也是关于机器人的运动规划。回国以后1985年我首先在清华大学建立了智能机器人实验室那时候我主要从事视觉方面的工作。刚好实验室成立不久国家成立了863计划我参加了智能机器人主题专家组从1986年到1994年参加了三届主要负责人工智能方面的工作。1991年我们跟国防科技大及其他一些大学联合承担了国家任务——移动机器人的研制任务。像我们大家现在非常熟悉的自动驾驶车这个工作一直延续到今天我们还继续在做。我主要做的工作是智能控制、视觉机器人规划。我只是在机器人领域里做了人工智能方面的工作所以更加偏重于智能机器人。张钹。来源视频截图王天然我一直在中国科学院沈阳自动化研究所工作。上世纪70年代我在我们老所长蒋新松院士领导下开展机器方面的工作。我的主要工作是在工业机器人领域后来我们把工业机器人控制系统变成产品、让它产业化。在我们的共同努力下我们建立了一家以工业机器人自研技术为主的企业成为中国第一个上市的机器人公司。中国科学院沈阳自动化研究所有机器人学国家重点实验室和机器人技术国家工程研究中心我目前也是研究中心的主任。王天然。来源视频截图乔红我自己最初是从事机器人偏机械的工作。我从西安交大毕业后就出国2004年回国察觉到模式识别非常热可以成为机器人的眼睛所以我开始对模式识别感兴趣。我们做的机器人一般是笛卡尔坐标的。但是人就是这样活生生的人。他们怎么能够成为朋友后来我又对人的神经科学产生了兴趣。现在我是多模态人工智能系统实验室的主任这是一间新成立的全国重点实验室。我们想把人工智能和机器人结合起来。乔红。来源视频截图谈机器人与人工智能的分野机器人让大家误解成他是一个人人工智能让大家以为人工智能是做智能的乔红人工智能和机器人智能有关系但是机器人有硬件。机器人有本体它启动之后本体一直在循环之中而且行动目标不一样。它的本体意味着软硬件的充分结合所以我认为人工智能和机器人是有交叉的。本体做不到的时候人工智能和控制可以帮助硬件部分去实现目标。王天然不好说将来的机器人究竟什么样。因为有人已经提出分布式工业机器人。谁规定机器人胳膊都得连在一起你要能分开那就厉害了。所以将来会五花八门。如果今天真的有人造肌肉可以代替钢铁机械臂那么过去人们搞的动力学、运动学都要重写了。这将会是颠覆性的。张钹从现在的情况来看机器人跟人工智能是完全独立的两个领域。这两个领域或者学科的目标是完全不同的。人工智能的目标是什么是用机器来模仿人类的智能行为追求的是机器的行为跟人类的行为越相似越好追求的是所谓的similarity相似。但模拟人类的智能行为只是机器人的手段之一。它的目标是协助人类完成某种任务这个任务原来是由人来完成的。它追求的目标是functionality实用。机器人的研究内容大致可概括成三大方面第一执行机构。机器人要在物理世界里去完成一定任务它必须得有执行机构。执行机构可以是仿人、仿动物也可以不仿。从目前具体情况来看很多机器人是建立在电机跟齿轮传动结构的基础上。人工智能不一定要做执行机构。第二能源。对移动机器人来讲要完成一定任务高效的能源是一个关键问题而人工智能不研究能源的问题。第三是个“大口袋”问题我们把它叫做智能控制。包括控制、人工智能、传感器、环境感知。机器人的第三个问题才跟人工智能有些重叠这个重叠体现在智能机器人的一部分工作上。总结来讲机器人不是人是机器。机器人这个名字让大家误解成他是一个人。人工智能这个名字也不好让大家以为人工智能是做智能的。但其实我们现在对智能的了解非常非常少我们没法去做智能我们只能模仿智能的行为——智能的外部表现。所以请大家要注意这两个区别。至于它的前途我认为会是多种多样的。在机器人和人工智能里也有这方面的争论——通用的人工智能要不要弄这件事的必要性和可能性都有可以争论的地方。有必要去做个机器来代替人吗我们人还不够吗如果我们需要人的话我们自己多生一些人不就完了非得造一个跟人完全一样的人所以我认为必要性本身不是很大。谈机器人与人类的关系我们和机器人有没有可能成为兄弟主要在于我们会不会演变为互相伤害的关系王天然有人说将来机器人统治人类了、很危险了我认为这个东西是过于科幻。如果人造机器的话它就不可能达到这个目标。现在还有一种说法造出机器人就是为了取代人。我认为机器人可以在某些环境下代替人做艰苦的劳动但他的目的不是要跟人争夺同样的岗位。将机器人说成取代人这是故意把人和机器的矛盾挑起来。其实不是这样的。人和机器到底应该是什么关系是很重要的一件事情。将来最好的办法是他要能替你服务最好是伙伴关系最好是他宛如同类。乔红我们原来做了一个科技部的重点项目这个项目里当时有机器人智能发育的题目。发育这个词我觉得有点超前但是是指南里面写到的。我们还是期望人和机能够更近一点。我觉得咱们国家现在的科研确实特别的宽容。有的机器人研究是从功能倒推问题的——我需要这个功能我要怎么办还有一种研究给了我们胡思乱想的机会。例如人有这个特点它的机理是什么、能不能复制到机器上。我们当时是这样定义机器人的智能发育的发育就是指第一它可以自主学习第二是越来越复杂第三是lifelong永远地学习。这三个要求实际上挺难做到。我认为机器人和人之间特别大的一个区别是人有意识、有情感、有自己目标但机器人没有目标也没有真实的情绪。人有杏仁核和前额叶导致人有理性和感性。这个部分要不要复制也是一个问题目前并没有在机器人里产生真正的复制。王天然机器人现在可以手把手地施教。现在有人会租机器来使用。工业机器人、协作机器人现在仍然有一定的局限但是它的发展目标是将来跟人的关系像师徒关系一样我跟着师傅学然后帮着师傅干活人是师傅它是徒弟。还有一种像现在医疗上的外骨骼机器人可以帮人解决残疾可以助力。但是人身上背着一个钢铁的东西还是相当不舒服的也不能很好地协调。未来最好是能实现人怎么想机器人都知道机器人要怎么做人也都能知道。所以我给机器人定的发展目标是宛如手足将来最好是能宛如同类。张钹masterslave或者我们大家是brothers。我们的愿望是和机器人成为兄弟但是有没有可能成为兄弟主要在于我们跟他的关系会不会演变为互相伤害的关系。这是现在人工智能治理提出来的问题。目前我们大家越来越认识到这个可能性是存在的。当初包括阿西莫夫、霍金他们提出来这个观点时认为这个问题在机器身上如果机器发展到有意识它的智能超过我们我们就失去了对它的控制。因此人类对这样的机器人要加以限制、治理。但随着人工智能发展起来以后大家发现这个问题不完全是这样。当机器人智能很低的时候我们就处在危险的状态了。为什么我们处于不可控的状态。比如说现在用深度学习的方法来做一些事情这个人工智能算法是非常危险、非常不鲁棒注是在异常和危险情况下系统生存的能力、没有可靠性保障的。如果我们运用了人工智能的算法它必然会带来对人类的伤害所以它已经变成了一个现实问题。所以我们提出来的第三代人工智能就是要解决第二代人工智能算法不安全、不可靠、不可信、不可控的问题。今天法国科学家、Verimag实验室创办人兼退休高级CNRS研究员、2007年图灵奖获得者Joseph Sifakis也讲到这个问题。他最后提出来的模型是加上端对端的学习。实际上大家一样认识到纯粹靠数据驱动的方法必然是不鲁棒的必然是不可解释的必然是不可靠的。这个是必然性。怎么来解决这样问题唯一的可能性就加上知识。Joseph Sifakis说加上模型。第一代人工智能主要方法是知识驱动。第二代人工智能最主要的方法是数据驱动。这两个办法都有片面性必须把两个方法加起来机器才有可能发展出来成为可靠的、安全的、可信的人工智能进而发展出可信的智能机器人。谈机器人的伦理与道德外界关心的是机器人的伦理问题还是机器人设计者所掌握伦理的问题乔红伦理在机器人领域的确讨论得比较早。我自己的想法是机器人成为我们主人这件事肯定是不应该允许的。因为机器人当时的定义就是说不能伤害人类。所以我觉得建立法律还是很重要的。对一个人的约束有两种。高端的是说你要有道德所以你要有文化低端的是说你如果干这件事你该受罚了。对于机器人我们把它作为一个个体我们可以很近但是亲兄弟也要明算账。所以应该对它进行道德上的约束、法律约束。概念上你又把它框在笼子里了。我们可以很近但是我们得算清楚。道德的约束我觉得比较难。比如说车往前开会撞到谁不往前开又会撞谁对吧对人尚且也有难度。但是我认为还是应该尽量对机器人提前约束这样机器人发展到后面会是相对安全和健康的。龚克我理解自动驾驶汽车也是行走的机器人。我到好多实验室参观他们的自动驾驶我做过一些小尝试在自动驾驶汽车行驶过程中我曾经尝试了一下人工踩油门、要加速去撞前面的目标。最早三年前有的实验室的自动驾驶汽车它就不动了有的实验室的车就撞上去了。这两年我做过试验几乎所有实验室的车都停下了。我想这就是把一定的伦理植入到机器人的控制里面去了甚至能防止人类杀手开着车去撞人。张钹伦理的问题现在变得非常重要。大家对机器人的认识有两个阶段第一个阶段是阿西莫夫认为机器人如果智能超过我们或者有意识以后我们如何让机器人能够按照伦理的准则来行为第二个阶段人类如何按照伦理的原则来设计和使用机器人其实这个问题非常不简单。为什么引起全世界的关注这里遇到三大难题第一个难题是标准和法规的问题。什么是道德什么是不道德这个本身就有非常大的争议。比如大家常常举这个例子刹车失灵了前面可能撞上5个人你如果打舵的话就会撞上另外1个人你究竟打不打舵第二个问题对机器来讲假设道德规范有了你不能撞人那么他是不是一定不撞人这就涉及到机器人的行为可控不可控。你得给机器人一定的灵活性他才能有创造性他才能自主解决问题。但我们给他灵活性给他创造性给他自主性必然要付出代价。第三对人类来讲我们要求每个人在设计、使用机器人的时候都要遵守伦理的原则。但有的人根本不遵守。其实每一项技术、每一种机器都有不可预测性。非常明显的例子深度学习用模式识别来做它的识别率提高非常多但没有预计到这种办法实际上鲁棒性非常差引起很大的安全问题是人家没预计到的。每一个工作即使你定了很严格的规律很多东西你是预测不到的。由于这三个困难实际上造成人工智能或者智能机器人的治理会有非常大的困难。王天然我想问张老师一个问题。您认为外界关心的是机器人的伦理问题还是关心设计机器人的人所掌握伦理的问题张钹实际上现在最主要关心两个方面一方面你是不是会滥用或误用机器人特别现在滥用人工智能非常严重机器人将来肯定会被滥用为什么比如作战机器人、杀人机器人就是一种滥用。另外你在设计的过程中间要做好评估和预测不能随随便便定一个规划。学术界更多是讨论机器人的问题因为比较吸引人大家看得比较长远一点。但是在我们看起来我们基本算工程师我们工程师是看眼前的。王天然机器人的感知、推理、行为这些都在发展不一定都是用人工智能的技术有可能是用其他方法。其他方法仍然也会有伦理问题。你用了人工智能技术有可能产生新的伦理问题。伦理问题是人工智能技术带来的还是机器人本身带来的我有点想推脱责任笑。张钹我认为主要是我们带来的。寄语年轻工作者机器人是eater啥技术都吃年轻人应具备宏观力、执行力和开放度张钹因为这个是世界机器人大会所以我认为我们刚才谈的那些问题都可以通过全世界团结起来共同来发展合作创新能够让机器人健康发展造福全人类。治理的问题有很多难题但是从技术上很多人提出有三方面的工作可以来解决治理问题。一方面的工作要研究新的分析工具主要是形式逻辑加上伦理推理或者伦理的分析。第二方面在那些道德与不道德很难做出定义的地方我们可以给出样本。对那些没法定义的问题可以通过标注数据来学习。最后一个是模拟仿真。像无人车就是这样你要大量的做实验让他跑。通过实验、通过模拟来发现他的问题逐步解决。王天然上世纪末2000年以前我们工作的重点都在工业机器人的精度可靠性、控制多少轴怎么用的好、灵巧性。相关的技术不断支持下机器人的前途将非常灿烂。因此有人说现在是机器人发展的黄金时代各个学科的融合又会在机器人身上充分体现。我记得当年好像有一个意大利学者就管机器人叫eater它是啥的技术都吃。所以我想其实机器人研究需要全世界各地的人包括我们中国青年抓住这样的机会去发现、创造出新的东西来。乔红我也讲三个很抽象的点。第一句话我觉得年轻的学者首先还是要保持宏观力。这个宏观力就是宽容度社会对你的需要他人对你的期望不同领域不同的声音这还是需要的。如果没有这种flexibility你就不能够接触社会对你的期望、社会对你的支持。第二个部分还是要自强自立就是执行力。怎么把这件事情一步一步的坚定地执行下去需要逻辑力、执行力和坚定的意志。一个是宏观的Flexiblility一个是强硬的执行力。第三个我觉得很重要是开放度。很多的年轻的学者本身很强但是他不能够接纳其他的人进入他的小领域。这个就造成了他不能够学习和成长。所以我就送给大家这三个词就是宏观力、执行力和开放度。未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市大脑研究计划构建互联网城市大脑技术和企业图谱为提升企业行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
