业务范围
联系我们

地址:这里是您的公司地址

电话:0896-98589990

传真:0896-98589990

邮箱:

新闻资讯当前位置:官网首页 > 新闻资讯 >
OpenAI“单手解魔方”被公开质疑,Gary Marcus称七大问题涉嫌误导

发布时间:2019-10-27

  

  来源:Twitter、Reddit

  这几天,人工智能领域最令人兴奋的进展莫过于“OpenAI 的机器手学会了单手解魔方”。

  OpenAI 在 10月 15 日发布这一成果,立即引起大量讨论。转魔方的视频被疯狂刷屏,仅 YouTube 的视频就有 20万观看,网友纷纷表示:人工智能机器人的一个新里程碑诞生了!这是机器人在机体灵活性以及机器学习软件方面的飞跃!

  OpenAI 使用强化学习和 Kociemba 算法训练神经网络来模拟解决魔方问题。研究人员专注于一个机器目前难以掌握的问题:感知和灵巧的操作。他们训练神经网络来实现由法生成的还原所需的旋转和翻转,并开发了一种称为自动域随机化的新方法,该算法能够无休止地在仿真中生成越来越困难的环境,从而让神经网络在模拟环境中学习解魔方,再迁移应用到现实世界。


“用机器手解决魔方”的背后有许多人手

  OpenAI 训练类人机器手来解魔方的尝试,早在 2017 年 5 月就开始了。之所以对解魔方情有独钟,是因为研究人员认为,如果能成功训练这样一只机器手来完成复杂的操作任务,就能为通用型机器人奠定基础。

  OpenAI 同时公开了一个机器手解魔方的完整视频,视频未经任何剪辑,可以看到,机器手灵活地操作魔方,在约 4 分钟的时间里成功还原了一个三阶魔方

  机器手还原魔方的完整过程,视频未经任何编辑然而,这一成果遭到了纽约大学心理学与认知科学教授、畅销书作家加里·马库斯(Gary Marcus)的质疑——OpenAI 声称“解决”了魔方,真的是这样吗?马库斯认为 OpenAI 还原魔方的博客内容存在误导性,他说:

鉴于 OpenAI 仍然没有更改关于“解决魔方”的误导性博客帖子(博客标题是“Solving Rubik’s Cube with a Robot Hand),所以我附上了详细的分析,将他们的说法和暗示与实际所做的进行了比较。依我之见,这些误导性对大多数对非专业人士来说并不明显。

  马库斯对 OpenAI“解决魔方”的 7 条质疑如下:

  1. 这不是神经网络解决的;而是有 17 年历史的符号算法做到的。
  2. 这种算法是先天的,而不是学习的。
  3. 强化学习在选择转向哪个方向(即大多数人所说的解决了魔方)时不起作用。
  4. 所学到的是物体操纵,而不是解魔方。
  5. 只有一个物体被操纵,并且没有测试对其他对象的可推广性。
  6. 该物体装配了大量仪器(如蓝牙传感器),机器手也安装了 LED。
  7. 成功率只有 20%;魔方经常从机器人手中掉落。

  他说:“我强调一下,这个成果本身给人留下了深刻的印象,但描述有误导,更恰当的标题应该是’用强化学习操纵魔方’或‘灵巧的机器人手操纵物体的进展”或类似的句子。”

  OpenAI 联合创始人、机器人团队负责人 Woj Zaremba 注意到马库斯的帖子,反驳道:

  1. 你的前三个论点是一样的。
  2. 泛化是从模拟到现实,而不是从一个物体到另一个物体。
  3. 我们没有装配仪器得到的结果稍微弱一些。
  4. 你确信我们不会将性能提升到 100%吗?

  马库斯回应道:

  1. 我的前两个论点完全不同:先天性≠象征性。这些是不同的。第三个论点有一点重叠,但并不明显。
  2. 我当然知道,但是为了稳健性,你需要推广到新物体上
  3. 我期待看到其他结果
  4. 我相信你们最终会做得更好。

  尽管是马库斯率先提出质疑,但不少人的回复并不赞同马库斯的说法,有人回复道:这是一个有缺陷的批评,基于对魔方的误解。魔方不是像围棋那样是一种可以学习的任务,而是需要记忆解法和熟练操作的任务;人类玩魔方也遵循一种算法。

  马库斯仍表示:总的来说,他们(OpenAI)没有对我的观点做出回应,我的观点是那篇博客的框架与论文的内容不相符合,虽然我同意这个工作很重要,但炒作是有误导性的。

  一、网友评论各执一词,马库斯是一针见血,还是吹毛求疵?

  马库斯在 Twitter 上也承认这个研究是个不错的研究,但博客文章中的一些说法用词不当,和实际不符,具有误导性。  

我的主要观点是,现在被热议的 OpenAI 的博客文章具有误导性;在技术论文中精挑细选出的东西并不能解决问题。我在推特上也详细讲了,文章本身的标题以及开头的框架都具有误导性。因此,文章本身有其自身的问题。

  OpenAI 博客中的结尾表示:“强化学习不仅可以作为虚拟任务的工具,而且可以解决需要前所未有的灵活性的真实世界中的问题。” 而马库斯认为,如果没有更强的泛化测试,就无法提出进一步的主张。5 个略有不同的 cube 实验,也不能让这个机械手学会拧紧螺丝,开锁或给衬衫系上扣子。

  所以,这些问题的解决实际上无从谈起。Twitter 上有人对马库斯表示支持,认为 OpenAI 的博客中的说法和实际确实存在实际差异。这种夸大其词可能导致大众对技术的盲目信任,进而造成消极后果,比如特斯拉的撞车事故。

  马库斯自己还发了个投票:

  不过从 600 多人的投票结果看,支持“解决魔方”应包括认知和操纵两方面的占大多数。在 Twitter 上不断 “放炮” 的同时,这场辩论的战火不了避免地转到了其他平台,比如 Reddit。

  有网友搬运了马库斯在 Twitter 上发出的对 OpenAI 博客文章的 7 点详细意见,并配了贴图。但从网友讨论来看,支持马库斯的不多。更多的人认为他这是过于苛刻,咬文嚼字,没事找事。比如下边这位就说,他觉得马库斯写的这 7 点摘要比 OpenAI 博客文章更具误导性。

  关注点 1-4:“神经网络没有解决问题;解决问题的是具有 17 年历史的符号 AI 算法。”博客:“我们使用强化学习和 Kociemba 的算法来选择求解步骤,训练神经网络来解决仿真中的魔方。”

  关注点 5:“只有一个对象被操纵,没有对其他对象的可推广性测试”博客:测试使用了五种不同的原型,一个锁紧的模仿,一个面部立方体,一个完整的立方体,一个吉克魔方和一个 “常规” 魔方。这篇文章从来没有声称要解决魔方的问题。

  关注点 6:“该物体已被植入大量设备(比如带有蓝牙功能传感器)。玩魔方的手上也装有 LED。”博客:五个不同的原型中置入了不同级别的仪器。“常规” 魔方没有置入任何设备,只是从中心正方形上切除小角,以消除对称性。

  关注点 7:“成功率只有 20%;魔方经常掉落。”博客:“尽管如此,我们的机器人仍未完善其技术,因为只有 60% 的成功几率(而最困难的情况下只有 20% 的成功几率)。”

  而且下文专门开了一段来说这个问题。还有人认为,马库斯实在是过于挑剔了,过于纠结于实际上并不重要的问题。

  我承认马库斯是一个能言善辩的人。但我觉得他过于迂腐,以至于无视于眼前的实际问题,大多数外行人都有能力阅读文章的背后之意,查看研究或博客文章的内容。

  你可以去追求学术上的精确,但是那些真正关心这些东西的人很可能会陷入困境。我们都对他列出的几条问题有所了解,但至少其中大多数。在这种情况下几乎是无关紧要的,甚至像 “泛化性”之类的重要论点,在机器人的高灵敏度这一主要问题面前,也显得不那么重要了。

  我明白,不同的人会以不同的严谨程度来对待这个问题,并且我也理解马库斯的担忧,但我认为,对于 OpenAI 的公开批评过于挑剔,这些问题本身对这次讨论并不重要。

  二、马库斯是谁?深度学习怀疑论者


Gary Marcus

  加里·马库斯(Gary Marcus)是一位科学家、畅销书作家和企业家。他是 Robust.AI 公司的创始人和首席执行官,Geometric Intelligence 公司(2016 年被优步收购)的创始人兼首席执行官,出版著作包括《代数思维》、《怪诞脑科学(Kluge)》、《思维的诞生》等,最新著作是与 Ernest Davis 合著的《Rebooting AI :构建我们可以信任的人工智能》。

  马库斯也是著名的深度学习怀疑论者。作为认知心理学家,他一直高调参与人工智能辩论,与 Yann LeCun、AAAI 前主席 Thomas Dietterich 等 AI 大牛都展开过激烈辩论。

  他曾撰文批判深度学习(Marcus, 2018),称深度学习实际上并没解决什么问题。这篇文章引起了人工智能圈极大的反响,几天之内,成千上万的人在推特上发表了自己对这个问题的看法,有些人热情支持马库斯的论点(例如,“这是我多年来读到的有关深度学习和 AI 的最好的观点),有些相反(例如,“有思考...... 但大部分都是错误的”)。

  在那篇批判深度学习的文章中,马库斯概括了深度学习的十大挑战,直言深度学习本身虽然有用,但它不可能实现通用人工智能。他建议把深度学习视为“一种非普遍的解决方法,而只是一种工具。”

  他说:“相比纯粹的深度学习,我呼吁混合模型,不仅包括深度学习的监督形式,还包括其他技术,例如符号处理(symbol-manipulation),以及无监督学习(它本身也可能被重新概念化)。我也敦促社区考虑将更多的内在结构纳入 AI 系统。”


地址: 电话:
Copyright © 2018 凯发国际娱乐网址凯发国际娱乐网址-凯发会员-凯发网娱乐 All Rights Reserved