ICRA精选：深度学习用于机器人抓取的正确打开方式？

这次不用花三个月采数据了，只用仿真数据即可进行训练。...

“

今年的机器人顶级会议ICRA 2017有不少炫酷的新作品发布。这篇文章来介绍一个manipulation方面我感觉很有意思的工作：使用深度学习进行二维抓取。作者来自UCBerkeley AutoLab (Ken Goldberg组)。

几个要点：

1. 感知基于点云，抓取是平面二指抓取。
2. 使用仿真生成的数据进行训练。
3. 用传统的基于模型的方法对仿真生成的数据进行标记。
4. 在线运行时，能够以80%的成功率抓取模型未知的物体。

抓取

难点在哪

抓取是manipulation里最常见的问题之一。早期对抓取的研究有很多在判定一个稳定的抓取是否形成，比如是否满足force closure（手指与物体的接触点是否可以产生抵抗任意方向大小的外力）。除了通常意义上的稳定抓取，另一种限制物体位置的方式是caging，即通过放置手指，让物体无法离开一个区域。

Force closure的判定方法早就有了。所以一种最简单直接的抓取算法思路如下：1. 随便选一个抓取的位置。（比如在物体表面采样一对点，有很多方法可以做这件事）

2. 判断这个抓取的位置是否能形成force closure

3. 如果是，执行这个抓取。如果否，回到第一步。

这个方法计算量不算大，对多数物体你可以采样几十组点就轻松找到一个不错的抓取。看上去抓取问题就被解决了？不，这只解决了最简单的情形，即：

1. 物体形状已知。
2. 对物体位置的感知完全精确。
3. 环境中没有障碍物。

如果这三个假设都被满足，这样的抓取问题是四十年前的研究者们已经解决了的。然而对于实际应用中的问题而言，这些假设往往很难被满足，而一旦离开了这些假设，抓取问题可以变得任意困难，比如“抓取任何形状的物体”，“在没有感知的情况下抓取物体”，“把压箱底的书取出来”。也正因为如此，对抓取的研究才至今仍非常活跃。

问题

描述

今天讲到的这篇文章尝试解决基于点云平面抓取问题。机器人使用二指平行抓手（parallel gripper），物体放在没有障碍物的平面上。对物体的感知来自于深度摄像头自上而下拍摄的一张图片以及从中获取的物体点云数据。抓取过程被简化成“放下，合拢手指，拿起”三步，机械手始终保持手指向下，整个抓取动作只用三个量描述：手掌平面位置x，y和手指朝向。算法要做的就是根据摄像头数据，给出一组这样的动作参数以实现抓取。

基于深度摄像头的抓取，传统方法中最可靠的方式是先根据点云数据进行图像分割、物体识别以及物体的位姿估计，再根据物体几何结构选择合适的抓取位置。这种方法要求物体模型已知。同时，在衡量抓取位置优劣时要考虑到感知系统的不确定性，而非简单地计算是否形成force closure：1. 从图像中识别出物体种类，估计物体位姿。

2. 根据物体几何结构随便选N个抓取的位置。

3. 根据某个评价函数，为每个抓取位置打分。

4. 选择得分最高的抓取位置执行。

传统方法的主要缺点是环节较多，每一环都有不少参数要调整，因此整个系统使用起来的人工复杂度比较高。这也催生了近年来比较火的基于深度学习进行抓取的方法，采用卷积神经网络来描述一个从图像直接到抓取位置的映射：1. 从图像中直接获取抓取位置并执行。

比如CMU RI的Gupta组，把抓取位置进一步简化为仅判断抓取的角度，并使用多达五万次机器人抓取实验数据来训练所需的神经网络[2]。Google DeepMind 尝试从一堆物体中进行抓取，场景更复杂，因而也使用了更大的数据量（超过八十万次抓取，十几台机械臂花了两个多月才收集完数据）[3]。这种方法看上去直接，然而实际使用起来采数据所花的人力物力远超过传统方法。

于是便有了今天这篇文章：在训练集中用仿真数据代替大部分实验数据，减少对实物实验的依赖。然而对于manipulation问题而言，用仿真代替实验多数情况下是行不通的，目前最好的仿真引擎在处理接触和碰撞时和实际物理仍有较大差距，仿真时间越长，差别越明显。这就导致在仿真中能完美工作的算法，在实验中常常偏差巨大。

为了让仿真数据能用来训练神经网络，这篇文章有几个值得注意的地方：1. 在仿真中人为引入模型误差，这样训练出来的结果起码能对付人工引入的噪声；2. 定量衡量一个抓取的抗干扰能力，以此作为依据在多个候选解中取最优。3. 我认为是最重要的一点，虽然文章中没有明确提出但贯穿整篇文章：把抓取表述成一个规模合适的问题。不考虑复杂的抓取动作，不考虑背景干扰或遮挡，最重要的是不做端到端，神经网络不需要直接输出抓取位置，而是仅需要做一个评价函数，对一个给定的抓取位置打一个分数。问题的复杂度降低后，仿真的失真带来的不利影响也随之变小。使用这样训练出来的神经网络，相比算法2.0我们仍可以省略掉步骤一，于是有了最终版算法：1. 在点云上随便选N个抓取的位置。


2. 根据训练好的CNN评价函数，为每个抓取位置打分。

3. 选择得分最高的抓取位置执行。

下一节就来详细介绍神经网络评价函数是如何得到的。

离线训练

抓取评价函数

为了训练评价函数神经网络，在这篇文章中作者使用仿真的方式生成训练数据。

将1500个不同物体的3D模型，随机摆成各种姿态并渲染出深度摄像头拍摄到的点云。在每种姿态下再随机生成最多100个抓取位置。摩擦力模型使用库仑摩擦，摩擦系数按正态分布随机选取，最终总共得到了多达六百七十万个不同的点云+抓取位置组合。最后将每一张点云图进行旋转缩放，让每张图片中的抓取位置都在中心，这样就不必额外为抓取位置增加输入的维度。

对于每一个训练数据，使用[4]提出的抓取鲁棒性标准对其抓取质量进行衡量，得到的分数作为label。

这些数据被用来训练一个抓取质量衡量网络（Grasp Quality CNN）。其结构比较特别，输入的点云数据经过四层ReLU单元的卷积层，和抓取高度z一同再经过三层全连接层。注意的这里抓取高度z并不包含在训练数据里，而是在手爪中心和桌面间随机选取的。这套算法并不主动选取抓取高度。网络的输出是对所输入的抓取质量的评估值，一个标量。

CNN的训练使用SGD。和很多其他神经网络的训练一样，你需要加上一堆各种各样的trick才能训练出好的结果，比如梯度加momentum啊，按什么分布选权重初值啊，分批次加噪声啊等等，这些都是搬砖学生用血汗调出来的。感兴趣的朋友可以去看论文原文。

实验一

抓取3D打印物体实验平台采用ABB的柔性协作机器人YuMi，和一个AutoLab自己开发的平行夹手。这个机械手上貌似有一些传感器，不过在这篇文章里都没有用到。

在第一个实验中，作者从物体模型库中选择了8个较复杂的形状3D打印出来作为测试抓取的对象。为了与GQ-CNN进行比较，作者还实现了包括随机抓取和传统方法（前述算法2.0）在内的五种方法，每种方法对每个物体抓取10次。

结果如下图所示。在模型已知的情况下，传统方法（REG-K）取得了最高的成功率（95%），而作者提出的神经网络方法GQ的成功率略微低一些（93%）。而且传统方法95%的成功率是在步骤一物体识别成功率仅93%的情况下得到的，也就是说如果明确知道被抓的物体是哪一个，传统方法也许几乎能保证抓取。

不过神经网络方法的一个明显好处是在线计算速度快，用时是REG-K的三分之一。实验二

抓取未知物体

一个更有意思的实验是抓取未知物体。作者选取了10个不在模型库中的常见物体用于测试，这些物体的形状、材料、重量都各不相同，如下图所示：作者同样测试了多种方法。面对形状未知的物体，深度学习的方法取得了最好的效果（80%成功率）。而传统方法REG因为依赖模型，在模型不对的情况下完全没法发挥作用，成功率最低（52%）。IGQ是不依赖模型的传统方法，直接在图像中识别到的物体轮廓上找抓取点，获得了60%的成功率。评论

这篇文章我觉得最有意思的地方是其使用深度学习的方式——取代传统方法中较困难但问题规模有限的一环。结果是让仿真数据变得有用，并获得了泛化（generalization）的能力。

这篇文章主要的槽点，也是前述的几个使用深度学习做抓取的工作的共同槽点，就是他们都把抓取问题本身简化到非常容易的程度了，不具备太多代表性。比如在这篇文章里的实验环境下，即使随机抓取也有高达58%的成功率。DeepMind 的抓取实验，随机抓也有11%的成功率。约束少，不确定度较小，这种情况下往往存在朴素而有效的解决方案，比如上个大小合适的吸盘。

还有很多抓取问题，其解空间相对于动作空间是非常非常小的，比如感知系统误差较大的情况，比如从一堆摞在一起的物体中取出特定的一个。

实验二面对未知物体确实挺有意思，希望以后能设法进一步提高成功率。

    关注 机器人学家