以前在外围防御游戏中的研究主要集中在完全可观察到的环境上，在该环境中，所有玩家都知道真正的玩家状态。但是，这对于实际实施而言是不现实的，因为捍卫者可能必须感知入侵者并估计其国家。在这项工作中，我们在照片真实的模拟器和现实世界中研究外围防御游戏，要求捍卫者从视力中估算入侵者状态。我们通过域随机化训练一个基于机器学习的系统，用于入侵者姿势检测，该系统汇总了多个视图，以减少状态估计错误并适应防御策略来解决此问题。我们新介绍性能指标来评估基于视觉的外围防御。通过广泛的实验，我们表明我们的方法改善了国家的估计，最终在两场比赛中的VS-1-Intruder游戏和2-Fefenders-VS-1-Intruder游戏中最终进行了外围防御性能。

近年来，空中机器人背景下的高速导航和环境互动已成为几个学术和工业研究研究的兴趣领域。特别是，由于其若干环境中的潜在可用性，因此搜索和拦截（SAI）应用程序造成引人注目的研究区域。尽管如此，SAI任务涉及有关感官权重，板载计算资源，致动设计和感知和控制算法的具有挑战性的发展。在这项工作中，已经提出了一种用于高速对象抓握的全自动空中机器人。作为一个额外的子任务，我们的系统能够自主地刺穿位于靠近表面的杆中的气球。我们的第一款贡献是在致动和感觉水平的致动和感觉水平的空中机器人的设计，包括具有额外传感器的新型夹具设计，使机器人能够高速抓住物体。第二种贡献是一种完整的软件框架，包括感知，状态估计，运动计划，运动控制和任务控制，以便快速且强大地执行自主掌握任务。我们的方法已在一个具有挑战性的国际竞争中验证，并显示出突出的结果，能够在室外环境中以6米/分来自动搜索，遵循和掌握移动物体

基于视觉的感知任务在机器人技术中扮演着重要角色，促进解决许多具有挑战性的情景的解决方案，例如自动无人驾驶汽车（UAV）的杂技演习以及机器人辅助的高精度手术。大多数以控制为导向的和以自负的感知问题通常是通过利用机器人状态估计作为辅助输入来解决的，尤其是当人工智能进入图片时。在这项工作中，我们建议第一次采用类似的方法（据我们所知），将目标变量引用于外部主题。我们证明了我们的一般和直观方法论如何改善深层卷积神经网络（CNN）的回归性能，并具有模棱两可的问题，例如同类3D姿势估计。通过分析三个高度差异的用例，从用机器人臂抓住到具有袖珍尺寸无人机的人类受试者，我们的结果始终将R2度量提高到+0.514，而不是其无状态基准。最后，我们验证了人类姿势估计任务中闭环自动袋大小的无人机的现场性能。我们的结果表明，在我们的状态CNN的平均绝对误差上，平均降低了24％。

我们为路边摄像机提出了一个针对交通现场的新颖务实框架。提出的框架涵盖了基础架构辅助自动驾驶的路边知觉管道的全堆，包括对象检测，对象定位，对象跟踪和多相机信息融合。与以前的基于视觉的感知框架依赖于深度偏移或训练中的3D注释不同，我们采用模块化解耦设计并引入基于具有里程碑意义的3D本地化方法，在此方法可以很好地解耦，以便可以轻松地训练该模型仅基于2D注释。所提出的框架适用于带有针孔或鱼眼镜的光相机或热摄像机。我们的框架部署在位于Ellsworth Rd的两车道回旋处。和美国密歇根州安阿伯市的State St.，提供7x24实时交通流量监测和高精度车辆轨迹提取。整个系统在低功率边缘计算设备上有效地运行，全部端到端延迟小于20ms。

本文介绍了一个基于立体图像的视觉伺服系统，用于通过非全面机器人的轨迹跟踪，而没有外部派生的姿势信息或已知的环境可视地图。它称为轨迹宣传片。关键组件是一种基于功能的间接同时定位和映射（SLAM）方法，可提供具有估计深度的可用功能池，因此可以及时向前传播它们以生成图像特征轨迹进行视觉伺服。短距离和长距离实验显示了轨迹伺服的好处，可以导航未知区域而没有绝对定位。从经验上讲，当两者都依靠相同的基础大满贯系统时，轨迹宣传片比基于姿势的反馈具有更好的轨迹跟踪性能。

Mohamed Bin Zayed国际机器人挑战（MBZIRC）2020为无人机（无人机）构成了不同的挑战。我们提供了四个量身定制的无人机，专门为MBZIRC的单独空中机器人任务开发，包括自定义硬件和软件组件。在挑战1中，使用高效率，车载对象检测管道进行目标UAV，以捕获来自目标UAV的球。第二个UAV使用类似的检测方法来查找和流行散落在整个竞技场的气球。对于挑战2，我们展示了一种能够自主空中操作的更大的无人机：从相机图像找到并跟踪砖。随后，将它们接近，挑选，运输并放在墙上。最后，在挑战3中，我们的UAV自动发现使用LIDAR和热敏摄像机的火灾。它用船上灭火器熄灭火灾。虽然每个机器人都具有任务特定的子系统，但所有无人机都依赖于为该特定和未来竞争开发的标准软件堆栈。我们介绍了我们最开源的软件解决方案，包括系统配置，监控，强大无线通信，高级控制和敏捷轨迹生成的工具。为了解决MBZirc 2020任务，我们在多个研究领域提出了机器视觉和轨迹生成的多个研究领域。我们介绍了我们的科学贡献，这些贡献构成了我们的算法和系统的基础，并分析了在阿布扎比的MBZIRC竞赛2020年的结果，我们的系统在大挑战中达到了第二名。此外，我们讨论了我们参与这种复杂的机器人挑战的经验教训。

在本文中，我们推导了机器人来测量相对方向或到达角度（AOA）的新能力，以在非视线和未映射的环境中运行的其他机器人，而无需外部基础架构。我们通过捕获WiFi信号在从发送到接收机器人时遍历的所有路径来这样做，这是我们术语AOA简档。当机器人在3D空间中移动时，关键直觉是“在空中模拟空气中的天线阵列”，一种类似于合成孔径雷达（SAR）的方法。主要贡献包括i）一个框架，以适应任意3D轨迹的框架，以及所有机器人的持续移动性，而计算AOA配置文件和II）随附的分析，其提供了作为机器人轨迹的函数的AOA估计方差的较低限制基于Cramer Rao绑定的几何。这是一个关键的区别与先前的SAR的工作，限制机器人移动到规定的运动模式，不概括到3D空间，和/或在数据采集时段期间需要将机器人发送到静态。我们的方法导致更准确的AOA配置文件，从而更好地估计，并正式地将该观察表征为轨迹的信息性;我们推导出封闭形式的可计算量。所有理论发展都是通过广泛的模拟和硬件实验证实的。我们还表明，我们的配方可以与现成的轨迹估计传感器一起使用。最后，我们展示了我们系统对多机器人动态集合任务的表现。

本文提出了一种新颖的方法，用于在具有复杂拓扑结构的地下领域的搜索和救援行动中自动合作。作为CTU-Cras-Norlab团队的一部分，拟议的系统在DARPA SubT决赛的虚拟轨道中排名第二。与专门为虚拟轨道开发的获奖解决方案相反，该建议的解决方案也被证明是在现实世界竞争极为严峻和狭窄的环境中飞行的机上实体无人机的强大系统。提出的方法可以使无缝模拟转移的无人机团队完全自主和分散的部署，并证明了其优于不同环境可飞行空间的移动UGV团队的优势。该论文的主要贡献存在于映射和导航管道中。映射方法采用新颖的地图表示形式 - 用于有效的风险意识长距离计划，面向覆盖范围和压缩的拓扑范围的LTVMAP领域，以允许在低频道通信下进行多机器人合作。这些表示形式与新的方法一起在导航中使用，以在一般的3D环境中可见性受限的知情搜索，而对环境结构没有任何假设，同时将深度探索与传感器覆盖的剥削保持平衡。所提出的解决方案还包括一条视觉感知管道，用于在没有专用GPU的情况下在5 Hz处进行四个RGB流中感兴趣的对象的板上检测和定位。除了参与DARPA SubT外，在定性和定量评估的各种环境中，在不同的环境中进行了广泛的实验验证，UAV系统的性能得到了支持。

We introduce an approach for recovering the 6D pose of multiple known objects in a scene captured by a set of input images with unknown camera viewpoints. First, we present a single-view single-object 6D pose estimation method, which we use to generate 6D object pose hypotheses. Second, we develop a robust method for matching individual 6D object pose hypotheses across different input images in order to jointly estimate camera viewpoints and 6D poses of all objects in a single consistent scene. Our approach explicitly handles object symmetries, does not require depth measurements, is robust to missing or incorrect object hypotheses, and automatically recovers the number of objects in the scene. Third, we develop a method for global scene refinement given multiple object hypotheses and their correspondences across views. This is achieved by solving an object-level bundle adjustment problem that refines the poses of cameras and objects to minimize the reprojection error in all views. We demonstrate that the proposed method, dubbed Cosy-Pose, outperforms current state-of-the-art results for single-view and multi-view 6D object pose estimation by a large margin on two challenging benchmarks: the YCB-Video and T-LESS datasets. Code and pre-trained models are available on the project webpage. 5

Figure 1: A five-fingered humanoid hand trained with reinforcement learning manipulating a block from an initial configuration to a goal configuration using vision for sensing.

本文介绍了我们拦截更快的入侵者无人机的方法，这是受MBZIRC 2020挑战1.的启发1.通过利用对入侵者轨迹的形状的先验知识，我们可以计算拦截点。目标跟踪基于Yolov3微型卷积神经网络的图像处理，并结合使用饰品安装的ZED ZED迷你立体声摄像机的深度计算。我们使用摄像头的RGB和深度数据，设计降噪的直方图过滤器来提取目标的3D位置。获得目标位置的3D测量值用于计算图八形轨迹的位置，方向和大小，我们使用Bernoulli Lemniscate近似。一旦近似被认为是足够精确的，可以通过观察值和估计之间的距离来测量，我们将计算一个拦截点，以将拦截器无人机直接放在入侵者的路径上。根据MBZIRC竞争期间收集的经验，我们的方法已在模拟和现场实验中得到了验证。我们的结果证实，我们已经开发了一个有效的视觉感知模块，该模块可以提取以足以支持拦截计划的精确性来描述入侵者无人机运动的信息。在大多数模拟遭遇中，我们可以跟踪和拦截比拦截器快30％的目标。在非结构化环境中的相应测试产生了12个成功结果中的9个。

神经辐射场（NERF）最近被成为自然，复杂3D场景的代表的强大范例。 NERFS表示神经网络中的连续体积密度和RGB值，并通过射线跟踪从看不见的相机观点生成照片逼真图像。我们提出了一种算法，用于通过仅使用用于本地化的板载RGB相机表示为NERF的3D环境导航机器人。我们假设现场的NERF已经预先训练了离线，机器人的目标是通过NERF中的未占用空间导航到目标姿势。我们介绍了一种轨迹优化算法，其避免了基于NERF中的高密度区域的碰撞，其基于差分平整度的离散时间版本，其可用于约束机器人的完整姿势和控制输入。我们还介绍了基于优化的过滤方法，以估计单位的RGB相机中的NERF中机器人的6dof姿势和速度。我们将轨迹策划器与在线重新循环中的姿势过滤器相结合，以提供基于视觉的机器人导航管道。我们使用丛林健身房环境，教堂内部和巨石阵线导航的四轮车机器人，使用RGB相机展示仿真结果。我们还展示了通过教会导航的全向地面机器人，要求它重新定位以缩小差距。这项工作的视频可以在https://mikh3x4.github.io/nerf-navigation/找到。

As the basis for prehensile manipulation, it is vital to enable robots to grasp as robustly as humans. In daily manipulation, our grasping system is prompt, accurate, flexible and continuous across spatial and temporal domains. Few existing methods cover all these properties for robot grasping. In this paper, we propose a new methodology for grasp perception to enable robots these abilities. Specifically, we develop a dense supervision strategy with real perception and analytic labels in the spatial-temporal domain. Additional awareness of objects' center-of-mass is incorporated into the learning process to help improve grasping stability. Utilization of grasp correspondence across observations enables dynamic grasp tracking. Our model, AnyGrasp, can generate accurate, full-DoF, dense and temporally-smooth grasp poses efficiently, and works robustly against large depth sensing noise. Embedded with AnyGrasp, we achieve a 93.3% success rate when clearing bins with over 300 unseen objects, which is comparable with human subjects under controlled conditions. Over 900 MPPH is reported on a single-arm system. For dynamic grasping, we demonstrate catching swimming robot fish in the water.

实时机器人掌握，支持随后的精确反对操作任务，是高级高级自治系统的优先目标。然而，尚未找到这样一种可以用时间效率进行充分准确的掌握的算法。本文提出了一种新的方法，其具有2阶段方法，它使用深神经网络结合快速的2D对象识别，以及基于点对特征框架的随后的精确和快速的6D姿态估计来形成实时3D对象识别和抓握解决方案能够多对象类场景。所提出的解决方案有可能在实时应用上稳健地进行，需要效率和准确性。为了验证我们的方法，我们进行了广泛且彻底的实验，涉及我们自己的数据集的费力准备。实验结果表明，该方法在5CM5DEG度量标准中的精度97.37％，平均距离度量分数99.37％。实验结果显示了通过使用该方法的总体62％的相对改善（5cm5deg度量）和52.48％（平均距离度量）。此外，姿势估计执行也显示出运行时间的平均改善47.6％。最后，为了说明系统在实时操作中的整体效率，进行了一个拾取和放置的机器人实验，并显示了90％的准确度的令人信服的成功率。此实验视频可在https://sites.google.com/view/dl-ppf6dpose/上获得。

在本文中，我们使用单个摄像头和惯性测量单元（IMU）以及相应的感知共识问题（即，所有观察者的独特性和相同的ID）来解决基于视觉的检测和跟踪多个航空车的问题。我们设计了几种基于视觉的分散贝叶斯多跟踪滤波策略，以解决视觉探测器算法获得的传入的未分类测量与跟踪剂之间的关联。我们根据团队中代理的数量在不同的操作条件以及可扩展性中比较它们的准确性。该分析提供了有关给定任务最合适的设计选择的有用见解。我们进一步表明，提出的感知和推理管道包括深度神经网络（DNN），因为视觉目标检测器是轻量级的，并且能够同时运行控制和计划，并在船上进行大小，重量和功率（交换）约束机器人。实验结果表明，在各种具有挑战性的情况（例如重闭）中，有效跟踪了多个无人机。

我们提出了一种便携式多型摄像头系统，该系统具有专用模型，用于动态场景中的新型视图和时间综合。我们的目标是使用我们的便携式多座相机从任何角度从任何角度出发为动态场景提供高质量的图像。为了实现这种新颖的观点和时间综合，我们开发了一个配备了五个相机的物理多型摄像头，以在时间和空间域中训练神经辐射场（NERF），以进行动态场景。我们的模型将6D坐标（3D空间位置，1D时间坐标和2D观看方向）映射到观看依赖性且随时间变化的发射辐射和体积密度。量渲染用于在指定的相机姿势和时间上渲染光真实的图像。为了提高物理相机的鲁棒性，我们提出了一个摄像机参数优化模块和一个时间框架插值模块，以促进跨时间的信息传播。我们对现实世界和合成数据集进行了实验以评估我们的系统，结果表明，我们的方法在定性和定量上优于替代解决方案。我们的代码和数据集可从https://yuenfuilau.github.io获得。

从混乱中挑选特定对象是许多操纵任务的重要组成部分。部分观察结果通常要求机器人在尝试掌握之前收集场景的其他观点。本文提出了一个闭环的下一次最佳策划者，该计划者根据遮挡的对象零件驱动探索。通过不断从最新场景重建中预测抓地力，我们的政策可以在线决定最终确定执行或适应机器人的轨迹以进行进一步探索。我们表明，与常见的相机位置和处理固定基线失败的情况相比，我们的反应性方法会减少执行时间而不会丢失掌握成功率。视频和代码可在https://github.com/ethz-asl/active_grasp上找到。

自主场景的曝光和探索，尤其是在本地化或沟通有限的区域，对于在未知场景中寻找目标有用，仍然是计算机导航中的一个具有挑战性的问题。在这项工作中，我们提出了一种用于实时环境探索的新方法，其唯一的要求是一个视觉上相似的数据集，用于预训练，场景中足够的照明以及用于环境感应的机上前瞻性RGB摄像机。与现有方法相反，我们的方法只需要一个外观（图像）才能做出一个良好的战术决定，因此在非成长，恒定的时间内起作用。两个方向的预测以像素为特征，称为goto和lookat像素，包括我们方法的核心。这些像素通过以下方式编码建议的飞行指令：goto像素定义了代理应以一个距离单位移动的方向，而Lookat像素定义了相机应在下一步中指向的方向。这些飞行的指导像素经过优化，以揭示当前未开发的区域的最多数量。我们的方法提出了一种新型的基于深度学习的导航方法，能够解决此问题并在更复杂的设置中证明其能力，即计算能力有限。此外，我们提出了一种生成面向导航数据集的方法，从而可以使用RGB和深度图像对我们的方法有效培训。在模拟器中进行的测试，评估了稀疏像素的推断过程的协调，以及旨在揭示区域并降低目标距离的2D和3D测试飞行取得了令人鼓舞的结果。与最先进的算法的比较表明，我们的方法能够表现出色，在测量每个相机姿势的新体素，最小距离目标距离，所见表面素的百分比和计算时间指标。

在未来几十年中，自动驾驶将普遍存在。闲置在交叉点上提高自动驾驶的安全性，并通过改善交叉点的交通吞吐量来提高效率。在闲置时，路边基础设施通过卸载从车辆到路边基础设施的知觉和计划，在交叉路口远程驾驶自动驾驶汽车。为了实现这一目标，iDriving必须能够以全帧速率以较少100毫秒的尾声处理大量的传感器数据，而无需牺牲准确性。我们描述了算法和优化，使其能够使用准确且轻巧的感知组件实现此目标，该组件是从重叠传感器中得出的复合视图的原因，以及一个共同计划多个车辆的轨迹的计划者。在我们的评估中，闲置始终确保车辆的安全通过，而自动驾驶只能有27％的时间。与其他方法相比，闲置的等待时间还要低5倍，因为它可以实现无流量的交叉点。

基于视觉的机器人组装是一项至关重要但具有挑战性的任务，因为与多个对象的相互作用需要高水平的精度。在本文中，我们提出了一个集成的6D机器人系统，以感知，掌握，操纵和组装宽度，以紧密的公差。为了提供仅在现成的RGB解决方案的情况下，我们的系统建立在单眼6D对象姿势估计网络上，该估计网络仅使用合成图像训练，该图像利用了基于物理的渲染。随后，提出了姿势引导的6D转换以及无碰撞组装来构建具有任意初始姿势的任何设计结构。我们的新型3轴校准操作通过解开6D姿势估计和机器人组件进一步提高了精度和鲁棒性。定量和定性结果都证明了我们提出的6D机器人组装系统的有效性。