原创 剛體6D位姿估計方法綜述

1 引言 剛體的6D位姿估計,是指估計相機座標系下物體的6D位姿,即3D位置和3D姿態,此時物體本身的座標系可以看做是世界座標系,也即得到物體本身座標系到相機系的RT變換。剛體是指物體不會彎曲變形(手),也不存在活動關節(胳膊)。

原创 物體6D位姿的含義

6D是指6個自由度,代表了3個自由度的位置(也叫平移(Translation)),以及3個自由度的空間旋轉。那麼具體是如何變換的呢? 如果瞭解相機的內外參,就可以得到下面的表示:Tc=Rcw∗Tw+tcwT_c = R_{cw}

原创 機器人抓取中物體定位算法概述

1. 引言 機器人抓取的首要任務,是確定要抓什麼,也就是需要定位目標物體在輸入數據中的位置。這個過程可以分爲三個層次,分別爲物體定位但不識別、物體檢測、物體實例分割。物體定位但不識別是指獲得目標物體的2D/3D範圍但是不知道物體的

原创 2020-ImVoteNet: Boosting 3D Object Detection in Point Clouds with Image Votes-結合圖像投票提升點雲3D檢測

1. 摘要 這篇文章的第一作者是Charles R. Qi,同時也是PointNet,PointNet++,Frustum PointNets和VoteNet的一作,代碼目前沒有開源。之前進行室內3D檢測的SOTA算法VoteN

原创 【2018ICRA】Robotic Pick-and-Place of Novel Objects in Clutter:雜亂場景下未知物體的抓取

這篇文章發表於2018年的ICRA會議,作者分別爲Princeton和MIT團隊的相關學者,論文有對應的項目網址。 1. 總評 當前主流進行抓取,首先需要recognize目標物體,之後估計6Dpose,再進行抓取。而這篇文章提

原创 【2018CVPR】實時單目6D物體姿態估計

背景 該論文發表於2018年CVPR,解決的問題是:給定單幅RGB圖像,估計圖像中包含目標物體的6DoF位姿;6DoF位姿包括了3維位置和3維空間朝向;傳統方法包括以下兩種:基於RGB圖像的方法,或者使用edge特徵,但對複雜背

原创 【2018ECCV】DeepIM:深度迭代匹配進行物體6D姿態估計

摘要 在機器人操作和虛擬現實應用中,從圖像中估計物體的6D位姿是一個非常重要的問題。鑑於直接從圖像中迴歸得到的物體姿態精度不高,如果將輸入圖像和物體渲染得到的圖像進行匹配,則能夠得到精確的結果。在本文中,作者提出了一種叫做Dee

原创 近年來機器人主流抓取估計方法總結

根據抓取的表示,應用場合等可以將機器人抓取分爲2D平面抓取和6-DoF空間抓取,各自又包含很多方法,下面一一介紹。 1 2D 平面抓取: 適合工業抓取,場景是機械臂豎直向下,從單個角度去抓,抓取通常由平面內的抓取四邊形,以及平面內

原创 基於視覺的機器人抓取: 論文及代碼(Vision-based Robotic Grasping: Papers and Codes)

最近總結了基於視覺的機器人抓取的相關論文及代碼,同步於github。根據抓取的類別,基於視覺的機器人抓取可以分爲兩類:2D平面抓取以及6D空間抓取。這個頁面總結了近年來涉及到的各種各樣的方法,其中大部分都使用了深度學習。總結的中文

原创 3D視覺基本概念

近年來,三維傳感器例如激光雷達、三維掃描儀、深度相機等的發展,使三維數據的獲取越來越容易,這促進了3D視覺技術的飛速發展。3D視覺技術的應用領域包括: 智能無人系統(機器人、無人車、無人機等):感知、理解周圍環境、實時定位、創

原创 【2019CVPR】CRAVES:通過廉價的視覺系統控制機械臂

該文章發表於2019年CVPR,題目是:CRAVES: Controlling Robotic Arm with a Vision-based Economic System,核心點是使用40美元的廉價無傳感器機械臂進行控制操作。

原创 基於深度學習的3D目標檢測綜述-Deep Learning-Based 3D Detection: A Review

引言 傳統的2D目標檢測,是得到目標物體的類別,以及圖像平面內的包圍盒,因此包含的參數爲類別c,包圍盒的中心(x,y),長寬(length, width)。 而3D檢測的任務是得到目標物體的類別(Classification)以及

原创 【2019ICRA】PointNetGPD: 基於PointNet直接從點雲中估計抓取位姿

摘要 本文發表於2019年ICRA,作者提出了一種端到端的抓取位置預測模型,能夠從點雲中估計出機器人的抓取位姿。和當前算法相比,作者提出的PointNetGPD是一種輕量級的網絡模型,能夠處理抓取器閉合區域的點雲,進行抓取質量估

原创 剛體6D姿態估計方法綜述

1 問題描述 對於一個剛體,已有單個視角下的RGB-D數據,恢復相機座標系下物體的6D位姿,即3D位置和3D姿態; 2 問題解析 這類問題通常需要已知物體的3D模型(點雲或網格,紋理情況視方法而定),直觀思路是尋找到單個視角下數據