KeyPose：　3Dでの透明物体のkeypointの推定

透明物体のDepthの推定について、さらに調査中

以下のものは、Depthの推定を実施していなかった。
Keypointの３Dの復元をするものでしかなかった。
StereoLabsのZEDカメラを利用している。

## KeyPose: Multi-View 3D Labeling and Keypoint Estimation for Transparent Objects


pdf [KeyPose: Multi-View 3D Labeling and Keypoint Estimation for Transparent Objects](https://openaccess.thecvf.com/content_CVPR_2020/papers/Liu_KeyPose_Multi-View_3D_Labeling_and_Keypoint_Estimation_for_Transparent_Objects_CVPR_2020_paper.pdf)

github https://github.com/google-research/google-research/tree/master/keypose

KeyPose: Multi-View 3D Labeling and Keypoint Estimation for Transparent Objects

https://sites.google.com/view/keypose?pli=1

![Screenshot from 2024-07-29 15-54-58.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/83761/e98f7020-b333-cd86-ee6b-b5d4568330a2.png)

机上の物体の3Dポーズを推定することは、ロボット操作などのアプリケーションにとって極めて重要である。この問題に対する既存の多くのアプローチは、学習と予測の両方に物体の深度マップを必要とするため、RGBDセンサで良好なリターンを生成する不透明でランバートな物体に制限される。本論文では、深度センサーを使用せず、生のステレオ入力を使用する。第二に、KeyPoseと呼ばれるディープニューラルネットワークを開発し、ステレオ入力から、3Dキーポイントを用いて物体のポーズを正確に予測することを学習する。本手法の性能を評価するために、5つのクラスに分かれた15個の透明な物体からなるデータセットを作成し、48Kの3Dキーポイントラベル付き画像を用意した。インスタンスモデルとカテゴリモデルの両方を訓練し、新しいテクスチャ、ポーズ、オブジェクトに対する汎化を示す。KeyPoseは、このデータセットの3Dポーズ推定において、1.5から3.5のファクターで最先端の性能を上回る。このパフォーマンスにはステレオ入力が不可欠であり、単眼入力を使用した場合よりも2倍向上する。我々は、データキャプチャとラベリングパイプライン、透明オブジェクトデータベース、KeyPoseモデルと評価コードのパブリックバージョンを公開する予定である。プロジェクトのウェブサイト：https：//sites.google.com/corp/view/keypose.

DeepLによる翻訳

興味深い点：
- 似た形状の透明ではない物体と透明な物体とを用意して撮影している。

Youtube 
<iframe width="560" height="315" src="https://www.youtube.com/embed/DBY4gycGzXM?si=izhtfjyZO2fkqQXs" title="YouTube video player" frameborder="0" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share" referrerpolicy="strict-origin-when-cross-origin" allowfullscreen></iframe>


[KeyPose: 立体イメージから透明な物体の 3D 姿勢を推定する](https://developers-jp.googleblog.com/2020/10/keypose-3d.html)
![](https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEgekCuAsZBnvQqw3ABo8yOyY8dwbgRWCTsMMZP0jxFtLWwS4lC9C8w4Ml-BXtypZXlm-veqAcb9KtO_Ld5syXZw_l7NWR8YNP5IUNnFiPqwRyiNucyoc81-gCrWAMAb9y-JVkE2rl0XPAzB/s640/image4.png)
)
![](https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEgNGShuorVsfynfcdbyGsgrRFlP6tQ53B05Xn24wOz1YINu2M_YjLo3kiZfEd64hRCDNAYnoaG-AO0NoDrAVQ2zRmSxg7A5KMpz_uJ8DHmcIpu4vbbj7GacBDh1y0wmM7Sk_XifeVgAgAeb/s640/image1.png)

![](https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEiiUjDDbW-tCLhFCdWjSqB9t7ClgrCb7hJow3DABig5iC7bCRusXIxZU9I9DlqSlhbQngTbSeuf2ScTGDKqylUwfOU3ryZfJqULKmQ-Pm2A6iiQQ0GHK7I3I4ojwNwG7EeKotllYWqVL9Vl/s640/image6.gif)

![](https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEikjTQgX2eO0TrxJukWUWAoHHIEQClV40p9KiaXI9eHXWeHTSkSiYpjQwSbojhLWjyUQWMBV6Y7Ulm3kmA568jkYCYaqTBABeeSYOWdcxuzS5t_R9LsiKzu7XtGoTpbmbJ_uRykwhU8bPO6/s640/image2.gif)

![](https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjkbdoac3KwWNvmr0r5_BhQ2hIElXqdQIgUmIaZ09Okl0mCzKIZbW6w8sxTHgJSzfynqZBUdarsD4Qx7N4fypKSW5OT_9zqCOoaIMZFUZ6Q-JeEPOVgWUfZ5x0WGwD1Et6kByL8_OehVKBy/s0/image3.gif)



利用しているカメラ
Hardware specifications 
for the ZED are at https:
//www.stereolabs.com/zed/, 
and for the Kinect Azure are in
https://docs.microsoft.com/en-us/azure/kinect-dk/
hardware-specification.


![Screenshot from 2024-07-29 16-29-27.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/83761/ce464596-ee05-8e76-17f1-624715e97272.png)
背景となるテクスチャはFig 17 のとおり。


![Screenshot from 2024-07-29 16-31-55.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/83761/c2ce4f03-e7b3-5d85-a838-f7c39eedce8d.png)

Fig 19の配置をAprilTagを８箇所使用している。このため、カメラの位置と姿勢が決定されやすい。

## keyPose の実装にあるサンプルデータ
https://github.com/google-research/google-research/tree/master/keypose/data/bottle_0/texture_5_pose_0

000001_L.png
000001_R.png
000001_L.pbtxt　protocol buffers のデータのテキストファイル
000001_R.pbtxt
000001_border.png
000001_mask.png

## 私見
- depthの算出もしてくれていればなあ