全焦点レンズレスカメラ

東京工業大学 工学院
助教 中村友哉
2019/11/19

レンズレスカメラの原理••

符号化光学素子+撮像素子による撮像光学系構成
ハードウェア（光学系）により像情報をアナログ符号化→ソフトウェア（処理系）により像情報をデジタル復号

2

実験例

3

•

バイナリ振幅透過マスク+CMOS撮像素子で拡散物体を撮影

T. Nakamura, K. Kagawa, S. Torashima, and M. Yamaguchi, "Super Field-of-View Lensless Camera
by Coded Image Sensors," Sensors 19, 1329 (2019).

実験例

•4

“レンズレス”であるため，計測画像≠物体像ではないが，逆解析を経て画像化

T. Nakamura, K. Kagawa, S. Torashima, and M. Yamaguchi, "Super Field-of-View Lensless Camera
by Coded Image Sensors," Sensors 19, 1329 (2019).

レンズレスカメラの特徴

5

M. S. Asif, A. Ayremlou, A. Sankaranarayanan, A. Veeraraghavan, and R. G. Baraniuk, "FlatCam: Thin, Lensless Cameras Using Coded
Aperture and Computation," IEEE Transactions on Computational Imaging 3, 384–397 (2017).

レンズレスカメラの利点••••

光学系の薄さと明るさの両立系の設計自由度を信号処理を含めた形に拡大→研究対象として面白い点（振幅マスク型の場合）安価（振幅マスク型の場合）波長の制限無し

レンズレスカメラの欠点••••

画像再構成処理が必要- calibration誤差，処理時間の問題
薄さと撮影倍率のトレードオフ
S/N（影がincoherentに重畳するため）（マスク型の場合）回折による分解能劣化

代表的な事例pinholeイメージセンサ

光利用効率に難点

拡散板••

位相マスク→高光量
3D画像再構成UCB, Optica (2018)

6

Asymmetricspiralgrating

Fresnelzone plate

距離・波長変化に対する非依存性の高い符号化

モアレ法による高速復号

Rambus inc. (2013)

日立, IWISS (2016)

MURA
code

γ線の撮像において広帯域な伝達関数••

撮像素子の保護ガラスの傷や埃による符号化
薄型，高条件数
Univ. Utah, AO (2017)

撮像のモデル

••
•
•

•

7

撮像素子の前に符号化開口を設置する構成をとる
光入射時，撮像素子には開口の影を落とす
開口の影は点光源のシフトに応じてシフトする→（開口の影はシフト不変PSFと近似できる）
物体を𝑓𝑓，開口の影をℎとすると，計測データ𝑔𝑔は最も単純には𝑔𝑔 = 𝑓𝑓 ∗ ℎとモデル化できる．
その場合，何らかの方法でdeconvolutionを数値計算することで物体像を復号できる
シフト不変性を仮定しない場合は，行列によりモデリング・逆解析を行う．

N. Antipa, G. Kuo, H. Reinhard, B. Mildenhall, E. Bostan, R. Ng, and L. Waller, "DiffuserCam : lensless single-exposure 3D imaging," Optica 5, 1–9 (2018).

撮像のモデルの距離依存性

•
•
•

8

影は物体距離によってスケーリングする
合焦した画像を再構成するには，対象距離を知る必要がある
敢えて合焦しない画像を再構成する応用もある（デジタルリフォーカシング，3D再構成，等）

N. Antipa, G. Kuo, H. Reinhard, B. Mildenhall, E. Bostan, R. Ng, and L. Waller, "DiffuserCam : lensless single-exposure 3D imaging," Optica 5, 1–9 (2018).

実験例

9

被写体距離
※PSFは点画像を表示することで計測

DisplayRandom Mask

Sensor

被写体距離 [cm]10.0

30.050.0

PSF距離 [cm]30.030.030.0

撮像の際の被写体距離と再構成用デジタルフィルタ(PSF)の想定距離に乖離がある場合，その影響は再構成画像のボケ/復元像の消失*として現れることを確認*D. J. Brady, K. Choi, D. L. Marks, R. Horisaki, and S. Lim "Compressive Holography," Opt. Express 17, 975–983 (2009).

従来技術とその問題点•

レンズレスカメラについては2000年代頃から研究事例があり，様々な方式が提案されているが，合焦した画像を再構成するためには対象の距離を計測/推定する必要がある点は共通の課題である•

再構成処理を逆投影距離を変えながら複数回繰り返し，コントラスト計測やスパース化によって合焦情報を得る方法が一般的であるが，信号処理が高コスト化する

10本発明の原理••

ラジアル方向にのみ構造を持つ振幅マスク（符号化光学素子）+撮像素子
ラジアルマスクにより像情報を距離不変アナログ符号化→ソフトウェア（処理系）により像情報をデジタル復号

11シミュレーション

遠••

12

近

点光源位置を変えながらそのインパルス応答を計測（ランダムマスクとラジアルマスク）
マスクの周縁部に遮光を施す実装を想定（光量が減少するが，画像再構成が安定するためしばしば用いられる構成）

画像再構成結果

遠13

近評価

14

光学実験

15

クロム透過マスク
放射：SC72- 50T by 渋谷光学
ランダム：自作

撮像素子
PSF計測時の点光源
撮影対象物体(UI-3202SE-C by IDS)

0.5mm

60mm
200mm

PSF計測距離（再構成フィルタ）と物体距離が乖離しているので，既存手法では画像が再構成されないはずのセットアップ

結果

16

ランダムマスク放射マスク

撮影対象（ダルマ）

類似研究：PicoCam@Rumbus inc.

17

Point: 非対称スパイラル回折格子によるレンズレスカメラの距離・波長キャリブレーション誤差の軽減
概念図

実装

チホノフ正則化で再構成
P. R. Gill and D. G. Stork, "Lensless Ultra-Miniature Imagers Using Odd-Symmetry Spiral Phase Gratings Relative photocurrent,"in Imaging and Applied Optics (2013), p. CW4C.3.
https://www.iaria.org/conferences2013/filesSENSORCOMM13/Keynote_SensorComm2013.pdf

類似研究との差分
非対称スパイラル回折格子によるPSF
特徴1: PSFの自己相関が低い→空間像の再構成に適している

特徴2: 像面中心で位相の打ち消し合いが起こり，特異点になる→PSFの距離/波長不変性が向上し，キャリブレーション誤差に剛健になる

逆位相光同士の干渉（原理上中心のみ）
本発明の差分→放射マスクでは，像面全体でPSFの距離不変性を実装できる．
https://www.iaria.org/conferences2013/filesSENSORCOMM13/Keynote_SensorComm2013.pdf

18新技術の特徴・従来技術との比較•

従来のレンズレスカメラ技術では，合焦した画像情報を得るために，3次元空間への逆投影に基づく画像再構成（+コントラスト検出や領域分割等の後処理）が必要であった•

本発明では，符号化マスク構造の工夫により，2次元空間への逆投影に基づく画像再構成で全焦点画像を得る手法を創出した•

本発明により，単一距離への合焦点を前提とした既存のレンズレスイメージングと同じ処理コストで，全焦点画像が得られる

19

想定される用途•

空間制約の厳しい空間における，高情報量画像センシング（特に対象距離変化が激しい場合）- 生体内部計測，配管検査，等•

装着感/重量を減らした，画像センシング装置- ウェアラブルカメラ，ドローン用カメラ

20

実用化に向けた課題•

画像再構成処理の高速化（H/W及びS/W）
実際は，単なる逆フィルタではなく，反復アルゴリズムに基づくエネルギー最小化問題を解いて画像再構成する場合が多い（先見情報を利用して視覚的良好な画像を得るため）．実用化の際，この演算を高速に実行する必要がある•画質改善
線形逆問題を解いているため，本質的に計測画像に含まれるノイズを画像再構成の際増幅する→H/W及びS/Wによる対処が必要•

応用開拓21

本技術に関する知的財産権

発明者：中村友哉,
発明の名称：符号化撮像デバイス, 全焦点画像再構成処理装置
及び全焦点画像撮像装置,
出願番号： 2019-181664 (2019.10.1出願),
出願人：国立大学法人東京工業大学

22

お問い合わせ先

東京工業大学
研究・産学連携本部
TEL：03-5734-2445
FAX：03-5734-2482
sangaku@sangaku.titech.ac.jp

研究者HP
https://sites.google.com/site/tnakamura1104jp23