視頻技術(shù)的問世掀起了一場席卷全球的視聽通信革命。今天,整個(gè)世界都非常依賴照片和視頻媒體來實(shí)現(xiàn)各種目的,包括商業(yè)、通信、教育和娛樂。采集和顯示視頻的機(jī)制也突飛猛進(jìn)。而3D攝像頭的采用,使用戶可以以前所未有的信息量觀察事物。
這個(gè)過程所不可或缺的一環(huán),就是給數(shù)字視頻添加深度信息,使其更接近真實(shí)。本文探討了如何使用飛行時(shí)間(ToF)傳感器實(shí)現(xiàn)此目的,以及ToF傳感器正在如何改變我們與VR和其他視頻技術(shù)的交互方式。
ToF 3D圖像傳感器簡介
總的來說,飛行時(shí)間(或 ToF)是一種基于光的飛行時(shí)間測量物體距離的方法。ToF傳感器或攝像頭會(huì)發(fā)射調(diào)制紅外光束,并測量從不同距離的不同表面接收到的光的相位差。該數(shù)據(jù)被轉(zhuǎn)換為距離,并為照明場景提供深度。ToF傳感器使用逐像素處理,這需要復(fù)雜的算法,但由于其廣泛的適用性,愈發(fā)受到物流、汽車和消費(fèi)電子領(lǐng)域的親睞。通過在三個(gè)維度上進(jìn)行掃描,ToF傳感器可以創(chuàng)建目標(biāo)對(duì)象的 3D 圖像。
ToF傳感器工作原理
3D ToF圖像傳感器的操作非常簡單。它根據(jù)光子混合器設(shè)備(PMD)的原理進(jìn)行檢測。ToF傳感器主要分為兩類:直接傳感器和間接傳感器。直接ToF傳感器的工作原理是通過發(fā)射光、收集反射信號(hào),然后測量信號(hào)延遲[圖1];接著,用光飛行時(shí)間來測量距離,從而實(shí)現(xiàn)場景的3D重建。
圖1 直接ToF傳感器的工作原理(簡版)
間接ToF傳感器的工作原理是,不斷發(fā)射調(diào)制信號(hào)并分析反射信號(hào),以確定相位差。兩個(gè)接收器以調(diào)制光的頻率不斷地打開和關(guān)閉,其中一個(gè)接收器與另一個(gè)接收器的操作相位不同。因此,每個(gè)接收器都會(huì)收到部分反射信號(hào),并根據(jù)接收到的光的數(shù)量,來確定相位差,如圖 2 所示。
圖2 兩個(gè)檢測器交替收集感興趣物體的光
優(yōu)勢及應(yīng)用
ToF傳感器可以在不影響圖像分辨率的情況下,擴(kuò)大測量范圍,并在低成本、可靠和緊湊的封裝中提供全部數(shù)字細(xì)節(jié),這為3D增強(qiáng)型攝影提供了優(yōu)化解決方案。最新的ToF傳感器功耗較低,對(duì)移動(dòng)設(shè)備來說,是一個(gè)具有吸引力的選擇。此外,與結(jié)構(gòu)光發(fā)射等技術(shù)相比,ToF傳感器對(duì)精確的機(jī)械對(duì)準(zhǔn)的依賴程度較低。新型ToF傳感器允許使用更高的調(diào)制頻率,因此,顯著提高了精度。
Stratview Research的數(shù)據(jù)顯示,從2021到2026年,ToF的年增長率有望達(dá)到16.8%(1)。ToF攝像頭的應(yīng)用主要集中在消費(fèi)電子行業(yè)和物流行業(yè)的3D成像和掃描。它有望通過以低成本提供豐富的3D視覺效果來徹底革新3D檢測和成像。
ToF傳感器可以用于輔助面部識(shí)別、安全跟蹤、庫存管理,以及環(huán)境和建筑物映射等應(yīng)用。在現(xiàn)代車輛中,ToF傳感器可實(shí)現(xiàn)近距離環(huán)境映射、輔助泊車以及車內(nèi)的許多其他功能,例如:駕駛員監(jiān)控或手勢控制。不過,最有趣的應(yīng)用要數(shù)消費(fèi)電子和混合現(xiàn)實(shí)。憑借小巧的外形和較高的能效,ToF傳感器可能是唯一一項(xiàng)準(zhǔn)備進(jìn)軍消費(fèi)電子領(lǐng)域的3D成像技術(shù)。
案例研究:增強(qiáng)AR/ MR體驗(yàn)
將3D ToF傳感器整合到消費(fèi)電子領(lǐng)域,仍是一個(gè)尚未開發(fā)的市場,具有顛覆性的意義。Counterpoint Research稱,在智能手機(jī)中整合ToF攝像頭,有望成為未來的主要趨勢之一(2)。在最近的一場網(wǎng)絡(luò)研討會(huì)上,來自TECNO、三星和DXOMARK Image Labs的專家聲稱,ToF和動(dòng)態(tài)視覺傳感器(DVS)等功能可以使手機(jī)攝像頭的性能勝過數(shù)碼單反相機(jī)(DSLR)(3)。在過去,智能手機(jī)和游戲設(shè)備將3D ToF攝像頭用于高度逼真的增強(qiáng)顯示/混合現(xiàn)實(shí)(AR/MR)應(yīng)用。AR/MR應(yīng)用將現(xiàn)實(shí)世界與虛擬元素相融合,為用戶帶來了更好的商業(yè)互動(dòng)、3D設(shè)計(jì)和游戲娛樂體驗(yàn)。
盡管AR/MR尚未成為主流,但隨著這些技術(shù)背后的工具的迅猛發(fā)展,AR/MR成為智能手機(jī)日常用途的代名詞指日可待。
實(shí)現(xiàn)MR體驗(yàn)所需的兩大要素分別是:智能手機(jī)攝像頭以及可以檢測用戶周圍環(huán)境并將其顯示在屏幕上的應(yīng)用程序。通過這種方式,就可以映射現(xiàn)實(shí)世界,然后將虛擬圖像放入其中。為實(shí)現(xiàn)這一點(diǎn),智能手機(jī)攝像頭必須能夠?qū)呙鑵^(qū)域提供深度和細(xì)節(jié)圖像。
ToF傳感器通過準(zhǔn)確映射物體及其周圍環(huán)境,成為該場景中的主角。MR是大有前途的3D設(shè)計(jì)輔助技術(shù),例如:室內(nèi)設(shè)計(jì)師可以使用自己的手機(jī)繪制房間,并進(jìn)行數(shù)字化家具布置。同樣,真實(shí)世界的物體也可以使用ToF傳感器攝像頭進(jìn)行3D映射和數(shù)字化處理。市面上已經(jīng)有了很多這類商用移動(dòng)應(yīng)用程序,但卻因攝像頭而無法實(shí)現(xiàn)逼真的映射效果(4)。
ToF將顯著增強(qiáng)深度信息,而映射圖像又為創(chuàng)新和快速的 3D設(shè)計(jì)帶來了無限可能?;旌犀F(xiàn)實(shí)的另一個(gè)應(yīng)用是商業(yè)交互,專業(yè)人士可以借此展示逼真的場地/項(xiàng)目圖像,來加深理解。
MR還被用于創(chuàng)建真實(shí)的商業(yè)背景,也就是將人們插入一個(gè)人的視野中,并將虛擬會(huì)議變成真實(shí)會(huì)議。ToF傳感器是這個(gè)操作的核心,因?yàn)橹挥?D成像提供的深度信息才能使這種體驗(yàn)更加逼真。最近,由社交網(wǎng)絡(luò)巨頭推出的元宇宙概念就將利用這一精確技術(shù),這將促進(jìn)對(duì)ToF傳感器的需求和創(chuàng)新。
游戲是另一個(gè)利用AR/MR ToF優(yōu)勢的領(lǐng)域。游戲設(shè)備和現(xiàn)在的智能手機(jī)正在使用ToF傳感器的手勢識(shí)別功能來實(shí)現(xiàn)完全沉浸式的體驗(yàn)。當(dāng)ToF傳感器被集成到移動(dòng)設(shè)備的前置攝像頭時(shí),就可以大幅增強(qiáng)面部識(shí)別等安全措施。通過在后置攝像頭中使用3D技術(shù),ToF傳感器有望實(shí)現(xiàn)出色的計(jì)算攝影和沉浸式VR體驗(yàn)。無需大量后期處理,ToF傳感器就可以在圖像和視頻中有效地渲染背景虛化效果。
在理想的情況下,混合現(xiàn)實(shí)要比虛擬現(xiàn)實(shí)和增強(qiáng)現(xiàn)實(shí)技術(shù)先進(jìn)得多。它對(duì)處理能力提出了較為苛刻的要求,需要實(shí)時(shí)獲取高精度3D深度數(shù)據(jù)。此外,光照條件是實(shí)現(xiàn)MR所需的逼真感的一大挑戰(zhàn)。不論是房屋和車輛等室內(nèi)環(huán)境,還是光照受天氣影響的室外環(huán)境,強(qiáng)大的ToF攝像頭都必須能夠在所有光線條件下捕獲準(zhǔn)確的深度數(shù)據(jù)。
在商業(yè)交互和日常生活中使用MR技術(shù),對(duì)許多人來說似乎為時(shí)過早。然而,在新冠疫情期間,整個(gè)世界對(duì)模糊虛擬世界和現(xiàn)實(shí)世界邊界的服務(wù)需求呈指數(shù)級(jí)增長,這促使非面對(duì)面服務(wù)加速發(fā)展。因此,我們可以合理地預(yù)期,在不遠(yuǎn)的將來,增強(qiáng)AR/MR技術(shù)將成為工作和娛樂所不可或缺的技術(shù)。更不用說ToF這類技術(shù),它作為愈發(fā)強(qiáng)大的MR性能的支柱性技術(shù),將變得更加重要。
英飛凌ToF傳感器
英飛凌與pmdtechnologies合作推出了REAL3?圖像傳感器系列,pmdtechnologies是一家專注于 ToF 技術(shù)的德國公司,在該領(lǐng)域處于領(lǐng)先地位。這系列傳感器使用紅外光進(jìn)行飛行時(shí)間(ToF)傳感,并為每個(gè)像素配備一個(gè)微透鏡,因此,幾乎沒有光能損失,而且準(zhǔn)確性更高。英飛凌第六代REAL3? 3D ToF傳感器特別專注于消費(fèi)類應(yīng)用,例如:智能手機(jī)應(yīng)用,特別是基于AR/MR的拍照和攝像。該傳感器的功耗比前幾代產(chǎn)品低40%,這對(duì)于需要長時(shí)間開啟ToF攝像頭的游戲等應(yīng)用來說非常重要,可以保護(hù)電池壽命??紤]到現(xiàn)代智能設(shè)備對(duì)尺寸的嚴(yán)格限制,ToF傳感器的設(shè)計(jì)占用面積僅為4.4 × 4.8 mm2,與前幾代產(chǎn)品相比縮小了35%。
REAL3?圖像傳感系統(tǒng)的另一個(gè)突出特點(diǎn)是,增大了傳感范圍,可達(dá)10 m。調(diào)制頻率越高,ToF傳感器的深度精度就越好,但這會(huì)影響傳感器的測量范圍。因此,REAL3?圖像傳感器使用兩個(gè)調(diào)制頻率,并對(duì)收集到的數(shù)據(jù)進(jìn)行細(xì)致的后期處理,以便在不影響深度質(zhì)量的情況下,實(shí)現(xiàn)相當(dāng)大的測量范圍。這些傳感器還配備了pmdtechnologies的背景照明抑制(SBI)技術(shù),可降低像素飽和度,使攝像頭能夠在各種光照條件下運(yùn)行。傳感器還可以通過 I2C 接口動(dòng)態(tài)地重新配置,以適應(yīng)新的操作環(huán)境。通過將所有這些功能整合到一個(gè)成像系統(tǒng)中,看似不可能的應(yīng)用現(xiàn)在似乎已經(jīng)成為一個(gè)確定的現(xiàn)實(shí)。因此,設(shè)計(jì)師需要留意英飛凌在高精度3D圖像傳感器方面的最新創(chuàng)新。