Vision Pro的隱形殺手鐧:蘋果全家桶

2023-09-27   VR陀螺

原標題:Vision Pro的隱形殺手鐧:蘋果全家桶

文/VR陀螺 萬里

近期蘋果舉辦了其秋季新品發布會,雖然會上沒怎麼提及Vision Pro,但卻處處有Vision Pro的身影:

iPhone 15 Pro系列支持3D拍攝並可在Vision Pro回看、Apple Watch新增手勢操作、iPhone和Apple Watch升級U2晶片、AirPods Pro超低延遲無損音頻......儘管Vision Pro尚未發售,但卻不難發現它將與原有的一些主流計算設備緊密結合的痕跡。

Vision Pro的領先並不僅僅體現在螢幕等紙面參數,與蘋果全家桶的無縫互聯,同樣是Vision Pro的優勢所在。

圖源:網絡

除APP外,頭顯與手機、電腦更高效的連接方式是什麼?

設備之間的無縫配合一直以來都是蘋果生態的強項所在,比如通過Mac可以查看iPhone的消息提示,在iPhone複製文本可以一鍵粘貼到電腦端、電腦編輯的備忘錄可以即刻同步到iPhone等。這些無縫操作極大提升了跨設備體驗的便利性,設備之間可以優勢互補,覆蓋更多使用場景。

不過到了VR/AR時代,卻鮮有廠商真正嚴肅考慮過解決VR設備活躍度提升所面臨的與當前主流的計算設備的配合問題。

iPhone:進一步與頭顯實現互通,隨時隨地拍攝空間視頻

目前很多VR硬體廠商都開發了手機APP,我們可以通過手機端實現對VR遊戲的購買、安裝、文件傳輸等操作,不過反過來,如果想要實現頭顯對手機的操作卻難得多。

由於頭顯的私密性與包裹感很強,它會天然地讓我們與外界形成一道屏障,在使用VR時如果想要查看手機等外界信息只能頻繁摘卸頭顯,頗為繁瑣。在這種情況下,不少人對於VST功能翹首以盼,他們的首要需求其實並非MR,只不過想更好看清手機螢幕罷了。

基於一些上手博主的體驗,Vision Pro的VST在時延、畸變、解析度等方面都較為不錯,因而佩戴頭顯回復手機上的信息應該不會造成太大的困擾。不過這只是開始,iPhone與Vision Pro的配合將會體現在更多方面。

如蘋果一份名為「用於擴展現實 (XR) 系統的多設備 Continuity」的專利申請文件中提到這麼一個用例:當佩戴頭顯的用戶查看iPhone的郵件時,畫面會新增一個螢幕擴展的按鈕,用戶可通過手勢把郵件拖拽到頭顯螢幕中並查看,並進行回復等操作。

相關專利圖,圖源:蘋果

由於蘋果是目前在智慧型手機行業中積累最為深厚的頭顯廠商,因而它可以從底層入手對iPhone與Vision Pro進行打通。參考iPhone與Mac的聯動邏輯,我們可以設想:在同一帳戶下,Vision Pro可以直接接收iPhone的消息通知、3D虛擬空間中會專門為手機設置一個投屏窗口,設備之間的照片文件可以通過手勢拖拽的方式傳輸、iPhone可以化身為Vision Pro的實體觸摸板......

此外,在今年秋季新品發布會上,iPhone 15 Pro系列新增了空間視頻拍攝功能,這也是iPhone與Vision Pro聯動的一大重要體現。

圖源:蘋果

根據發布會信息,空間視頻需要依賴於手機的主攝以及超廣角鏡頭以及LiDar傳感器。與普通基於雙眼視差原理拍攝的3D視頻不同,蘋果的空間視頻進一步補充了景深信息。由於在拍攝時兩顆攝像頭需要同時工作,並且需要記錄景深像素,它對於算力以及算法都具有很高的要求。

Vision Pro配備了兩顆4000萬像素攝像頭,它同樣可以進行3D拍攝,但是由於它體積較為龐大並且需要綁在頭上使用,這使得它靈活性相對較差。而iPhone比較小巧,拍攝也更為方便,適配3D拍攝功能後,它絕對有成為未來空間計算時代下的Vlog神器的潛力。

值得一提的是,iPhone的空間視頻採用了MV-HEVC格式,視頻內容不僅支持在Vision Pro觀看,也能很好兼容其他VR/AR設備。隨著iPhone的發布,有利於進一步降低3D的創作門檻,並進一步擴充XR內容生態。

Mac:在頭顯上實現便捷投屏

把電腦螢幕投放到頭顯是VR的典型用例之一,目前市場上已經存在不少解決方案,比如應用端有《Virtual Desktop》、《Immersed》等,Meta也曾推出了自家的VR辦公應用《Horizon Workrooms》,它支持在VR中擴展出三塊電腦虛擬大屏。

不過這些VR投屏解決方案都頗為繁瑣,以《Immersed》為例,用戶使用時需要在頭顯以及電腦端分別安裝程序,然後進行帳號登陸驗證,為了能夠獲得更好的視覺體驗,後續還需要進一步對碼率、解析度、螢幕大小、刷新率等參數進行調節。

相比之下,蘋果的解決方案堪稱優雅。從演示視頻可以看到,頭顯用戶打開MacBook,「只需要看一眼」,就能在VR中擴展出一塊4K解析度的大螢幕,螢幕的位置以及大小可以進行自定義調節。

圖源:蘋果

據了解,Vision Pro與Mac的投屏基於AirPlay協議,受限於帶寬限制,目前只支持投放單個4K螢幕,這對於多屏用戶而言可能是一大遺憾。不過另一邊,Vision Pro可以在投屏過程中繼續在空間中打開頭顯內置的其他應用,基於這一特性,未來可能會誕生出很多新奇的跨設備玩法。

不僅是iPhone的Apple Watch,不僅是Mac的AirPods

1976年成立至今,蘋果已經由車庫裡的小團隊發展成為了萬億美元市值的科技巨頭,除了手機電腦等產品外,蘋果還打造了瞄準音樂市場的AirPods、運動健康的Apple Watch以及智能家居市場的HomeKit等眾多產品類別。隨著空間計算設備Vision Pro的加入,它也將會與生態成員產生更為緊密的聯繫。

Apple Watch:為頭顯補充交互以及全身追蹤數據

最近發布的Apple Watch Series 9一大亮點在於引入了雙指捏合手勢。當用戶在騰不出手的情況下可以通過食指和拇指雙擊的方式實現接聽電話、拍照、暫停音樂等操作。

圖源:蘋果

Apple Watch的這一套手勢很容易讓人聯想到Vision Pro備受好評的眼手交互方案,不過兩者在實現原理上有所不同:Vision Pro的手勢識別基於攝像頭模組以及紅外傳感器;而Apple Watch的手勢則依賴於加速傳感器、陀螺儀、光學心率傳感器以及機器學習算法,官方指出手錶可檢測手指輕點兩下時微小動作和血流變化特徵進而實現動作判別。

目前蘋果並未正式透露過Vision Pro結合Apple Watch使用的應用場景,不過這一點在它的一些專利文件中已有所呈現。如一份編號為20230171484的專利中指出,用戶可以通過手錶背面的傳感器信號掃描拍攝自己的Face ID圖像,該圖像可以應用於MR環境中。(Vision Pro所展示的Persona則是通過頭顯本體進行掃描的。)

圖源:pantentlyapple

除拍攝虛擬化身外,我們還可以設想一番,未來Apple Watch完全可以作為Vision Pro交互的補充,這樣有利於進一步降低手勢操作盲區以及識別準確率。

關於手環交互,目前市場上已經有不少探索先例,如Port 6開發了一款智能手錶,手錶可以檢測用戶手勢進而實現確認、返回、滑動等操作。除自家產品外,Port 6這套算法也適用於Apple Watch等產品中。

無獨有偶,Meta也在瞄準手環交互領域。早在2019年,Meta便收購了一家肌電手環交互技術開發商CTRL-Labs,並在2021年公布了相應的技術演示。在Meta看來,肌電手環交互具有操作自然、私密性強等優點,會是未來AR的理想交互方案之一。

基於肌電手環實現文本輸入,圖源:Facebook

除用於交互外,Apple Watch的引入還能為Vision Pro帶來更多維度的追蹤數據。如PICO曾發布了一款售價199元的VR健身配件,它可用於實現更精準的健身數據檢測以及部分全身追蹤效果,得益於Apple Watch強大的健康檢測能力,相信它未來也會在Vision Pro中發揮重要作用。

圖源:PICO

AirPods Pro:無損音頻傳輸

秋季發布會上,蘋果還悄然更新了配備USB-C接口的第二代AirPods Pro,這款產品其實也能與Vision Pro「打配合」。根據蘋果官網信息,新款AirPods Pro可實現「極低延遲的無損音頻,並為Vision Pro提供完美的無線解決方案。」此外,AirPods Pro與Vision Pro配合使用可以傳輸20位、48kHz的無損音頻。

Vision Pro採用了外置揚聲器設計,其揚聲器不僅配備了空間音頻,並且還搭載音頻光線追蹤技術可以分析房間的聲學特性並使聲音與空間相匹配。在Vision Pro基礎之上引入AirPods Pro,則是基於私密性考慮,方便用戶在旅途觀影等場合使用設備。

有消息指出,蘋果還在著手於開發平價版的頭顯「Vision One」,這款產品會在傳感器、螢幕等方面進行簡配,並可能會取消揚聲器,轉而全面使用AirPods代替。

圖源:蘋果

HomeKit:Vision Pro有望成為智能家居新中樞

今年年初發布的小米無線AR眼鏡探索版展示了眼鏡與米家家居生態聯動的相關場景:當用戶的目光看向檯燈,眼鏡的介面會出現檯燈開關按鈕,用戶通過手勢即可實現隔空操作。而蘋果的專利中也曾提到了類似用例:當iPhone在播放音樂時,頭顯用戶可通過手勢或注視同一房間的HomePod等方式無縫切換聲音播放設備。

圖源:小米

實現這一功能的方式有兩種,一是基於計算機視覺通過攝像頭檢測環境存在的智能家居設備,進而與設備建立握手,二是通過在智能家居產品內置UWB等晶片以實現精準定位以及高速數據傳輸。

陀螺君了解到,目前蘋果系列產品:iPhone 11及以上、Apple Watch S6及以上、HomePod Mini、HomePod、AirTag等均配備了UWB晶片,今年iPhone 15、Apple Watch系列新品則進一步搭載了U2 UWB晶片。這為後續不同設備間的近場通信打下了良好的基礎。回到HomeKit生態來看,目前配備了UWB的產品仍不算多。

寫在最後

Vision Pro出來後,蘋果在頭顯市場樹立了一個新標杆。在技術方面,它具有很多先進特性,如專門加入協處理晶片R1、圖像上屏時延低至12ms、減少用戶疏離感的EyeSight等。而在生態方面也同樣如此。

在前幾年,VR/AR其實很難找到真正屬於自己的位置:VR究竟應該歸屬於3D生產力工具還是PC遊戲外設?AR究竟應該作為信息提醒工具還是另一塊便攜大屏?在這個過程中,VR/AR更多承擔的是配件、服務型角色,又或者與主流的PC手機漸行漸遠,開闢了遊戲等其他場景。

而Vision Pro發布之後,它並不急於與PC、移動網際網路生態進行切割,反而是在不同生態間建立了良好的關係。比如Vision Pro UI中再讓人熟悉不過的2D操作介面、又比如對iOS、iPadOS應用的兼容等。而另一方面,Vision Pro定義為空間計算設備,並且配備了電腦級處理器M2,它並不需要依賴於原有的硬體產品而存在,潛在應用場景以及用例要比其他產品廣泛得多。

無可否認,VR/AR又或者空間計算會成為下一代計算平台,但如何實現在不同生態間的無縫過渡卻鮮有人考慮,而為不同硬體建立聯繫則是蘋果試圖給出的答案之一。由此可見,XR時代的蘋果,它不僅出發得要比別人早,也已經走得要比別人遠得多。