(映維網Nweon 2023年12月26日)遠程會議的發展正在促進元宇宙的普及。然而,當前在線會議應用使用元環境的其中一個主要問題是,並非會議的所有參與者都擁有相同類型的設備。例如,特定用戶操作PC,而其他用戶操作VR頭顯。
桌面設備用戶有時處於不利地位,因為他們無法導航或與虛擬環境中的所有用戶進行交互。當計算機提供3D環境的2D視圖時,計算機在如何接收用戶導航或與3D環境交互的輸入手勢方面受到限制。
可以說,目前的技術並不能給VR頭顯用戶和PC用戶帶來相同的體驗。另外,即便用戶想要從VR頭顯過渡到桌面設備,或者反之亦然,現有系統都並不總是在聚會或公司會議等活動中提供無縫過渡。
在名為「2d and 3d transitions for renderings of users participating in communication sessions」的專利申請中,微軟就介紹了一種相關的2D和3D無縫過渡方法。
圖1A和1B說明了當用戶參與通信會話時,用戶介面安排從用戶的二維圖像的顯示到用戶的三維表示的呈現的轉換。
所述通信會話可由由若干台計算機11組成的系統100來管理,每台計算機11對應於若干用戶10。在本例中,第三用戶10C的呈現將經歷從2D模式到3D模式的轉換。
為了開始轉換,系統可以接收一個輸入,以引起特定用戶的二維圖像呈現的顯示轉換。在本例中,輸入標識第三個用戶10C。所述輸入同時可以提供允許所述系統訪問為所述第三用戶10C的三維表示定義位置和方向的3D模型的許可。所述位置和方向可包括用於在本文也稱為虛擬環境200的3D環境200內表示的矢量和坐標。
作為對接收輸入的響應,系統100的一台或多台計算機可以對用戶介面101進行修改,以刪除如圖1A所示的用戶10C的圖像151C的渲染,並添加如圖1B所示的用戶10C的3D表示251C的渲染。根據在3D模型中定義的坐標和/或向量,可以在3D環境中定位和定向用戶10C的3D表示251C的呈現。
在本例中,刪除了用戶10C的2D圖像的渲染,然後可以用其他渲染代替。例如,將圖1A所示的第三用戶10C的2D圖像渲染在UI中替換為圖1B所示的另一用戶第四用戶10D的另一2D圖像。
這種轉換使用戶能夠使用不同的模式與計算設備進行交互。例如,在本例中,如果所選用戶10C希望從通信會話中的實時視頻流轉換到允許該用戶與3D環境中的其他用戶交互的另一種操作模式,則系統將用戶從允許其與一般內容、文檔、電子表格和幻燈片交互的一種模式轉換到允許其與3D對象交互的另一種模式。
通信會話期間的這種轉換允許所選用戶在每個環境中使用適合不同內容類型的編輯工具。例如,如果視頻流中的一個人希望離開使用2D圖像向用戶顯示的2D模式,並進入3D環境向其他用戶展示如何在特定位置移動對象或塑造特定的3D對象,則一旦用戶能夠在通信會話中進行轉換,他們就可以更容易地做到這一點。
用戶可以使用台式PC完成這種轉換,而無需使用任何類型的XR頭顯。使用桌面的這種轉換使用戶能夠使用桌面計算機進入與3D計算環境交互的3D模式,這可能更適合於編輯或查看特定類型的內容。
微軟指出,其中一個技術優勢是,系統可以允許用戶在通信會話的3D模式和2D模式之間切換,而不管他們與什麼硬體進行交互。
發明所述技術同時適用於頭顯。在這樣的實施例中,用戶在將交互模型從3D計算環境轉換到2D計算環境時,可以保持僅使用一個計算設備,例如頭顯。所以,用戶可以在3D計算環境中啟動,並通過3D表示251C的呈現來表示,例如圖1B所示的表示。
然後,響應一個或多個輸入,例如用戶開始編輯具有特定文件類型的內容,或基於指示執行UI轉換意圖的輸入,系統可以轉換UI以刪除3D表示251C的呈現,如圖1B所示,並生成用戶的2D圖像151C的呈現,例如圖1A所示的表示。這允許用戶在不實際使用使用平面螢幕顯示和鍵盤的桌面設備的情況下過渡到2D環境。
圖2A和2B說明了當用戶參與通信會話時,用戶介面從具有用戶的二維圖像的顯示到用戶的三維表示的呈現的轉換的另一個示例。
在本例中,用戶介面201是基於3D模型的3D環境的呈現。用戶介面201以第一用戶10A的表示251A的3D呈現和第二用戶10B的表示251B的3D呈現開始。每個表示的3D渲染都有一個位置和一個方向,由存儲在3D模型中的虛擬對象屬性決定。
3D環境同時包括虛擬對象275,其形式為安裝在虛擬環境牆壁的虛擬平面電視。虛擬對象275具有顯示虛擬用戶介面的顯示表面,虛擬用戶介面顯示第三個用戶10C的2D渲染151C和第四個用戶10D的2D渲染151D。
圖3A和3B說明了第三用戶轉換的另一個方面。在本例中,第三用戶10C的呈現經歷了從2D模式到3D模式的轉換。
如圖3A所示,用戶介面301首先顯示傑思敏、勞倫斯和麥克的二維圖像,分別顯示為圖像151A、151B和151D的效果圖。用戶介面同時包括具有其他用戶的兩個3D表示251A和251B的3D環境200的呈現。
為了響應本文所述的輸入數據,系統執行轉換。在第三用戶的過渡中,第三用戶10C的第三計算機11C從圖3A所示的用戶介面過渡到圖3B所示的用戶介面。
如圖3B所示,在轉換之後,夏洛特的計算機11C顯示修改後的用戶介面301。系統維護每個用戶的狀態,例如圖3A中所示的兩個用戶作為三維表示251A和251B,同時維護為圖3B中所示的三維表示251A和251B。
同樣如圖3B所示,修改後的用戶介面301包括虛擬對象275,虛擬對象275在本例中為虛擬顯示設備,其顯示最初以2D圖像顯示的其他用戶的2D渲染,例如圖3A中的傑思敏和勞倫斯。
這個修改後的301用戶介面現在顯示夏洛特的視角,就好像她從2D環境傳送到3D環境一樣。與其他例子類似,在這種傳送中,系統可以根據一個或多個因素確定夏洛特Avatar的位置和方向。
在這樣一個例子中,夏洛特可能正在操作一個設備,比如PC。然後,響應本文所述的一個或多個輸入,系統可以在繼續使用桌面PC的同時從圖3A的用戶介面過渡到圖3B的用戶介面。即使不使用傳統上用於查看3D渲染的頭顯,都可以實現這個示例的過渡。
在另一個例子中,過渡可以涉及夏洛特從圖3B的用戶介面開始,然後過渡到圖3A的用戶介面的過程。在這樣一個例子中,夏洛特可能正在操作單個設備,例如頭戴式顯示器。她首先查看圖3B所示的3D環境,然後響應本文所述的一個或多個輸入,系統可以從圖3B的用戶介面過渡到圖3A的用戶介面,同時繼續使用頭顯。即使不使用傳統上用於查看2D圖像的計算機,都可以實現這個示例的轉換。
圖4A說明了UI轉換的其他特性。當接收用於致使UI從用戶10C的2D圖像的呈現轉換到用戶10C的3D表示的呈現的輸入時,系統可以確定用戶10C的3D表示的位置和方向。
例如,如果一個虛擬環境200的模型開始時只有兩個代表用戶的虛擬對象351A和351B,則系統可以確定新增加的代表用戶的虛擬對象351C的位置和方向。在本例中,當輸入表明特定用戶,例如第三用戶10C時,系統可以根據虛擬環境200中其他用戶的位置和/或共享內容的位置,確定表示第三用戶10C的虛擬對象351C的位置和方向。
在一個說明性示例中,如果系統確定用於表示第三個用戶10C的虛擬對象351C將添加到虛擬環境200中,則系統可以以一種方式定位虛擬對象351C,使得虛擬對象351C呈現出用戶的Avatar正在查看與用戶10C共享的內容。
在另一個例子中,如果系統確定用於代表第三個用戶10C的虛擬對象351C將添加到虛擬環境200中,則系統可以以一種方式定位虛擬對象351C,使虛擬對象351C看起來像是用戶的Avatar正在看著與用戶10C交談的用戶的Avatar。
在一個實施例中,每個虛擬對象351的放置可以基於團隊成員、用戶組和/或由單個用戶或用戶組建立的策略的分布。例如,如果一個人是公司團隊的一部分,當其中一個人在轉換用戶介面的輸入中識別時,他們對應的Avatar將被定位在其他團隊成員的閾值距離內。
圖4B示出系統的兩種操作模式,以及每種操作模式如何改變參與通信會話的個體的權限。在圖4B的上半部分的第一種操作模式中,當3D模型中不包含用戶的表示時,權限可以允許系統使用圖像文件來顯示用戶的2D圖像。
在這種情況下,3D模型數據處於第一狀態320A,其中所選用戶在3D環境200中沒有表示該用戶的虛擬對象。當3D模型處於這種狀態時,所選用戶在3D環境中沒有表示該用戶的虛擬對象,與該用戶關聯的權限數據315配置為允許系統和其他用戶訪問該用戶的圖像數據310。這意味著所述系統和每個遠程用戶的客戶端可以使用所述圖像數據310生成該用戶的呈現,或者所述系統可以編輯所述圖像數據310。
當系統檢測到3D模型數據處於第二狀態,例如,模型數據320B包括代表所選用戶的虛擬對象351C時,系統修改權限以限制該特定用戶對圖像數據的使用。如圖所示,修改權限數據315以限制系統讀取圖像數據310以顯示該特定用戶的2D圖像。在這種操作模式下,將權限配置為限制所有用戶訪問圖像數據,從而阻止所有客戶端訪問或顯示2D圖像文件。
圖5A和圖5B示出了配置為在相對於共享內容的3D環境200中定位用戶的表示的系統的特徵。
圖5A示出了用於第一用戶351A和第二用戶351B的Avatar定向為在3D環境中查看共享內容的場景。它們共享的內容可以顯示在虛擬對象上,例如虛擬顯示屏。當系統檢測到有一定數量的用戶正在查看共享內容時,系統會為擁有Avatar的第三個用戶生成進入3D環境的方向。
特徵的一個示例如圖5B所示。在本例中,將第三用戶351C的Avatar添加到虛擬環境中。第三用戶351C的Avatar指向共享內容,以響應系統檢測到其他用戶在其視場內具有共享內容。系統同時可以確定每個人視場的幾何形狀,並確定第三個用戶的Avatar的位置,使得第三個用戶的Avatar不會阻擋其他用戶的視場。
圖6A和圖6B示出了配置為相對於其他用戶在3D環境200中定位。圖6A示出了一種場景,其中第一用戶和第二用戶的Avatar定向成用戶在虛擬環境中相互看著。
在一個特定的團隊或預先確定的群體中,當系統確定有一定數量的人在相互注視時,系統可以定位進入環境的第三個用戶的Avatar,這樣Avatar的位置就可以看向其他用戶。圖6A顯示了在視場內具有至少三個具有其他組成員的用戶的若干虛擬形象。當系統確定某個閾值數量的虛擬角色在視場內擁有其他組成員時,如圖6B所示,系統可以允許新的組成員加入具有允許該用戶查看其他組成員的位置和方向的虛擬環境。
相關專利:Microsoft Patent | 2d and 3d transitions for renderings of users participating in communication sessions
名為「2d and 3d transitions for renderings of users participating in communication sessions」的微軟專利申請最初在2022年5月提交,並在日前由美國專利商標局公布。
需要注意的是,一般來說,美國專利申請接收審查後,自申請日或優先權日起18個月自動公布或根據申請人要求在申請日起18個月內進行公開。注意,專利申請公開不代表專利獲批。在專利申請後,美國專利商標局需要進行實際審查,時間可能在1年至3年不等。