Meta專利介紹用AR/VR入耳式光學腦成像設備評估用戶認知負荷

2023-12-18     映維網

原標題:Meta專利介紹用AR/VR入耳式光學腦成像設備評估用戶認知負荷

(映維網Nweon 2023年12月18日)功能性近紅外光譜(Functional Near-Infrared Spectroscopy/fNIRS)是一種光學腦成像技術。它的原理是將光照射到用戶的頭部,然後通過比爾-朗伯定律原理比較不同波長的光吸收,從而估計大腦皮層的血流動力學變化。

與頭部的其他組織不同,神經組織中的氧合血紅蛋白(HbO)和脫氧血紅蛋白(HbR)的血流動力學變化屬於時間反相關。所以,fNIRS可用於從HbO和/或HbR痕跡估計神經腦組織的反應性。

換句話說,由於氧合水平隨著大腦區域變得更加活躍而變化,所以可以通過使用fNIRS設備檢測血液氧合的變化來實時識別大腦活動。

然而,傳統的fNIRS設備體積龐大,不適合用於可攜式可穿戴設備設置。所以在名為「In-ear functional near-infrared spectroscopy for cognitive load estimation」的專利申請中,Meta介紹了一種可用於XR的入耳式fNIRS設備,並主要用於評估用戶的認知負荷。

系統可以進一步包括與入耳式設備IED。一個或多個IED可以包括一個或多個fNIRS光電器件,每個光電器件包括一個或多個發光光源和一個或多個探測器。fNIRS光電設備可用於捕獲代表用戶大腦血流動力學變化的fNIRS信號數據。

在一個實施例中,fNIRS光電器件組可以包括一組互反的fNIRS光電器件,相互(雙向)而不是單向捕獲fNIRS信號,並通過比較雙向fNIRS信號數據和從真正的神經信號中減去噪點來糾正測量誤差。

在一個實施例中,系統可進一步包括用於測量大腦的電信號的一個或多個電極,並通過從具有神經來源並代表真實大腦活動的fNIRS信號中濾除具有系統來源的信號來校正fNIRS信號數據。

圖1是示出一個入耳式fNIRS信號數據測量技術的示意圖100。原理圖100示出放置在用戶耳膜120附近的用戶耳道118內的入耳式fNIRS設備的一組fNIRS光電器件106。一組fNIRS光電二極體106可包括可用於產生fNIRS信號數據的至少一個源光電二極體106A和至少一個檢測器光電二極體106B。所述設備可以對認知負荷進行連續的、不顯眼的監測。

如圖1所示,FNIRS光電二極體106的源光電二極體106A和檢測器光電二極體106B定義了一條彎曲的光路107,而所述光路107可以從耳道內捕獲大腦活動118。

光沿著彎曲光路107,從光源光電器件106A穿過頭皮,然後穿過頭骨,並進入用戶的腦組織。然後,光穿過頭骨和頭皮返回到檢測器光電二極體106B。探測器光電二極體106B對這種光的吸收可以用來估計HbO和HbR,從而可以估計大腦中的神經活動。

更具體地說,根據比爾-朗伯定律原理,HbO和HbR吸收光的方式隨波長的變化而不同。當光穿過組織時,飽和和不飽和的血紅蛋白吸收不同頻率的光。例如,完全去飽和的血紅蛋白吸收紅光(如630 nm),完全飽和的血紅蛋白吸收紅外光(如940 nm)。

所以,測量兩個或多個波長的光吸收可以用來估計HbO和HbR的濃度。根據估計的HbO和HbR濃度,大腦中的神經活動可以作為NIRS信號數據進行估計。

源光電二極體106A與檢測器光電二極體106B之間的間距控制記錄深度。即,源光電二極體106A與探測器光電二極體106B的間隔越遠,彎曲光路107對腦組織的穿透越深,記錄深度越深。相比之下,源光電二極體106A與探測器光電二極體106B的間隔越遠,由於更多的光沿著光路散射,在探測器光電二極體106B捕獲的fNIRS信號的信號質量就越差。

每個檢測器光電器件106B可以是配置為檢測近紅外光的近紅外光檢測器。例如,探測器光電二極體106B可以是光電探測器。每個檢測器光電器件106B可以配置為在近紅外範圍內檢測一個或多個預定波長的光。例如,探測器光電器件106B可以配置為檢測第一波長的光。另外或者作為替代方案,可以將探測器光電器件106B配置為檢測第二波長的光。

圖2A-2C的透視圖示意圖顯示了嵌入在IED 200中的fNIRS光電器件組的不同示例性配置。

如圖2A所示,IED 200A可以包括一組近紅外光電器件106。設備可包括兩個源光電二極體106A和一個檢測器光電二極體106B。IED 200A可單方記錄近紅外光譜信號數據。即IED 200A可基於從源光電二極體106A延伸至探測器光電二極體106B的彎曲光路記錄近紅外信號數據。

所述光源光電二極體106A配置為分別發射兩種不同波長的近紅外光(例如第一波長和第二波長),所述檢測器光電二極體106B被配置為檢測兩種波長的近紅外光。

在另一實施例中,IED 200可以包括一組fNIRS光電二極體106,其中包括一個源光電二極體106A和一個檢測器光電二極體106B。所述光源光電二極體106A配置為產生一個或多個波長的近紅外光,所述檢測器光電二極體106B配置為檢測一個或多個波長的近紅外光。

在圖2A的示例配置中,源光電二極體106A可以與探測器光電二極體106B進行時間復用和時間同步。即,可以按順序上電以發射兩個不同波長的光,並且可以將探測器光電二極體時間同步並配置為檢測相應波長的光。檢測到的光可用於生成近紅外光譜信號數據。

如圖2B所示,fNIRS信號數據可以雙向記錄,而不是單方面記錄。為了雙向捕獲fNIRS信號數據,IED 200B可以嵌入一組互反的fNIRS光電二極體106 『,光電二極體106 『與另一組fNIRS光電二極體106 『互反。

即,圖2B中的IED 200B包括一組互反的fNIRS光電二極體106 『,其中包括源光電二極體106A 『和檢測器光電二極體106B 『。可將fNIRS光電器件106』的倒數集配置為在與第一組fNIRS光電器件106記錄的fNIRS信號數據基本相同的區域捕獲倒數fNIRS信號數據。

即,第一組fNIRS光電二極體106的彎曲光路與倒數一組fNIRS光電二極體106的彎曲光路覆蓋的面積基本相同,但光沿相反方向流過所述區域。

可將fNIRS光電器件106』的互易組配置為捕獲與NIRS光電器件106捕獲的數據交織的互易fNIRS信號數據時間,以增加捕獲的fNIRS信號數據的信噪比SNR。通過嵌入互反的fNIRS光電二極體組106 『,可以實現雙反饋,利用入耳模塊每側的雙光電二極體組實現最大信噪比。

第一組的源光電二極體106A和檢測器光電二極體106B可以進行時間復用或頻譜復用,並進行時間同步以生成NIRS信號數據。同樣,互反集的源光電二極體106A 『和檢測器光電二極體106B 『可以進行時間復用或頻譜復用,並進行時間同步以產生互反的fNIRS信號數據。所述互反集可捕獲與所述第一組光電器件106捕獲的所述fNIRS信號數據交織的互反集fNIRS信號數據時間。

在一個實施例中,可以發射和捕獲兩個以上波長以生成原始的、未過濾的fNIRS信號數據。可使用比用於第一組的原始、未濾波的fNIRS信號數據的波長數更少的波長數來生成fNIRS光電器件106 『的互反集的fNIRS信號數據。例如,可以使用兩個不同的波長來生成第一組原始的、未濾波的fNIRS信號數據,而用於噪點估計的fNIRS光電器件106 『的互反集的互反fNIRS信號數據可以僅使用兩個不同波長中的一個來生成。

如圖2C所示,IED 200C可包括多組fNIRS光電器件106以產生濾波後的fNIRS信號數據。例如,多組fNIRS光電器件106可以布置為從IED 200C的一個縱向端側延伸到另一個的源光電器件106A陣列,以及布置為從IED 200C的一個縱向端側延伸到另一個的探測器光電器件106B陣列。

源光電器件106A和探測器光電器件106B可以沿IED 200C的長度方向交替,並且光電器件可以用時間復用或頻譜復用驅動,以生成可具有相同或不同SDS的多組fNIRS光電器件106中的每一組的fNIRS信號數據。

如前所述,如果探測器到源的距離減小,穿透深度就會降低。在一個實施例中,當產生過濾後的fNIRS信號數據時,可以在顳葉皮層的不同深度捕獲大腦活動。因此,可以將IED 200C的光電二極體驅動為與多組fNIRS光電二極體106對應的不同組合的虛擬光電二極體,以生成對應於不同穿透深度的各自組的fNIRS信號數據。

圖3是認知負荷估計系統300的框圖。認知負荷估計系統300可包括IED 301和認知負荷估計設備350。

IED 301安裝在靠近鼓膜120的用戶耳道118內,並從耳道118內捕獲各種類型的數據。

如圖3所示,IED 301可以包括音頻傳感器302、一個或多個EEG電極304、一組包括源光電器件106A和檢測器光電器件106B的fNIRS光電器件、聲學傳感器308、運動傳感器310、控制器312、電池314、通信接口316和聲學傳感器324。

音頻換能器302是揚聲器,其從音頻數據產生聲音並將聲音輸出到耳道118中。音頻傳感器302可用於向用戶呈現音頻信號。

一個或多個EEG電極304捕捉使用者大腦中腦細胞活動產生的電荷。一個或多個EEG電極304可以通過記錄不同點之間的電壓差來使用差分放大原理,其中不同點將一個主動探測電極位置與另一個鄰近或遠處的參考電極進行比較。

由EEG電極304捕獲的電信號可用於產生定義隨時間的波形的EEG信號數據,而波形表示在用戶的大腦內發生的電活動。

控制器312可以控制一個或多個EEG電極304以接收EEG電極304捕獲的電信號。控制器312可以包括差分放大器,以放大在EEG電極304處檢測到的電壓信號之間的差異。控制器312同時可以包括模擬-數字轉換器,其將來自EEG電極304的電信號轉換為表示用戶的大腦活動的EEG信號數據。

作為另一示例,控制器312可控制所述光電器件組的源光電器件106A和檢測器光電器件106B,以接收與所述檢測器光電器件106B檢測到的光強度相對應的電信號。然後,控制器312的模擬-數字轉換器可將與檢測器光電器件106B檢測到的光的強度相對應的電信號轉換為未濾波的fNIRS信號數據。

腦電圖和近紅外光譜測量技術可以組合以從真正的神經信號中減去噪點。另外,通過使用這種雙模式(即fNIRS+EEG)方法,可以將fNIRS信號數據中可能具有神經來源的部分信號從可能具有系統來源的部分中分離出來。

為了實現這種雙模方法,控制器312可以配置為使系統300的fNIRS光電器件106的操作以捕獲表示fNIRS信號數據的電信號與系統300的腦電圖電極304的操作以捕獲表示腦電圖信號數據的電信號進行時間同步。

認知負荷估計設備350可以估計用戶的認知負荷。所述認知負荷估計設備可包括控制器360。在一些實施例中,認知負荷估計設備350還可以包括一個或多個fNIRS光電器件106、一個或多個EEG電極304,或它們的某種組合。

在一個實施例中,認知負荷估計設備350可以通過網絡370接收來自IED 301的數據。所述認知負荷估計設備350可進一步過濾所述fNIRS信號數據,基於所述過濾的數據估計所述用戶的認知負荷,並基於所述估計的所述用戶的認知負荷執行動作。

在一個實施例中,認知負荷估計設備350是頭戴式顯示器。

圖4A是眼鏡設備形態的頭戴式設備400。所述頭顯400是所述認知負荷估計設備350的示例。框架410可以包括一個或多個生物識別傳感器。所述生物識別傳感器可包括一個或多個fNIRS光電電極106、一個或多個EEG電極304,或其某種組合。

在一個實施例中,可以將頭顯400配置為基於IED 301中EEG電極304捕獲的電信號以及基於頭顯400中EEG電極304捕獲的電信號來生成EEG信號數據。頭顯400的腦電圖電極304可以取代IED 301的腦電圖電極304來捕獲電信號以產生腦電圖信號數據。

圖4A進一步示出在用戶頭部兩側的太陽穴尖端的兩組fNIRS光電器件106。當用戶戴上頭戴式耳機400時,每個光電二極體組可以被安裝以便與用戶的解剖結構接觸。

在一個實施例中,可將頭顯400配置為基於兩組fNIRS光電器件106生成額外的fNIRS信號數據,並且可將認知負荷估計設備350配置為基於配置在IED 301上的兩組fNIRS光電器件106生成的fNIRS信號數據生成濾波後的fNIRS信號數據。以及基於設置一組fNIRS光電器件106產生的附加fNIRS信號數據。

圖4B是頭顯形態的頭戴式設備405。頭顯包括顯示組件、DCA、音頻系統、EEG電極、EOG電極和位置傳感器490。圖4B示出照明器440、多個揚聲器460、多個成像設備430、多個聲學傳感器480和位置傳感器490。

相關專利:Meta Patent | In-ear functional near-infrared spectroscopy for cognitive load estimation

名為「In-ear functional near-infrared spectroscopy for cognitive load estimation」的Meta專利申請最初在2022年5月提交,並在日前由美國專利商標局公布。

需要注意的是,一般來說,美國專利申請接收審查後,自申請日或優先權日起18個月自動公布或根據申請人要求在申請日起18個月內進行公開。注意,專利申請公開不代表專利獲批。在專利申請後,美國專利商標局需要進行實際審查,時間可能在1年至3年不等。

文章來源: https://twgreatdaily.com/2de7522a73d7408d554cc31e2089a594.html