根據 The Information的一份報告,Meta 計劃在 2024 年之前發布四款新的 VR 頭顯,據稱這是其 AR 設備的補充。
Meta 的四款新耳機中的第一款將是 Project Cambria,該報告稱預計將于今年 9 月推出。
據報道,Cambria 的后續行動已經在進行中。代號為 Funston,預計在 2024 年推出。
至于其他兩款耳機,它們是 Meta 更實惠的 Quest 2 耳機的下一代迭代,據報道代號為 Stinson 和 Cardiff,預計分別在 2023 年和 2024 年發布。
但是,Cambria 以外的頭顯將成為目標的哪些功能仍然有些不清楚。對于圍繞計算架構中的一些根本變化構建的頭顯來說,Meta 認為將 XR 設備或它一直在研究的全息折疊光學器件提升到一個新的水平所必需的還為時過早,盡管可能變焦技術 Meta 已經研究了多年幾乎準備好迎接黃金時段了。
值得注意的是,Meta未來的VR 頭顯或將搭載其自研的用于AI處理的定制加速器芯片。
據外媒ROAD TOVR報道稱,Meta Reality Labs的研究人員已經制造了一款VR頭戴設備原型機,該原型機可以支持Codec Avatars項目的渲染,并且搭載了專門用于AI處理的定制加速器芯片。
早在Facebook更名為Meta前,該公司就一直致力于Codec Avatars項目,該項目旨在使VR實現“如照片般逼真”的虛擬化身。這一系統結合AI處理和設備上的眼動追蹤、嘴巴追蹤等傳感器,將使用者的臉以最接近真實的方式投射進虛擬世界。
該公司的Codec Avatars研究的早期版本得到了NVIDIA Titan X GPU強大算力的支持。但在Meta最新的Quest 2一體機等設備上,并不能完全發揮其功能。
據稱該公司已著手研究如何在低功耗獨立耳機上實現 Codec Avatars,上個月發表在IEEE CICC會議上的一篇論文中,Meta透露它正在設計一個采用7nm工藝的定制芯片用于作為Codec Avatars的加速器。
據悉,該芯片的占位面積僅為 1.6mm²,該小組在芯片設計過程中,設計人員考慮了生成Codec Avatars 模型所需要的數據。
“測試芯片采用7nm制程,具有神經網絡加速器,由1024乘法累加陣列、2MB片上SRAM和32位RISC-V CPU組成。”研究人員說。
反過來,他們還重建了 Codec Avatars AI 模型的一部分,以配合芯片的特定架構。
“我們通過重新構建基于卷積神經網絡的眼睛注視模型并針對硬件進行定制,使得模型更加適合芯片。這降低了片外內存訪問的能耗和延遲。” Reality Labs研究人員寫道。“通過在電路級有效地加速卷積運算,所展示的原型芯片實現了每秒 30 幀的性能,并且功耗低且外形小巧。”
通過加速 Codec Avatars 工作負載的密集部分,該芯片不僅加快了進程,而且還降低了功率及發熱。由于芯片的定制設計,它能夠比通用 CPU 更有效地做到這一點,然后為 Codec Avatars 的眼動追蹤組件的重新架構軟件設計提供信息。
雖然定制芯片處理部分 Codec Avatars 編碼過程,但 XR2 管理解碼過程并渲染化身的實際視覺效果。
得益于專用芯片的加速,Meta的Codec Avatars或許可以在一體機上運行。但目前我們不知道虛擬化身的視覺渲染效果如何。在非一體機上運行時,該模型將用戶建模掃描的非常詳細,這可能過于復雜,不能在Quest2等一體機上得到完整的呈現。目前還不知道Codec Avatars強大的“逼真”畫面在這客觀條件的限制下最終呈現的效果會如何。
我們可以想象,一系列XR特定的功能都可以通過這種專門設計的加速芯片來實現。比如在XR世界中實現空間音頻是XR玩家們愿意看到的,這可以增加沉浸感。但逼真的聲音模擬在實際使用中不僅會增加成本,并且也會影響續航。
另外,位置跟蹤和手勢跟蹤也是XR體驗的關鍵部分,在這些地方將硬件和算法結合起來進行設計可以使XR設備在速度和功率方面取得巨大的提升。
參考鏈接:Prototype Meta Headset Includes Custom Silicon for Photorealistic Avatars on Standalone
Demi Xia編譯