DEV Community

Cover image for VRChat Gets Native Face Tracking Support In Open Beta
Ashish
Ashish

Posted on

VRChat Gets Native Face Tracking Support In Open Beta

VRChatの顔トラッキング対応が示すもの——「VRで自分の体を変える」という発想

VRChatがOpen BetaクライアントとAvatars SDKベータで、アバターのネイティブ顔トラッキング(Face Tracking)サポートを提供開始しました。SDKレベルでの対応という点が重要で、開発者がアバターに表情の動きを組み込みやすくなり、VR空間での「自分を表現する解像度」が一段上がった出来事です。

このニュースが興味深いのは、技術そのものより方向性です。VRはこれまで、どちらかと言えば「外の世界を置き換える装置」として語られてきました。しかし顔トラッキングの標準化は、VRが自分の身体の状態を扱う装置になりつつあることを示しています。身体の動きを入力として取り込み、アバターに反映する。ならば、身体の側を変えることもできるのではないか——そういう発想の延長線上に、今回の話題を置いてみると見え方が変わります。

アーキテクチャとしての「知覚の入力」

エンジニアの視点でこの流れを捉え直すと、VRヘッドセットはこれまで「出力デバイス」でした。HMDが映像を出し、コントローラが手の位置を返す。入力は離散的で、せいぜい6DoFのポーズとボタン程度です。ところが顔トラッキングがSDKに入ると、入力の粒度が一気に上がります。眉、口角、まぶた——数十のブレンドシェイプがフレームごとにストリームとして流れ込む。

これは、ヘッドセットが生体信号に近いものを扱い始めたことを意味します。視線、瞳孔、表情筋。入力の解像度が上がれば、それを変換して別の出力に使える。ポーズ推定がそうだったように、表情推定もまた「身体を読む」技術です。読めるなら、書ける。つまり、身体の状態そのものを変化させる方向に使える余地がある。

その延長線上にあるのが、視覚のトレーニングです。

Amblyotubeは、Seven Sportsが開発したMeta Quest向けのリクリエーショナル&教育用ソフトウェアで、視覚の協調と注意のエクササイズを目的としています。仕組みはシンプルです。左右の目に異なる映像体験を届ける——これがアプリの中心にあります。

レンダリングパイプラインとしての両眼分離

技術的に面白いのは、これが「1つの映像を2つの目に届ける」通常のステレオレンダリングとは逆方向だという点です。Amblyotubeがやっているのは、左右で意図的に異なる画像を合成する処理です。

具体的には、優位眼側には調整可能な軽いデジタルぼかし(Dominant Eye Shader)をかけ、もう一方の目にはAI Sharpener(MFBF)が人物の輪郭を検出して赤い輪郭線や黄緑のハイライト、一定リズムの点滅で強調します。オプションのWedge Occlusionを使えば、それぞれの目が見える領域を意図的に分けることもでき、両眼の競合を抑えられます。

ここで効いているのは、シェーダーレベルで「片目だけにエッジ強調をかける」という設計です。輪郭検出はフレーム単位で走り、強調のリズム(点滅)は時間方向の制御になります。空間的な分離と時間的な変調を組み合わせることで、脳の融合プロセスに介入しようとしている。GPUに優しい実装かどうかはさておき、知覚を入力ではなく出力側から操作するという発想が一貫しています。

さらに、Magenta Focus Cueという仕組みがあります。トレーニングする側の目に明るいマゼンタの手がかり、優位眼側に控えめなニュートラルグレーの点を出し、追跡によってそれらがひとつの立体像に統合されていく——つまり、脳が両眼の像を融合させ、本来の3D奥行きを知覚する練習です。色の選択も合理的で、マゼンタは赤と青の中間、つまり両眼のチャンネルにまたがる位置にあります。

なぜ「YouTube形式」なのか

視覚トレーニングの最大の敵は、続かないことです。これはエンジニアリングでいうところの「リテンション問題」で、どんなに優れたアルゴリズムでも、ユーザーが起動しなければ実行されません。

Amblyotubeは、任意のYouTube動画をそのまま視覚のジムに変えます。バーチャルルームでも、Room ViewのARパススルーでも再生でき、Meta Questのハンドトラッキングで浮かぶメニューから、対象の目(左/右)と強度プリセット(Mild/Moderate/Severe)、あるいはLogMAR視力チェックを選んで開始します。好きなコンテンツを見ながら、というのが現実的な継続の条件です。

設計思想として読み取れるのは、「トレーニングを専用コンテンツに閉じ込めない」という判断です。専用のミニゲームを作ればエンゲージメントは制御できますが、制作コストがかかり、飽きられる。既存の動画プラットフォームに処理をかぶせるレイヤーとして実装すれば、コンテンツの供給は無限で、ユーザーは自分の好きなものを選べる。関心の分離(separation of concerns)を、コンテンツとトレーニングロジックの間に引いたわけです。

1回30〜40分、1日最大1時間までが推奨されています。接着剤タイプの遮蔽パッチや赤青メガネは不要です。

定量化と限界

LogMAR視力チェックがメニューに組み込まれている点も、地味ですが重要です。トレーニング系のアプリは往々にして「やった感」だけを返しますが、視力の指標をアプリ内で測れるようにしておくのは、フィードバックループを閉じる設計です。数値が動けば、続ける動機にもなる。

ただし、ここは正確に書いておきます。Amblyotubeは診断・治療・治癒を目的としたものではなく、両眼の協調と奥行き知覚のための補助的な視覚トレーニング/支援ツールです。年齢は13歳以上。

弱視(lazy eye / amblyopia)やその傾向について悩んでいる場合、最初にすべきことは眼科専門医への相談です。そのうえで、自宅で続けられる練習の選択肢として、こういうものがある——という位置づけで捉えてください。医療機器ではないので、効果を保証するものでもありません。

身体を「読む」から「変える」へ

VRChatの顔トラッキングが「VRで自分を表現する」を変えたように、VRが「見え方」に踏み込む余地はまだ残っています。入力の解像度が上がり、出力を片目単位で制御できるようになれば、ヘッドセットは娯楽の箱から、知覚そのものを扱うプラットフォームへと少しずつ近づいていく。まだ初期段階ですが、方向性としては面白い領域です。

Meta Questアプリはこちらから:https://www.meta.com/en-gb/experiences/amblyotube/25906906972338493/

Top comments (0)