公式Discordサーバーはこちら!

ハンドトラッキングなしでも、現実の指文字へ――「Virtual Sign」がつなぐVRChatと現実

VRChatでは、声を出さなくても会話ができる。

身振りや視線、表情、そして手話。アバターの身体を通して交わされる言葉は、音声だけに限られない。

しかし、コントローラーで作れる指の形には限界がある。VRChatのコミュニティWikiで紹介されている標準ジェスチャーは8種類指を交差させるような細かな形は難しく、その制約の中で、VRChat向けに工夫された「VR手話」「VR指文字」が使われてきた。

そこで生まれたのが、T_Chief_さんによるVRChat向けアバターギミックVR手話サポートギミック Virtual Signだ。

これは、VR手話を別のものへ置き換える道具ではない。VRChatの制約に合わせて使われてきた手形を入力として、現実の指文字に近い手形も表現できるようにする、VRと現実の距離を縮めるための橋渡しである。

手話は「手で表す日本語」ではない

まず押さえておきたいのは、手話は誰かが便利な身振りを集めて設計した「人工言語」ではないということだ。

手話言語は、ろう者のコミュニティの中で自然に生まれ、長い時間をかけて受け継がれてきた自然言語である。日本語の単語を一つずつ手の動きへ置き換えたものでも、音声が使えないときだけの補助的なジェスチャーでもない。

全日本ろうあ連盟が公開している「手話言語の国際デー」の資料では、手話言語は独自の文法体系を持ち、手の形、位置、動きだけでなく、眉や目、口、頬、肩、上半身の動きまで組み合わせて意味を伝える言語だと説明されている。

つまり、手話を見るときに注目するのは手だけではない。

どこで手を動かしたか。どちらへ向けたか。どの程度の速さだったか。話者がどこを見て、どのような表情をしていたか。それらが重なって、一つの発話になる。

取材では「くるみ割り人形」を例に、単語を機械的に置き換えるのではなく、くるみを割る動作や兵隊の姿を視覚的に組み立てて伝える表現についても教えてもらった。これは一つの例ではあるが、手話が単なる単語カードの連続ではなく、身体と空間を使って意味を作る言語であることが分かりやすい。

手話の「起源」は、一人の発明者にはたどれない

自然言語である以上、手話の始まりを「この人物が、この年に発明した」と一つに定めることは難しい。

音声言語が地域や人の交流の中で変化してきたように、手話言語もまた、各地のろう者コミュニティの中で育ってきた。そのため、手話は世界共通ではない。
日本で使われる手話、アメリカで使われる手話、フランスで使われる手話などがあり、それぞれに異なる語彙や文法、歴史がある。

日本における近代的なろう教育の大きな節目としては、1878年に開学した京都盲唖院がある。現在の京都府立聾学校が公開している沿革には、開業式で生徒が「手勢」と呼ばれる手話を使って質問に答えた記録が残されている。

ただし、これは「1878年に日本の手話が誕生した」という意味ではない。学校ができる以前から存在していた視覚的なコミュニケーションが、ろう者の集まる教育の場でも使われ、共有されていたことを示す記録の一つだ。

その後のろう教育では、発音や読唇を重視する口話法の広がりによって、手話の使用が制限・排除された時代もあった。それでも手話は、ろう者同士の生活と交流の中で受け継がれてきた。

こうした背景を知ると、手話を単なる「便利なハンドサイン」として扱えない理由が見えてくる。そこには、言語としての仕組みだけでなく、使ってきた人々の歴史と文化がある。

「VR手話」とは何か

では、VRChatで使われる「VR手話」は、現実の手話と何が違うのだろうか。

本稿では、現実の手話言語を、VRコントローラーやアバターの制約に合わせて表現するために工夫されてきた手話・指文字を「VR手話」「VR指文字」と呼んでいる。現実の手話とは別の言語を一から作ったというより、限られた入力の中で会話を成立させるために、手の形や動かし方を調整してきたものだ。

VRChatのコントローラー操作で標準的に使える手の形は、「Normal」「Open」「Victory」「Point」「Finger gun」「Thumbs up」「Fist」「Rock ‘n’ roll」の8種類。VRChatのコミュニティWikiでも、この8種類を組み合わせることで、さまざまな単語や文章が表現されていると紹介されている。

しかし、現実の手はもっと細かく動く。

指を一本ずつ曲げる。指同士を交差させる。親指を特定の指へ添える。手のひらの向きをわずかに変える。こうした手形のすべてを、一般的なVRコントローラーだけで直接入力することは難しい。

そこでVR手話では、コントローラーで作れる形、手を置く位置、腕の動きなどを組み合わせ、現実の表現に近い意味を伝えられるよう工夫されてきた。たとえば「こんにちは」を指文字で一文字ずつ綴るのではなく、一つの手話表現として伝えることもできる。

VRChat内の手話教室では、VR手話だけを教えているわけではない。現実の手話も一緒に扱い、学ぶ側も両者の違いを理解したうえで練習している。

それでも、普段の会話で見慣れたVR手話の形が、無意識に先に出ることがある。現実の表現を知らないのではなく、知識と慣れが一致しないのだ。反対に、現実の手話を知っている人がVRChatへ来れば、相手の発言を読み取るためにVR特有の表し方へ慣れる必要がある。

同じ意味を伝えようとしていても、使える身体が違う。その間に生まれるずれこそが、Virtual Signの出発点だった。

VR空間は、手話に向いているのか

VR空間には、手話と相性のよい部分がある。

離れた場所にいる人同士が、同じ三次元空間に立ち、互いの手や身体の動きを見ながら会話できる。音声通話や文章だけでは伝えにくい視覚的な表現を、身体ごと共有できるのは大きい。

実際、VRを使った手話教育に関する55本の研究をまとめた2025年のシステマティックレビューでは、ジェスチャー認識とリアルタイムのフィードバック、VR空間での対話練習、学習の個別化、アクセシビリティなどが主要な研究テーマとして挙げられている。

しかし、VRなら現実の手話をそのまま再現できるわけではない。

使用する機器によって、指、表情、視線、上半身の動きの取得精度は異なる。アバターによって手の大きさや指の形、腕の長さも違う。トラッキングが外れれば動きが途切れ、手が身体や衣装へ埋もれれば相手から見えにくくなる。

特に一般的なコントローラー環境では、手話を構成する要素のうち「手形」が大きな壁になる。

Virtual Signは、VR手話のすべてを完成させる道具ではない。顔の表情や視線、身体の動きまで自動で補うものでもない。VRコントローラーでは作りにくかった手形を増やし、現実とVRの間にある差の一部を埋める。

担う範囲を限定しているからこそ、このギミックが何を解決するのかも分かりやすい。

知識ではなく、「慣れ」の間にあったずれ

開発のきっかけは、T_Chief_さん自身の体験だった。

手話への関心には、かつて手話サークルへ通っていた両親の影響もあった。ただ、実際に学び始める直接のきっかけとなったのは、VRChat内の手話教室を見つけたことだった。

その教室では、VRChat向けに調整された表現だけでなく、現実の手話も一緒に教えている。T_Chief_さんも、VR手話と現実の手話の違いを理解したうえで学んでいた。

その後、現実の手話サークルに参加した際、現実の表現を知っていたにもかかわらず、普段のVRChatで見慣れていたVR手話の形を誤って使い、相手に伝わらず訂正することがあったという。

現実の手話を覚え直す必要があったわけではない。両方の違いは分かっている。それでも、日頃から目にしている形が先に出てしまう。その「慣れ」の偏りが、T_Chief_さんの感じた課題だった。

だから制作当初の目的は、VRChatの中でも現実の手形を表現できるようにし、現実の手話にも日常的に見慣れることだった。当初は公開を予定しておらず、自分で使うためのギミックとして作っていたという。

公開を決めた、ろう学校の学生との出来事

その考えを変えたのが、ろう学校の学生がVRChatへ来たときの出来事だった。

T_Chief_さんが目の当たりにしたのは、互いに日本手話を使う者同士であるにもかかわらず、現実の手話話者がVR手話を新たに覚えなければ相手の発言を十分に読み取れない場面だった。

話している言語は同じなのに、VRChatの入力上の制約によって手形が置き換わり、コミュニケーションが妨げられてしまう。問題は、どちらかが手話を知らないことではない。使える身体が異なることで、同じ言葉の間にずれが生まれていた。

この出来事をきっかけに、T_Chief_さんは自分用だったギミックを公開しようと決意した。VRと現実を近づける架け橋として、同じ言葉を使う人同士が、環境の違いに阻まれず会話できるようにするためだ。

ただし、Virtual Signは手話全体を自動翻訳するツールではない。

手話は、手の形だけで成立するものではない。手を動かす位置や方向、身体の向き、視線、表情なども含めて意味が作られる。Virtual Signが支えるのは、その中でもVRコントローラーが苦手としてきた「手形」の部分だ。

VRChatのコミュニティWikiでも、コントローラーでは指の制御に限界がある一方、限られたジェスチャーの組み合わせによって手話表現が行われてきたことが紹介されている。

17種類の手形を追加し、VR指文字をリアルタイムで変換

Virtual Signは、VRChat標準のジェスチャーに加えて、指文字や数字で使われる17種類のハンドジェスチャーをアバターへ追加する。

ギミックを有効にした状態でVR指文字の形を作ると、その入力を検知し、対応する手形へリアルタイムで切り替える。
ハンドトラッキングがなくても、普段使っているVRコントローラーから、標準ジェスチャーだけでは難しかった指の形を表現できる仕組みだ。

取材では、VR指文字の「つ」を実演してもらった。VR手話で使われている入力を作ると、ギミックが反応し、現実の指文字に近い手形へ切り替わる。文章で説明するよりも、変化する瞬間を目で見るほうが早い。いつもの操作の延長にあるからこそ、会話の流れも止まりにくい。

ここで区別しておきたいのが「指文字」だ。指文字は、手話単語のない固有名詞や新しい言葉などを表す際に、50音に対応した手形を一文字ずつ示す方法である。

取材中、T_Chief_さんは、この指文字の役割を「外来語をカタカナで書くようなもの」と説明していた。手話単語でそのまま表しにくい言葉も、指文字を使えば一文字ずつ綴って伝えられる。

どんなアバターでも使えるようにする難しさ

開発には、およそ1年を要した。

特に苦労したのは、ユーザーが行うVR手話の入力を正しく検知すること。そして、手の大きさや指の形が異なる、さまざまなアバターへ対応させることだったという。

人型アバター同士でも、手の造形やボーンの状態は同じではない。さらに「まめフレンズ」のような小さなアバターでは、通常サイズのアバターと同じ設定が使いにくい場面もあった。現在は小型アバター向けのPrefabも用意され、手形を合わせるための調整機能も備わっている。

制作には、手の形を調整するエディターを担当した、まるたまさんも参加した。導入後の調整まで含めて支えることで、特定のアバターだけの機能ではなく、多くのユーザーが使える道具へ近づけている。

ちなみに、T_Chief_さんが最も気に入っているのは「OK」のサイン。取材時点で手話の学習歴は約2年で、日常会話には自信を持ちつつも、今も学び続けていると話していた。

完成品を一方的に配るのではなく、自分自身も学習者として使い、要望を受けながら育てていく。その姿勢も、このギミックらしさの一つだ。

無料で公開するという選択

Virtual Signには無料版があり、支援用として1,000円のバージョンも用意されている。ギミックの内容に違いはない。

T_Chief_さんは取材で、「これでお金は取りたくない」という思いから無料公開を選んだと話していた。

手話を必要としている人、VRChatで手話を教えている人、そしてVRChatをきっかけに手話を学び始めた人。使ってほしい相手の前に、価格という壁を作りたくなかったのだろう。

もちろん、無料だから簡単に作られたわけではない。1年をかけて検知方法を組み、アバターごとの差を調整し、今後も要望や不具合と向き合っていく。その積み重ねを、必要な人が手に取りやすい形で開いている。

VRと現実で、同じ言葉を交わせるように

手話は世界共通の身振りではない。全日本ろうあ連盟が紹介するESCAPの資料によれば、世界では200を超える手話言語が使われている。それぞれが地域やコミュニティの中で育ってきた、独自の言語だ。

同じように、VR手話もまた、VRChatという環境の制約と交流の中で育ってきた表現である。

ただし、VRChat内の手話教室が現実の手話を軽んじているわけではない。現実の表現とVRでの代替表現を区別し、両方を理解したうえで会話と学習をつないできた。

Virtual Signが目指しているのも、その文化を消して一つの形へ統一することではない。VRChatの中で交わされてきた言葉を残したまま、現実の手形もVRChatで表現できるようにし、両者の距離を少し近づけることだ。

現実の手話を知っている人がVRChatへ来たとき、VRChatで手話に親しんだ人が現実の場へ出たときも、環境の違いが会話を妨げないようにする。

声を使わなくても、そこには確かに会話がある。

Virtual Signは、その手から生まれた言葉を、もう少し遠くまで届けるためのギミックだった。


製品情報

  • 製品名:VR手話サポートギミック Virtual Sign
  • 制作者:T_Chief_(T.C.Works)
  • 価格:無料/支援版1,000円(内容は同一)
  • 主な機能:VR指文字・数字で使われる17種類の手形を追加し、入力に応じてリアルタイムで切り替え
  • 導入条件:Modular Avatar、lilToon
  • 配布ページ:https://booth.pm/ja/items/7744412

※本稿では、現実の手話言語と、VRChatの操作環境に合わせて用いられてきた「VR手話」「VR指文字」を区別して記述しています。VRChat内の手話教室では、現実の手話とVR手話の違いも含めて学習が行われています。Virtual Signは手話全体の自動翻訳ではなく、指文字や数字で必要となる手形の表現を補助するアバターギミックです。

参考情報