会誌「情報処理」Vol.64 No.8(Aug. 2023)「デジタルプラクティスコーナー」

ホログラフィックTVの実用化に向けた課題と3D映像のストリーミング表示システムの開発

山口一弘1  井熊了一1  大西海里1  坂本雄児2

1公立諏訪東京理科大学  2北海道大学 

ホログラフィは,人の目の立体視における生理的要因を完全に満たす3D表示技術であり,将来の3DTVへの実用化が期待されている.計算機シミュレーションにより生成された計算機合成ホログラムと,ホログラムを電子ディスプレイに表示する電子ホログラフィの技術により,CGのような仮想の物体の3D動画像を現実空間に表示することができる.本稿では,ホログラフィ技術をベースとしたホログラフィックTVの実用化へ向けて,開発した計算機合成ホログラムの計算,伝送,表示を行うストリーミング表示システムについて紹介する.本システムにより,ラボ内のローカルネットワーク環境ではあるものの,生成したホログラムデータをネットワーク経由でストリーミング伝送し,自然な立体映像をストリーミング表示することが可能となった.有線通信,無線通信による検証結果,そしてホログラムを表示するハードウェア面の性能向上,ホログラムを生成・伝送するアルゴリズムの開発など実用化に向けた今後の課題について述べる.

1.3D映像のストリーミング表示システムの役割

1.1 ホログラフィックTVとは

近年,CG(Computer Graphics)技術の発展に伴い,私たちは現実と見間違うかのように作り出された映像を視聴することが可能となった.CGコンテンツを制作する際には,表示したい物体やシーンを構成するモデリング技術,作り上げたモデルやシーンを現実の物理現象に整合するようなリアリスティックな描画を実現するためのレンダリング技術が必要となる.特にレンダリングでは,現実世界の光の挙動を模した計算処理が必要となり,膨大な計算量とそれに伴う計算時間が必要となる.レンダリングに使用するコンピュータの性能も近年では大幅に向上し続けており,リアリスティックな映像制作を支えるハードウェアとして貢献している.

また,通信インフラの急速な発展と高速なインターネット通信の普及も相まって,制作したCGコンテンツを一般に公開し,幅広いユーザが手軽に利用するプラットフォームが整ってきた.このように,ソフトウェア技術,ハードウェア技術の発展と安価な民生品の普及により,ユーザが容易にCGコンテンツに触れることができ,綺麗な映像を視聴することが当たり前となってきた.

そして2022年前後からメタバースという言葉も広まってきており,コンピュータの中に作り出された仮想空間上でさまざまなサービスの活用が期待されている.新型コロナウイルスの感染拡大によるオンラインコミュニケーションのサービスもすでに一般に普及している状況であるが,5Gによる通信技術,拡張現実(AR)/仮想現実(VR)/複合現実(MR)/クロスリアリティ(XR)などによる映像表現技術の活用により,今後は仮想空間と現実空間が相互に連携しあったサービスの展開が進んでいくと考えられる.

このような状況の中で,SF映画などでは以前より近未来の映像表現手段として,ホログラフィ[1]という技術をイメージした表現が数多くされている.人が現実世界で物を見るのと同様に,仮想の物体,あるいは遠隔地の映像が浮かび上がって表現されているシーンが見受けられる.それらの映像表現は,必ずしもホログラフィとは限らないが,空中に浮かび上がった映像を活用するシーンをしばしば目にする.現在の映像技術では,XR,MRという名前で知られるクロスリアリティや複合現実の技術がこのイメージに近いと考えられ,これらを活用した映像の新しい利活用がこれからのアプリケーション・サービスとして期待されているものと思われる.

本稿では,現実空間と同様に自然な3D映像を表示できるホログラフィック3Dディスプレイについて紹介し,遠隔地への3D映像伝送システムの開発について報告する.

1.2 ホログラフィと計算機合成ホログラム

光の波動としての性質を利用した3D表示技術の1つとしてホログラフィ技術がある.ホログラフィは従来の2Dの写真技術と同様に,写真乾板などに印刷し,光を照射することで3Dの写真を作ることができる(作られた3Dの写真をホログラムと呼ぶ.詳細は1.2.1項で述べる).一般的な写真とCGの関係のように,ホログラムを計算機内の数値シミュレーションにより生成したものを計算機合成ホログラムと呼ぶ.そして,ホログラムを電子ディスプレイ上にデジタルデータとして表示し,ホログラフィによる3D動画像の表示を行う技術を電子ホログラフィと呼ぶ.

ここでは,ホログラフィ,計算機合成ホログラム[2],電子ホログラフィ[3]について述べる.

1.2.1 ホログラフィ

ホログラフィは,3D表示技術の1つで,光の波動としての性質を利用し,被写体の情報を記録・再生する技術である.人の目による立体視をする過程で重要とされる両眼視差,焦点調節,輻輳,運動視差の生理的要因を満足する技術として知られている.また,3Dメガネなどの専用メガネが不要であり,私たちが現実空間でごく自然に物を見るときと同様に見ることが可能となる.

従来の写真技術では,記録したい被写体の明るさ(振幅)を写真乾板やフィルム,イメージセンサなどに記録する.記録した情報を現像,電子ディスプレイ上に表示,またはプリンタで印刷することで,記録時の画像を視聴することが可能であった.

これに対してホログラフィでは,記録したい被写体の明るさ(振幅)とともに,どの方向から光がやってきたかという情報(位相)を記録する.3Dの画像を表示するためには,この位相情報が必要となる.図1にホログラフィの記録・再生の原理図を示す.

ホログラフィの記録・再生原理 (a)ホログラムの記録
(a)ホログラムの記録
(b)ホログラムの再生 
(b)ホログラムの再生
図1 ホログラフィの記録・再生原理

ホログラフィでは,干渉性の良いレーザ光を使用してホログラムを記録する.レーザから出た光を図1(a)のように,記録したい光へと照射する光,記録媒体へと直接照射する光へと2つに分ける.被写体にレーザ光を照射すると,被写体の表面各点から反射光が生じ,その反射光が記録媒体へと届く.

被写体から記録媒体へと到達する光を物体光,記録媒体に直接照射する光を参照光と呼ぶ.記録媒体上では,この物体光と参照光との干渉が記録され,非常に細かい複雑な縞模様が記録されている.この縞模様のことを干渉縞と呼ぶ.この干渉縞という形で物体光のすべての情報(振幅と位相)を記録することができる.この干渉縞を記録したものをホログラムと呼ぶ.

干渉縞から物体光を再生するためには,図1(b)のように,記録時に照射した参照光をホログラムに照射する.この光は再生照明光と呼ばれる.ホログラムは細かい干渉縞を記録した一種の回折格子の役割を果たし,再生照明光はホログラム上で回折が生じる.この回折する光は,記録時の被写体からの光と同じ性質を持っており,その光が目に届くことによってそこに物体がないのにあたかもあるように認識する.物体光そのものを再現しているため,視点を変えて被写体を観察することが可能となる.

1.2.2 計算機合成ホログラム

1.2.1項で述べたホログラフィでは,記録したい被写体を用意し,それにレーザ光を照射して記録材料にホログラムを記録した.ホログラムには被写体の物体によって生成された複雑な縞模様の干渉縞が記録される.この干渉縞は,計算機シミュレーションによっても生成することが可能である.

数値シミュレーションによって生成されたホログラムを計算機合成ホログラム(CGH:Computer-Generated Hologram)と呼ぶ.計算機合成ホログラムでは,光波の反射,伝搬,干渉といったホログラフィの記録過程における物理現象を数値計算により行う.この計算により,干渉縞のデジタルデータ(以後,ホログラムデータと呼ぶ)が得られる.

ホログラフィでは,ホログラムの生成のためには実在する被写体が必要である.また,レーザ光を照射するための安全性や暗室,レンズなどの光学機器も必要となる.そして,写真乾板などの記録材料に記録するため,静止した被写体の3D写真となる.これに対して計算機合成ホログラムは,2次元CGのように計算機内で生成した仮想の物体から光波計算を行うことで,仮想物体を再生可能なホログラムデータを生成することが可能となる.また,数値計算により生成するため,レーザやレンズなどの光学機器が不要という利点を持つ.さらに,1.2.3項で後述する電子ホログラフィを用いることで,3D動画像の表示も可能である.

図2に計算機合成ホログラムの生成の流れを示す.まず,記録したい被写体を2次元CG技術のモデリングと同様に制作する.制作したCGモデルを使用して,そのモデルに照射したレーザ光を想定し,CGモデル表面からの光波を数値計算することになる.計算方法としては,CGモデルを3D点群で表現し光波計算するPoint Cloud法[4],CGモデルを平面のポリゴン群で表現し光波計算するAngular Spectrum法[2]が知られている.これらの計算手法を用いて,レーザ光の物体表面での反射,反射した光の伝搬により物体光を計算し,参照光との干渉を想定した計算を行うことで,干渉縞,すなわちホログラムデータが得られる.

計算機合成ホログラムの生成の流れ
図2 計算機合成ホログラムの生成の流れ

得られたホログラムデータは,記録材料に記録したり,後述する電子ホログラフィを用いることで,計算時に使用した仮想のCGモデルを現実空間に再生することが可能となる.上述した計算は静止したモデルを使用した場合の流れであるが,2D動画像と同様に,3Dの動画像を再生したい場合には複数枚のホログラムデータを生成する必要がある.

1.2.3 電子ホログラフィ

電子ホログラフィは,ホログラムを電子ディスプレイ上に表示し,ホログラフィの再生原理に基づき,立体像を再生する方式である.1.2.2項で述べた計算機合成ホログラムを電子ディスプレイに表示することで,計算時に使用した仮想のモデルを再生することが可能となる.

電子ホログラフィでは,数μm間隔の微細なホログラムデータを表示するための非常に高解像度なデバイスが要求される.空間光変調器(SLM:Spatially Light Modulator)は,その要件を満たすデバイスであり,ホログラムデータを表示し,ホログラフィの再生原理に基づき光を照射することにより回折が生じ,ホログラムから再生を行うことができる.

図3に電子ホログラフィによる再生の概要図を示す.ホログラフィにおける再生時と同様に,レーザ光をホログラムへと照射する.電子ホログラフィの場合には,ディスプレイ(SLM)にホログラムデータが表示されており,これがホログラフィにおけるホログラムと同じ役割を果たす.このため,SLM上で光波の回折が生じ,3Dの映像が再生される.

電子ホログラフィによる再生
図3 電子ホログラフィによる再生

電子ホログラフィでは,SLM上のホログラムデータを切り替えて表示することにより,動画像を再生することが可能となる.また,ホログラフィの原理に基づいているため,人が現実空間で物を見る時と同様に自然な立体視が可能である.このため,将来の理想的な3D表示技術として注目されているが,非常に高解像度なデバイスが必要であったり,レンズやミラーといった表示光学系の小型化などの課題がある.

2.ホログラフィ伝送技術の開発と評価

2.1 ホログラフィの伝送の歴史

一般的なTV映像では,2Dの動画像は,2Dの画像を高速に切り替えて表示することによって表現されている.1秒あたりの画像の枚数をフレームレートとよび,fpsという単位で表される.3Dの動画像も同様に,3Dディスプレイ上に3Dの画像を高速に切り替えて表示することで実現される.ホログラフィ技術をベースとしたホログラフィックTVの場合,ホログラムを高速に切り替えて表示することにより,ホログラフィベースの3D動画像の再生が可能となる.現在のTV放送やWebベースの映像配信のように,ホログラムのデジタルデータを撮影あるいは生成し,そのデータを表示機器へと伝送し,視聴するという形態を目指したホログラムの伝送について,下記に述べる.

ホログラムの伝送に関する研究として,1966年にベル研究所のEnloeらの報告がある[5].その後,高野らによる研究[6],[7]により,画像圧縮技術を施されたホログラムデータの生成と伝送が報告された.そして,インターネットでの配信を想定したホログラムの伝送についての報告がある[8],[9].

これらの研究では,一般的な動画像を対象とした圧縮技術,伝送技術をベースとした方式がホログラムの伝送方法として検討されているが,ホログラフィには下記の特徴があることが知られている.

  • 高い冗長性:ホログラムは高い冗長性を持ち,伝送時に若干の画質劣化が生じても3D情報はほとんど失われない.
  • 情報圧縮:被写体の3D情報を1枚のホログラム(画像)で表現できる.他視点画像などの他の3D撮影技術とは異なり,ホログラフィは視点数に依存しない.

上記の特性を活かしたホログラムの伝送アルゴリズムの開発が将来的に望まれる.そのためにまずは現在の2Dの動画像伝送と同様に,ホログラムの画像あるいは動画像データを容易に伝送することが可能となればと考え,ホログラムデータを生成し,伝送し,表示するシステムについて研究開発を進めてきた.以下,2.2節に開発中のホログラムのストリーミング表示システムについて述べる.

2.2 3D映像のストリーミング表示システムの開発

2.1節で述べたとおり,ホログラムの伝送に関する関連研究は基本的にホログラムのデータ圧縮技術に主眼を置いており,既存の動画像圧縮技術をベースとした方式が利用されていた.

ここでホログラムデータの画像圧縮技術について考える.図4にホログラムデータの一例を示す.図4(a)は未圧縮のホログラムデータ,図4(b)はJPEG圧縮を施したホログラムデータである.ここでは,比較が容易にできるよう,高圧縮率(低解像度)なJPEG圧縮の例を示している.

無圧縮/JPEG圧縮されたホログラムデータ例 (a)無圧縮
(a)無圧縮
(b)JPEG圧縮
(b)JPEG圧縮
図4 無圧縮/JPEG圧縮されたホログラムデータ例

図4を比較して分かるように,一般的な画像のように画像圧縮を施すと,画像の細かい領域にデータ欠損が生じ,その結果画質劣化が生じる.通常の画像であれば,この画像そのものを視聴するが,ホログラムデータの場合,μmオーダの非常に微細な縞模様により光の回折が生じ,その結果として3D映像が生成されるため,ホログラムデータの画質劣化に加え,再生された3D映像の画質劣化についても検討が不可欠となる.そこで今回,ホログラムデータの画質劣化が生じない可逆圧縮技術をベースとしたホログラムの伝送を行い,スループット(伝送時に必要となるビットレート)の観点から評価を行った.

図5に開発したホログラムのストリーミング表示システムの構成図を示す.本システムでは,ホログラムの生成には計算機合成ホログラム,ホログラムの表示には電子ホログラフィを用いた.

ホログラムのストリーミングシステム構成図
図5 ホログラムのストリーミングシステム構成図

計算機合成ホログラムでは,光波計算に膨大な計算量が要求されるため,近年ではGPU(Graphic Processing Unit)などを有する計算処理特化のサーバやワークステーションを利用するのが主流である.一般的には,生成したホログラムデータを,ホログラム表示用のSLMを接続した計算機へとUSBメモリなどの物理的なメディアを介してハードコピーし,ホログラムの再生を行っていた.本研究では,計算したホログラムデータをネットワークを介して伝送するために,伝送装置を導入した.

本システムの流れとしては,まず計算用サーバにて,仮想の被写体の3DCGモデルを作成し,そのモデルからホログラムデータを計算する.動画像の場合には,必要な枚数ホログラムデータを生成し,ホログラムデータを伝送用サーバへと転送する.計算用サーバには,NVIDIA社のGPUとしてRTX A6000を使用し,NVIDIA社のGPUプログラミング用のソフトウェア開発環境であるCUDA[10]を使用して計算処理を実装した.

伝送用サーバでは,生成したホログラムデータを表示用サーバへとストリーミング伝送する処理を実装した.一般的にホログラムデータの計算処理には計算に要する時間が膨大となり,複数のGPUを搭載したPCを複数台使用するなど高いPCスペックを要求する.本研究でのホログラムデータの計算には,NVIDIA社のGPUを使用し,そのソフトウェア開発環境を使用して計算処理を実装した.ただし,1枚のホログラムを生成するのに約10秒かかるため,リアルタイムなホログラムデータの計算はできなかった.そのため,事前に計算したホログラムデータを保存し配信する構成とした.

動画像の場合には,複数枚のホログラムデータを時系列に結合したホログラム動画として伝送する.表示用サーバにはSLMをディスプレイ用のケーブルにて接続し,LED等の光を再生照明光として照射する.ストリーミングにて受信したホログラム動画をSLM上に表示することで,3D映像が再生できる.なお,本来であればレーザ光を用いてホログラムから再生することが一般的であるが,今回は実験時の安全性の観点,表示光学系の簡略化,ノイズの低減などを考慮して,LEDを使用している.図6に表示装置の全体像を示す.

表示装置の写真
図6 表示装置の写真

これらの計算用サーバ,伝送用サーバ,表示用サーバは,ラボ内のローカルネットワーク内にて,有線LANケーブル(1000BASE-T規格)にて接続されているため,ネットワーク内のリンク速度として1Gbpsとなっている.

2.3 ストリーミング表示の実験と評価

本節では,2.2節で述べた計算機合成ホログラムの生成,伝送,表示を行うストリーミングシステムを使用して,実際にホログラムの生成から表示までの実験例について述べる.この実験の一部は,国立研究開発法人情報通信研究機構の委託研究(06801)により得られたものである.以下,ホログラムデータを有線通信にてストリーミング表示した例,無線通信にてストリーミング表示した例について紹介する.

2.3.1 有線通信による結果

まず,ホログラムデータの計算には,Point Cloud法[4]を使用した.ホログラム計算時の主なパラメータを表1に示す.ホログラムデータは,ピクセル数(ホログラムの画素数)はフルHD(1,920×1,080ピクセル),ピクセル間の間隔であるピクセルピッチは8.0×8.0μm,参照光に相当する光の波長は赤色相当の632nmの赤色単色にて計算を行った.再生時にホログラムデータを表示するSLMは,HOLOEYE社のHED6001を使用した.主な仕様は表2のとおりである.

表1 ホログラム計算の主なパラメータ
ホログラム計算の主なパラメータ
表2 SLMの仕様
SLMの仕様

上記のホログラムデータを動画像にするために,一般的な動画像のときと同様に,計算時に使用したCGモデルをアニメーションさせながら1枚ずつ生成した.30fpsを想定して必要な枚数だけホログラムデータを作成した.作成後,それらのホログラムデータを時系列に結合して1つの動画とした(各フレームが各ホログラムデータに相当).そして結合後の動画を表示装置へとネットワークを介して伝送する.

ホログラムデータの伝送には,2Dの動画像の圧縮処理で広く使われているffmpeg[11]を使用した.使用したffmpegソフトウェアは,2Dの動画像に対してさまざまなビデオコーデックを使用した圧縮を施すことのできるソフトウェアである.動画像のコーデック変換,フォーマット変換に用いられることが多いが,ネットワーク配信機能も有している.今回,ffmpegのSRT(Secure Reliable Transport)プロトコル[12]を使用して,結合したホログラム動画像を表示サーバへとストリーミング伝送した.SRTプロトコルはIPネットワーク上でストリーミングを行うプロトコルの1つであり,ネットワークの特性(伝送遅延・ジッター,リンク速度の変動,パケットロス)に対しての安定性が強いとされている.ホログラムデータは一般的な動画像と比較して,高いビットレートが想定されていたため,ネットワーク特性の変動に強いSRTプロトコルを使用した.

表示サーバでは,同じくffmpegソフトウェアを使用し,ストリーミング受信したホログラムデータをSLM上にストリーミング表示する.このSLMに対してLEDを照射することで,3D動画像を再生した.図7(a)に計算時に使用したCGモデル,(b)にホログラムから再生した3D映像をデジタルカメラにて撮影した例を示す.

使用したCGモデルと再生した映像 (a)CGモデル
(a)CGモデル
(b)再生した3D映像をデジタルカメラで撮影
(b)再生した3D映像をデジタルカメラで撮影
図7 使用したCGモデルと再生した映像

生成したホログラムデータを無圧縮にて伝送した場合のスループットについて伝送用サーバ・表示用サーバのネットワーク負荷をモニタリングし計測した.この場合,スループットは約500Mbpsであった.ストリーミング開始からSLM上での表示まで,数秒程度のタイムラグが生じていたが,その後はカクツキなどもなく滑らかなホログラム動画が表示でき,再生された3D映像も滑らかに表示できることを確認した.

続いて,ホログラムデータを可逆圧縮した場合についても検討を行った.ffv1コーデックを用いた可逆圧縮を施した場合では,スループットは300Mbps程度まで低減できた.非可逆圧縮方式として有名なH.264コーデック(圧縮時のパラメータ制御により可逆圧縮として処理)により圧縮を施した場合では,スループットは400Mbps程度であった.

比較のためH.264のパラメータを制御し,非可逆圧縮として施した場合の結果を表3に示す.2Dの動画像の画質評価指標として代表的なPSNR(Peak Signal to Noise Ratio)は,伝送前の無圧縮のホログラム動画と,H.264により圧縮された伝送後のホログラム動画をキャプチャしたものとで計測した.PSNRは比較対象の元動画(ここでは無圧縮のホログラム動画)に対してどの程度ノイズが含まれているかを意味しており,値が高いほど高画質(元の動画に近い)となる.品質制御パラメータにより,スループットを段階的に低減できたものの,100Mbps以下あたりから目視でもホログラムデータのデータ欠損が確認でき,そのホログラムから再生した3D映像も画質劣化しているように見えた.

表3 非可逆圧縮(H.264)でのPSNRとスループット[13]
非可逆圧縮(H.264)でのPSNRとスループット
2.3.2 無線通信による結果

続いて,有線通信時と同様に,無線通信によるホログラムのストリーミング表示を試みた.有線通信時と同様の条件の下,ストリーミングによるホログラムの表示,そして再生を行った.

伝送時のネットワーク接続方法として,表示用サーバは現在主流なWi-Fi5(IEEE802.11ac規格)を使用した(伝送用サーバは有線接続のままである).Wi-Fi5での2ストリーム(2本のアンテナによる通信)での最大リンク速度は866Mbpsであった.有線通信時と同様に,ホログラムのストリーミング表示が確認でき,3D動画像が正しく再生できていることを確認した.

しかしながら有線通信時と比較すると,ストリーミング表示途中に途切れてしまうケースもあった.30fpsから15fps,10fpsとストリーミング対象のホログラム動画のフレームレートを落とし,通信時に必要なビットレートを低減したところ,フレームレートを落とす前より多少改善はしたものの,それでも有線通信時よりは安定性に欠ける結果となったといえる.

このことから,電波強度の変動,電波干渉といった無線通信時の通信環境による影響が想定され,その結果起こるリンク速度の変動がホログラムの無線伝送に影響を与えていると考えられる.また,電波強度が弱い時には周囲のノイズの影響により伝送エラーが生じることもある.これらの理由から,より安定したホログラムの無線伝送の実現には,無線通信の特性を考慮したホログラムの伝送技術が必要であると考える.

2.4 光波の解析と評価

2.3.2項で述べたとおり,無線通信によるホログラムのストリーミング表示では,現在主流な無線通信方法であるWi-Fiを活用した例を紹介した.無線通信時には,有線通信時と比較して,通信の安定性に課題があり,特に無線の電波強度によるリンク速度の変動,それに伴うデータ損失(ビットエラーやパケットエラーとも呼ばれる)と再送制御を検討する必要がある.

Wi-Fiや4G/5Gなどによる無線通信時には,アクセスポイント(または基地局)からの電波強度に比例して,通信時のリンク速度が変動するという特徴がある[14].一例として,Wi-Fi6(IEEE802.11ax規格)におけるリンク速度表の一部を表4[15]に示す.

表4 Wi-Fi6(IEEE802.11ax規格)におけるMCS Tableの一部
Wi-Fi 6(IEEE802.11ax規格)におけるMCS Tableの一部

表4中のMCS(Modulation and Coding Scheme)は,空間ストリーム(SS:Spatial Stream),変調方式,符号化率をインデックス化したものであり,大きい方が高速なリンク速度となる.変調方式は伝送時の情報量,符号化率は誤り訂正処理によるレートを意味する.この条件の下で,無線通信に使用する帯域幅(MHz),空間ストリーム数(簡単にいうと,同時に何本のアンテナで送受信するか)により,リンク速度が変動することになる.

たとえば,MCSが11の場合,帯域幅が20MHz,空間ストリーム数が1では,143.4Mbpsのリンク速度となるが,帯域幅を80MHzへと拡張した場合には,約4倍の600.5Mbpsのリンク速度となる.帯域幅はある固定値として設定され,無線通信を行うことが一般的であるため,無線通信中では表中のある帯域幅,ある空間ストリーム数において,MCSが変動しリンク速度も変動することになる.たとえば,帯域幅を80MHz,および空間ストリーム数を2とした場合(表4中では最右列に相当)を考える.電波強度が強いとMCSは高い値となる傾向にあるため,MCSが11では1Gbps以上のリンク速度が得られる.これは一般的な有線接続(1000BASE-T規格)である1Gbpsよりも高速である.しかしながら,電波強度が弱いとMCSが低い値となる傾向にあり,最も低いMCSが0となるときでは,リンク速度が100Mbps以下となってしまう.

このように,無線通信時には必ずしも安定して高速なリンク速度が得られるとは限らない.また,上述したMCSは,一般的なデータ通信を想定して規格化されたものであり,一般的なデータ通信に対する電波強度,伝送エラー率,誤り訂正との関係性を考慮して定められたものになる.2.1節で述べたとおり,ホログラムには高い冗長性が備わっている.そのため,一般的なデータ通信では許容されない程度の伝送エラーであっても,ホログラムの伝送ではホログラムの伝送ではある程度許容できることが示唆される.

このように高い冗長性を持つホログラムの伝送化に向けて,どの程度のデータ誤りが生じても影響はないのか,という点について,光波伝搬シミュレーションによりその特性を検討してきた.図8にホログラムデータの伝送モデルの概要図を示す.光波計算により生成したホログラムデータを使用して,現実の環境を模した無線伝送シミュレーションを行い,伝送エラー率(BER:Bit Error Ratio)と,伝送後のホログラムデータ(伝送エラーを含む)から再生された3D映像の画質を評価した[16].

ホログラムデータの無線伝送におけるモデル化
図8 ホログラムデータの無線伝送におけるモデル化[13]

文献[16]では,無線伝送シミュレーションに基づいた伝送エラーを生成し,そのエラーを含んだホログラムデータを生成した.そして,伝送エラーの含まれるホログラムデータをSLMに表示し,主観評価と客観評価により,伝送エラーの含まれるホログラムから再生された3D映像の画質を評価している.

無線伝送シミュレーションでは,PC内に無線伝搬のシミュレーションモデルを構築した.実環境下における無線によるデータ伝送を想定し,無線区間のパラメータ(電波強度,遮蔽物などの影響による無線区間の品質を意味する)を制御し,データ伝送前後のエラーをシミュレートする.生成したホログラムデータに対してこの伝送処理を行い,伝送エラーの有無によるホログラムデータの品質評価,そして再生された3D映像の画質評価を行った.

客観評価では,再生された3D映像をデジタルカメラで撮影し,伝送エラーが生じていない場合の3D映像と,伝送エラー率との関係性を定量的にまとめた.主観評価では,数名の被験者に実際に3D映像を視聴してもらい,主観的に映像の品質と伝送エラー率との関係性をまとめた.

主観評価と客観評価の結果,伝送エラーがおよそBER≦10 -3を満足すれば,再生された3D映像の品質にほとんど影響を与えないことが分かった.TV放送などの一般的な音声・画像信号の伝送では,BER≦10 -5が要求される場合がある[17].このことから,一般的なデータの伝送より,伝送エラーに関して緩い条件とした場合でもホログラム伝送が可能であることが示唆される.

2.5 ストリーミング表示システムの開発から得た知見

ホログラムデータのストリーミング表示システムを開発し,実際に有線通信,無線通信を行った結果から,ホログラムの伝送に関する今後の研究の展望について述べる.

まず,有線通信によるストリーミング表示により,無圧縮のホログラムデータを伝送できることが分かった.ラボの中に構築したローカルネットワーク環境内ではあるが,一般的なネットワークのリンク速度1Gbpsにおいて,フルHD,モノクロ,30fpsであれば十分にホログラムデータを伝送できるといえる.また,一般的な2Dの動画像圧縮技術のうち,可逆圧縮方式であれば,伝送時に必要なビットレートを低減しつつ,ホログラムデータをストリーミング表示し,再生を行うことができる.非可逆圧縮方式の場合では,可逆圧縮方式よりもビットレートの低減は見込まれるものの,ホログラムの画質劣化,そして再生された3D映像の画質劣化が懸念される.この点について今後検討が必要であると考えられる.

ここで,再生された3D映像のフルカラー化,より高解像度のホログラムを想定した伝送について考える.フルHD,フルカラー,30fpsではモノクロと比較して約3倍の1.5Gbps,60fpsではさらに2倍の3Gbps,さらに高解像度な表示デバイスとして4K,フルカラー,60fpsでは約12Gbps,8K,フルカラー,60fpsでは約48Gbpsとスループットが予想される.有線通信時の規格としては,10GBASE-SR規格,100GBASE-SR4規格など,現在のイーサネット規格により,より高速なリンク速度を有する方式が知られているため,今後はこのようなより高速なネットワーク網での検証を進めて行く予定である.

無線通信についても考えると,Wi-Fi(IEEE802.11規格)の技術向上により,リンク速度は向上が見込まれている.次世代のWi-Fi7(IEEE802.11be以降の規格)では,最大でリンク速度46Gbpsが見込まれている.また,携帯電話回線網の6Gでは,4Gの約100倍,5Gのおよそ10倍の100Gbpsのリンク速度を想定して規格策定が進められている.いずれの規格でも空間ストリーム数の観点があるため,必ずしもこの通信速度が出る保証はないが,少なくとも今以上のスループットが期待できる.ただし,2.3.2項で述べたとおり,無線通信時には電波強度に依存してリンク速度が大幅に変動するため,ホログラフィの特性を活かした伝送システムの開発が望まれる.今後,無線通信の特性を考慮し,ホログラムの無線伝送について,引き続き検討を進めて行く予定である.

3.ホログラフィックTVの将来と実用化に向けた課題

ホログラフィ技術をベースとしたホログラフィックTVは,現実空間で人が物を見るときと同様に自然な立体視を実現でき,仮想空間中の物を現実空間中に表示できる,SF世界で表されているようなTV技術,映像表現技術であると考える.この技術の実用化のためには,下記の点における技術革新が必要不可欠である.

  • 計算機合成ホログラムの表示デバイスの性能向上
  • 計算機合成ホログラムの表示光学系
  • 計算機合成ホログラムの各種アルゴリズム(計算,圧縮,伝送)

ホログラムを表示する空間光変調器として,現在入手可能なものとしては,4K解像度(3,840×2,160)の製品(たとえば,HOLOEYE社,GAEA-2[18])が知られている.ピクセルピッチも3.75μm程度であるため,小型な被写体を,ごく限られた視域(目で被写体を観察できる範囲)にて視聴するのにとどまる.また,表示するための光学系(レンズなどを含む光学機器)の小型化も望まれるであろう.さらには,空間光変調器上に表示するホログラムデータについても,現実空間の被写体に近い表現が可能な複雑な光波計算が必要となり,計算に要する時間の短縮,生成したホログラムデータを圧縮・伝送する技術などの開発が必要となる.このように,より高解像度な表示デバイスの開発,そして小型な光学系,各種アルゴリズムの開発を進めていくことで,実用化のための第一歩になると考えられる.

現在,ホログラフィ以外の3D映像を表示できる製品が発表されてきている.たとえば国内で入手可能な製品としては,ASUS社,Acer社から裸眼での3D表示に対応したノートPCが発表され,SONY社からも空間再現ディスプレイ[19]という名前で外付けディスプレイタイプが販売されている.筆者らもSONY社の空間再現ディスプレイを購入し,3D映像を視聴してみた.このディスプレイは3D表示技術の1つであるレンティキュラ方式を採用した3Dディスプレイである[20].このため,裸眼で3D映像を視聴できる.一般的なレンティキュラ方式では視点位置が限定されるものが多く,このため視点位置によっては不自然な映像となる場合があるのだが,この製品は目の位置をトラッキングし,目の位置に対応した3Dの映像をリアルタイムに生成・表示することが特徴である.

実際にPCで作成したCGモデルをこの製品経由で表示し視聴すると,裸眼で視点位置に応じた映像が視聴でき,またCGモデルが飛び出て見えたり,奥まって見えたりといった3D映像の視聴が容易に実現できていた.また,2DのCGモデルのように,モデル表面の光沢感など綺麗にレンダリングされた映像を目にすることができ,3Dの映像を容易に楽しむことができた.3DのCGモデルを3Dとして手軽に表示できる時代を迎えたことを再認識させられた.

今後,このような製品の1つとしてホログラフィックTVがラインナップする時代を迎えられるように,ホログラムデータの生成技術,伝送技術,表示技術の研究開発を進めていきたい.

参考文献
  • 1)久保田敏弘:新版 ホログラフィ入門─原理と実際─,朝倉書店(2010).
  • 2)Matsushima, K. : Introduction to Computer Holography, Springer Cham , eBook ISBN 978-3-030-38435-7 (2020).
  • 3)山本健詞,三科智之,妹尾孝憲,大井隆太朗,栗田泰市郎:4K 映像システムを用いた電子ホログラフィシステム,(独)情報通信研究機構 情報通信研究機構季報,Vol.56, Nos.1/2 (2010).
  • 4)WATERS, J. P. : Holographic Image Synthesis Utilizing Theoretical Method, Applied Physics Letters 9 (11) (1996).
  • 5)Enloe, L. H., Murphy, J. A. and Rubinstein, C. B. : B.S.T.J. Briefs Hologram Transmission via Television, in The Bell System Technical Journal, Vol.45, No.2, pp.335-339, https://doi.org/10.1002/j.1538-7305.1966.tb00026.x (Feb. 1966).
  • 6)高野邦彦,佐藤甲癸:ホログラフィックな立体映像と音響データの伝送,電子情報通信学会論文誌 D,Vol.J88-D2, No.7, pp.1298-1303 (2005/07/01).
  • 7)高野邦彦,佐藤甲癸,若林良二,武藤憲司,島田一雄:ネットワークストリーミング技術を利用したホログラフィ立体動画像の配信,映像情報メディア学会誌, Vol.58, No.9, pp.1271-1279, Online ISSN 1881-6908, Print ISSN 1342-6907, https://doi.org/10.3169/itej.58.1271, https://www.jstage.jst.go.jp/article/itej1997/58/9/58_9_1271/_article/-char/ja (公開日 2011/03/14) (2004)
  • 8)Naughton, T., McDonald, J. and Javidi, B. : Efficient Compression of Fresnel Fields for Internet Transmission of Three-dimensional Images, Appl. Opt. Vol.42, pp.4758-4764 (2003).
  • 9)Lin, L. - C. : An Error Detection and Recovery Algorithm for the Transmission of Digital Holography Over Noisy Channels, Optics Communications, Vol.281, Issue 5, pp.1008-1016, ISSN 0030-4018, https://doi.org/10.1016/j.optcom.2007.10.104 (2008)
  • 10)NVIDIA CUDA : https://developer.nvidia.com/cuda-toolkit
  • 11)ffmpeg : https://www.ffmpeg.org
  • 12)SRT Alliance : https://srtalliance.org
  • 13)大西海里,山口一弘,坂本雄児:無圧縮/可逆圧縮を用いた計算機合成ホログラムの伝送に関する一検討,映情学技報,Vol.47, No.6, AIT2023-10, pp.47-51 (2023年2月).
  • 14)Andrea Goldsmith : Wireless Communications, Cambridge University Press (2005).
  • 15)802.11ax MCS Table | 802.11ax MCS Rates : https://www.rfwireless-world.com/Terminology/802.11ax-MCS-Rates-Table.html
  • 16)山口一弘,渡邊良亮,野崎亜弥,坂本雄児:伝送エラーが電子ホログラフィの再生像へ与える影響,映像情報メディア学会誌,Vol.70, No.5, pp.J105-J113, Online ISSN 1881-6908, Print ISSN 1342-6907 (2016).
  • 17)Chen, Y., Farley, T. and Ye, N. : QoS Requirements of Network Applications on the Internet, Systems Management, Vol.4, No.1, https://doi.org/10.1145/1030194.1015475 (2004).
  • 18)GAEA-2 10 MEGAPIXEL PHASE ONLY LCOS-SLM (REFLECTIVE) : https://holoeye.com/gaea-4k-phase-only-spatial-light-modulator/
  • 19)SONY空間再現ディスプレイ(Spatial Reality Display):https://www.sony.jp/spatial-reality-display/
  • 20)立体視テクノロジー:次世代立体表示技術の最前線,エヌ・ティー・エス (2008).
山口一弘(非会員)yamaguchi@sus.ac.jp

2012年,北海道大学大学院博士後期課程修了.同年,諏訪東京理科大学システム工学部電子システム工学科助教.2017年,同大学経営情報学部経営情報学科講師.2018年,公立諏訪東京理科大学工学部情報応用工学科講師.現在,同大学工学部情報応用工学科准教授.

井熊了一(非会員)

2022年,公立諏訪東京理科大学工学部情報応用工学科卒業.同年,同大学院工学・マネジメント研究科工学・マネジメント専攻修士課程入学.3Dモデルの生成技術に関する研究に従事.

大西海里(非会員)

2022年,公立諏訪東京理科大学工学部情報応用工学科卒業.同年,同大学院工学・マネジメント研究科工学・マネジメント専攻修士課程入学.計算機合成ホログラムに関する研究に従事.

坂本雄児(非会員)yuji@ist.hokudai.ac.jp

1983年,北海道大学工学部電気工学科卒業.1988年,同大学大学院博士課程了.同年,(株)日立製作所中央研究所入社.1990年,北海道大学情報工学科助手.1994年,室蘭工業大学電気電子工学科助教授.2000年,北海道大学工学研究科助教授.現在,同大学大学院情報科学研究院教授.計算機合成ホログラム,3D画像処理,コンピュータグラフィックス,デジタル無線通信に関する研究に従事.工博.

投稿受付:2023年2月28日
採録決定:2023年4月30日
編集担当:新田 清(ヤフー)

会員登録・お問い合わせはこちら

会員種別ごとに入会方法やサービスが異なりますので、該当する会員項目を参照してください。