Homeバージョンアップ、デジタルツインの活用：Microsoft HoloLens2(ホロレンズ2) 遠隔支援MRアプリデモ
| 業界 | インフラ、医療、流通、物流、倉庫、製造、建設、検品 |
|---|---|
| ジャンル | R&D 研究開発 |
| 開発言語 | UNITY |
| 通話/動画/データ通信 | WebRTC |
| デバイス/OS | PC/Microsoft HoloLens2 |
| 開発期間 | ２ヶ月 |
バージョンアップ、デジタルツインの活用：Microsoft HoloLens2(ホロレンズ2) 遠隔支援MRアプリデモ
ARマニュアル機能とデジタル数値AI認識機能をアップデート
デジタルツインの活用として、本アプリは作業者と遠隔地にいるエキスパートとリアルタイムで作業の状況を共有することができます。作業者が知識が乏しい状態でもエキスパートからの遠隔支援することで正確な作業をすることができます。インフラ、製造業、医療などの停止することのできないシステムを持っている現場など流通、物流、倉庫、製造、建設、検品など様々な分野での応用が見込まれます。人手不足による、教育や研修時間が十分に確保できない問題や移動時間をできるだけ短縮したいなどの課題解決になります。今回のアップデートでARマニュアル機能と、セブンセグメントのデジタル数値を認識する機能をアップデートしました。
従来の画面共有ではスマートフォンやWEBカメラで作業のようすを撮影する必要がありました。遠隔支援MRアプリではMicrosoft HoloLens2を使用して視野の共有ができるため、片手をカメラに取られることなく、両手の作業を可能（ハンズフリー）にします。実際には視野の共有を利用した修理や保守、検査、そしてトレーニングの現場で役立てられています。
人手不足と働きかた改革の矛盾
人手不足と働きかた改革には生産性を改善するために大きな矛盾があります。
時短勤務で新人教育に時間を割くことができない。
新人を現場に行かせるにはスキルギャップがあって不安。
エキスパートが現場に行って指導すると移動する時間を多く取られてしまう。
人手不足や働き方改革の中で生産性を改善していくことは非常に難しくなっています。
MRアプリの機能
- シグナルサーバー経由デバイス連携成功後WebRTCで動画チャネル、音声チャネル、データチャネル同期
- 製品情報の表示（基幹システムから該当商品のCSVを抽出して詳細情報を閲覧）
- 空間アンカー表示
- ARマニュアルを空間に表示
- WebRTCでのライブストリーミング
- CGモデルの共有・オブジェクトの投影
- 作業機器のAI自動画像認識、デジタル数値認識
- ユーザー選択（専門別にエキスパートを選択）
- 作業前後の画像撮影
- サーバーへの作業ログ通信
空間アンカーとは作業者の視野に矢印や注釈などを固定する機能です。これによりHoloLens2を使用している作業者は技術者からの指示を的確に理解して作業ができます。加えて両手を作業に使用したまま（ハンズフリー）音声操作が可能です。HoloLens2は様々な言語に対応しており、騒音のするような喧騒な環境でも動作します。UNITYで開発していますので他のARグラスデバイスなどにも移植可能です。
アップデート１：ARマニュアル機能
ARマニュアルが空間上に表示されます。ホロレンズアプリで商品番号を読み取り、基幹システムからマニュアル情報を読み出します。マニュアルから該当箇所を選択すると目の前にデジタルマニュアルが浮かび上がります。マニュアルは必要な時以外にはHoloLens2で見ている視野の横や後ろの空間に置いておくことができます。そのため作業に集中できマニュアルが必要なときにはすぐに確認しやすくなっています。
アップデート２：デジタル数値AI認識機能
７セグメントディスプレイのデジタル数字を認識するモジュールをアプリに搭載しました。
デバイスのデジタル数字が表示されている枠内の数字を自動解析します。決定木の手法と
SSOCR（seven segment optical character recognition)を利用しました。作業中に非IoT機器の情報をOCR技術で良い取ることができます。
７セグメントディスプレイのデジタル数字認識OCRモジュール開発（SSOCR)
デジタルツインとは
デジタルツインは、現実世界の建物や製造物、あるいは空間全てをサイバー空間に再現し、現実世界さながらのシミュレーションを仮想的に実現することができる技術です。キーワードはリアルタイムと現実です。
リアルタイムと現実をIoTと5Gで実現するデジタルツイン
そんなCPSを達成するために不可欠なのが、IoT技術です。IoTはあらゆるセンサーをネットワークに接続し、集中管理でデータをインプットすることができる技術ですが、人間や交通機関、建物にセンサーを取り付け、データを集めることによって、優れたデジタルツインを実現することが可能になります。IoTを使えば、一挙に膨大な数の現実世界のデータを収集することができるようになりますが、さらにこの通信を迅速に促してくれるのが、5Gの力です。
次世代の高速通信を可能にする5Gによって、これまでにない速度でインプットしたデータをリアルタイムに送信できることで、より詳細なデータの送受信が可能になります。
実際に現実世界を模倣したサイバー空間を体験する際にも、現実世界のように滑らかな体験をどこでも実感することができるようになるでしょう。
リアルタイムと現実も実現するMRアプリのアーキテクチャ
ホロレンズ２遠隔支援MRアプリアーキテクチャ
MRアプリの貸し出し
ONETECHでは、本アプリにご興味のあるお客様へアプリの貸し出しも行なっております。またベトナムでR&Dチームを組み本アプリのバージョンアップを実施しています。
バージョン１はこちら
クライアント様のデバイス機器とAWSソリューションと連携してデバイス機器の操作やデータを取得してダッシュボードなど可視化する 企画の元、研究開発を一貫としてAWSのサーバー構成の設計・構築を対応いたしました。
AR技術のVPSの研究開発の一環としてVPSベースのマーカ不要のARアプリを開発しました。 VPSにより空間認識を正確に処理しマーカーレスで屋内の道順を案内できるARアプリです。 空間を認識した上で、道順を作成するコンテンツ作成機能も実装しました。
建設業向けのシステムに強いお客様より建設工事の施工管理アプリの開発をお請けしました。 ホロレンズを利用して施工の進捗、品質管理、レポートが行えるように対応しました。
ゴルフのグリーン上のラインを読むためのARアプリの研究開発です。iPhone13 proのLiDARを使い、Unityで開発したアプリでは、画面上にグリーンの傾斜をメッシュで表示します。最終的に地面の傾斜や摩擦などを物理エンジンで計算してカップまでをARでラインを表示します。
本アプリは定期的に点検業務が必要なある機器の点検手順をARで補助するホロレンズアプリです。業務の標準化による人手不足の解消などに役立つソリューションとなります。UNITYで開発しました。HoloLensは、現時点では最も優れたMRのデバイスの一つでもあります。