万万没想到,今年春天VR厂商们为“一双手”卷起来了。
仅2022年上半年,就有四家VR巨头对自家VR设备的手势交互技术操刀改良。
4月20日,Meta旗下的VR头显OculusQuest2手势交互版本迭代至2.0,解决了手部定位丢失的问题。4月13日,字节跳动旗下的VR品牌Pico宣布其两款企业级VR头显可以通过定制的手部追踪配件,提升手势交互体验。VR厂商HTC也在今年1月发布了一款新款腕式追踪器,辅助预测用户的手部位置。
OculusQuest?2手势交互1.0版本和2.0版本在手部快速追踪方面的对比
无论是裸手交互技术,还是手部追踪配件,用于VR设备的手势交互技术一直在不断迭代。同时,不少VR企业还在尝试寻找新的手势交互方式,比如说VR手套。
5月6日,荷兰VR手套制造商Manus宣布其新款采用磁力追踪技术的VR手套QuantumMetagloves开启预售。5月4日,国内动捕技术巨头诺亦腾发布Hi52.0VR交互手套。而早在2021年11月,Meta就曾展现自家的VR触感手套模型,分享自己在VR手势交互方面的最新成果。
从左到右分别为Manus、诺亦腾、Meta的VR手套
不仅如此,苹果、谷歌、微软等一些潜在VR玩家还获批多项与智能戒指有关的专利,试图将智能戒指打造为下一代手势交互的关键输入设备。
Mango Markets攻击者Avraham Eisenberg放弃保释:金色财经报道,Mango Markets 加密货币交易员和涉嫌操纵者 Avraham Eisenberg 周四在纽约联邦地方法院的第一次听证会上放弃保释。这名 27 岁的男子将至少在 2 月 14 日之前在监狱服刑。[2023/2/3 11:44:31]
手势交互技术是最基础也是最自然的交互方式,也是VR设备中主流的交互方式之一。一般来说,手势交互是指通过数学算法来识别人类手势的技术,包括图像获取、手势追踪、手势识别与分析等多个过程。
其中,手部追踪和手势识别是手势交互中较为关键的两个步骤。手部追踪是指准确地在VR头显中定位用户双手的位置,而如何精准地识别每个手指的动作,识别手的各种形态等属于手势识别。
手势交互技术也暗藏巨大的市场空间。国际市场分析公司MarketsandMarkets发表报告称,2024年“手势识别和无触碰感知”市场将达到340亿美元。
VR设备的手势交互技术有了哪些新玩法?厂商为何都在近期升级自家VR设备的手势交互技术?VR设备的手势交互技术发展究竟如何?
我们与诺亦腾CTO戴若犁、梦想绽放技术负责人史明以及HTC的技术负责人等多位行业人士深度交流后,试图找到答案。
抛开手柄,VR游戏可以裸手玩
相较于其他移动设备,用于VR设备的手势交互技术进步较为缓慢。比如说,从3dof到6dof经历了近五年的发展时间,手柄交互到裸手交互仍处在初期阶段。随着技术不断进步,裸手交互也开始在不少消费级VR头显上普及。
Meta曾在2019年发布手势交互1.0版本,并将裸手交互引入OculusQuestVR头显,让用户可以直接在虚拟世界中看到自己的双手,并进行一些简单的交互操作。时隔2年后,OculusQuest2拥有了手势交互2.0版本。
此次升级主要解决了两大难题。一是解决了用户双手重叠时,手部追踪困难的问题。在Quest2的手势交互1.0版本中,当用户的双手相互阻挡或重叠时,系统很难识别用户的手势动作。二是在用户快速挥动双手时,系统也很容易丢失对于手部的追踪。这两种情况的发生都有可能会造成双手从虚拟世界中突然消失。
Mango Labs 起诉攻击者 Avraham Eisenberg,要求归还 4700 万美元漏洞赏金:1月26日消息,Mango Labs LLC 于曼哈顿正式起诉攻击者 Avraham Eisenberg,要求其归还此前赔偿提案中保留的 4700 万美元漏洞赏金。
此前报道,Solana 生态 DeFi 平台 Mango 于 2022 年 10 月遭遇黑客攻击,黑客 Avraham Eisenberg 通过非法操纵抵押品 Token 价格在 20 分钟内获利 1.14 亿美元。此后 Mango 社区投票通过关于偿还坏账的新提案(Repay Bad Debt #2),允许 Avraham Eisenberg 保留 4700 万美元作为漏洞赏金,其余 6700 万美元被盗 Token 归还 Mango Labs,且 Mango Markets 不会对此案提出刑事诉讼。[2023/1/26 11:31:00]
Quest?2手势交互1.0版本和2.0版本对比
至于是如何解决这两项问题,Meta在其公告中说明,基于“重新设计的计算机视觉和机器学习方法”,新版本提高了手部跟踪的性能可靠性。但自从版本更新后,我们看到不少用户反馈到,尽管手势交互功能有了更好的体验,但是系统也出现了明显的卡顿。
对此现象,戴若犁解释到VR头显处理计算的能力本身就比较有限,而Meta基于计算机视觉获取数据,并将一部分算力资源用来预测用户手部位置,这种方案无疑将会为VR头显带来较大的计算处理压力,也是“系统卡顿”现象的主要原因。
HTC也在今年3月推出了新款的腕式追踪器VIVEWristTracker,并且在去年年底升级自家的手部追踪版本。据HTC官网信息介绍,当用户将腕式追踪器戴在手腕上时,即使在一段时间内双手离开相机视野,系统也可以通过腕式追踪器的高频IMU数据和运动学模型预测手部的运动轨迹。
ETC Cooperate主管Yaz Khoury宣布辞去DevRel主管职务:9月14日早间,ETC Cooperate主管Yaz Khoury发推宣布,将辞去DevRel主管职务。[2020/9/15]
HTC的相关负责人还向智东西分享到,相比VIVEFocus3控制器,VIVEWristTracker移除了按钮、触觉输入等零部件从而缩小电池尺寸,将控制器变得更小更轻。据介绍,HTC的手腕追踪器比VIVEFocus3控制器小85%,重量轻50%。
VIVEWristTracker腕式追踪器
我们可以看到,Meta的裸手交互方案仍是计算机视觉为主,HTC的裸手交互方案则需要依靠腕式追踪器等外设。前者能帮助用户快速、有效地体验裸手交互的乐趣,而后者通过惯性传感器提高一定程度手势交互的准确性和可靠性。面对不同的应用场景,不同厂商VR设备的裸手交互方案各有侧重。
但裸手交互一定会给人们带来更好地体验吗?戴若犁在采访时说:“在技术成熟度尚未达到的时间点,将裸手交互这类人机交互新方式嵌入操作系统中,会给人们过高的期待。”
“从操作成功率和触感反馈来说,手柄在乐趣以及操作准确性上要远胜裸手交互。”他解释到,在人机交互领域,80%的操作准确性和100%的操作准确性给用户带来的交互体验是完全不一样的。
微软亚洲研究院网络图形组首席研究员童欣曾在2017年接受媒体采访时证实这一点。“当我手握手柄的时候,手柄不仅是一个输入设备,同时也是输出设备,它可以通过震动、力反馈给我一个输出的反馈。而当我空手在空气中挥舞的时候,我就失去了自己的输出渠道。”
有限的计算消耗、较高的学习成本、较低的操作准确性等都是阻碍VR设备裸手交互技术发展的主要原因。但在交互体验上,裸手交互也将会给VR内容生产者提供更多的发挥空间。不少VR设备中,裸手交互作为一种辅助的手势交互方式。
Evrythng与数字认证公司Arianee合作打击奢侈品假冒产品:产品云解决方案Evrythng与数字认证公司Arianee之间的新合作关系旨在提高奢侈品牌产品的可追溯性,并简化品牌认证流程。Evrythng产品云一直提供数字身份协议,帮助品牌跟踪其产品从生产到最终销售的过程。
然而通过新的合作伙伴关系,Evrythng用户将能够访问每个项目的Arianee认证,通过使用区块链技术授予额外的数字证书层。特别是对于奢侈品牌和运动鞋品牌来说,这可能是改变持怀疑态度的消费者的重要工具。(Footwearnews)[2020/6/18]
大厂们争着做的VR手套?B站100元搞定?
为了在裸手交互带来的沉浸感和VR手柄提供的高准确性之间寻找到平衡点,VR厂商们又想出了另一种手势交互方式——VR手套。
目前,VR手套存在比较多的形态,但是真正可以大规模量产和销售的VR手套主要分为基于惯性传感器和基于弯曲传感器两种类型。
不同于基于计算机视觉手势交互的数据处理方式,以惯性传感器为主的VR手套将通过传感器收集大量的手部定位和手指交互的数据。而以弯曲传感器为主的VR手套则测量精度较低,由于对于贴合程度的要求较高,其可穿戴设备的舒适度也较低。
我们有机会抢先体验到Hi52.0VR交互手套。一副Hi52.0VR交互手套共有12个惯性传感器,每只手佩戴六个无线传感器,分布五个手指和手背上。同时该套装还将配有一个数据收发器,可以插在电脑或者VR头显上传输数据。
Hi52.0VR交互手套
打开传感器、安装传感器、固定好手部追踪器,选择校准界面,Hi52.0VR手套的校准方式比我们想象的要复杂一些。
动态 | HTC明年启动区块链交易系统,整合VR内容、开发者及线下资源:HTC VIVE ORIGINALS总经理陈思铭表示,为了让内容及商业管道能够对接,HTC将在明年将启动“区块链版权交易商用系统”,她的公司还将推出内容管理和区块链验证系统,以“帮助内容创作者,文化创意工作者和线下渠道整合他们的资源。(Variety)[2019/9/4]
在体验过程中,我们发现Hi52.0VR交互手套能提供较为精准的手势识别过程,比如说手部的位置和手势的变化基本都能实时显示变化。据官网介绍,该设备的姿态计算帧率从180fps提升至500fps,研发人员还通过算法提高了一定的抗磁干扰程度。
诺亦腾研发人员正在校准Hi52.0VR交互手套
除此之外,研究人员也在尝试不同的VR手套设计方案。
2021年11月,Meta公布了其研发7年的VR触感手套原型,这款VR手套用微型气阀取代了电机,通过复杂的控制系统调整手指上的充气仪器,形成拟真压力,从而模拟各种触感。
Meta触感手套
荷兰VR手套开发商Manus的QuantumMetagloodsVR手套则是基于磁力追踪技术打造而成。
与诺亦腾选择用算法去减轻天然环境造成的磁干扰,保证追踪稳定性的方案不同,通过磁力追踪的手势交互方案需要两个设备协作完成,一个设备内设xyz三个方向的线圈,同时VR手套中也将内含一个线圈,两个线圈将以高频振动的方式产生磁力线,两条磁力线互相切割,从而获得手的位置变化。
尽管VR手套能提供较为准确的手势动作捕捉,但VR手套的价格成本决定了其只能面向小部分极客玩家和商用市场。
据悉,Meta手套的原型成本约为5000美元,而Manus的QuantumMetagloods的预售价为9000美元,诺亦腾的Hi52.0VR交互手套,售价为9800元人民币。
从左到右分别为Manus、诺亦腾、Meta的VR手套
Meta曾将研发VR触感手套的项目描述为“登月计划”。“当我们开始研发VR触感手套时,我们希望打造一款可以大规模量产,消费者买得起的消费设备,让人们在任何地方都能体验到虚拟世界。”Meta的项目负责人说:“但这几乎不可能。”
在调查的过程中,我们还发现B站上有不少UP主自制VR手套,这些价格的成本从100元到350元不等,部分VR手套甚至拥有力反馈功能。我们看到这些自制的VR手套可以用于一些简单的VR游戏中,可以做出拿、捏、翻转等一些简单手势动作,但其显示延迟情况也较为明显,时常会出现一些鬼畜场景。
B站UP主们尝试自制VR手套
面对VR手套的巨大价格差距,一位从事VR手套的行业人士分析认为面向B端市场的VR手套成本主要在研发投入、零部件以及人力资源成本上,价格根据市场需求而定。这意味着可能做一幅普通VR手套的价格并不高,但做一副可以面向商用场景、提供准确精度的VR手套需要较高的成本。
尽管VR手套能兼顾VR设备的沉浸感和手势交互的准确性,如何降低VR手套的价格将是VR手套发展必须要解决的难题。
想要拥有自由的“双手”?
要从算法、工程、交互设计攻克难题
从裸手交互和VR手套交互两种方式来看,VR设备的手势交互技术发展正在不断更新迭代,此前面临的一些困境也逐步寻找到了解决方法。但整体而言,用于VR设备的手势交互技术还存在不少难点。
到底是什么阻碍了我们扔掉VR手柄,无法采用新的手势交互方式?国内VR头显奇遇系列的研发人员、梦想绽放的技术负责人史明在接受智东西采访时给出了三个要点。
首先是算法层面。目前用于VR设备的手势交互技术基本采用深度学习技术,因此研发过程中需要依赖大量的业务场景标注数据。而基于手势的三维数据获取成本高,并且难以保证数据质量和一致性。
手势交互的关键点识别
其次,手势交互技术在工程优化方面比较复杂。手势交互技术需要以一个优异模型为前提,需要做小模型推理演绎。而推理过程中,研究人员既要保证算法的精确度,又要保证数据的实时高效性。
最后是在交互使用方面的设计。VR研发人员需要在设计手势交互相关操作时规避视觉死角问题,同时还要为用户提供较好的交互体验。
关于手势交互的设计这一点,曾担任FacebookRealityLabs设计师刘晓雨也曾在采访中提到手势交互技术很容易在使用期间出现遮挡情况,设计手势交互动作时还需要考虑用户的学习成本。
除此之外,微软亚洲研究院网络图形组首席研究员童欣还曾提到对于手势识别而言,机器很难分清输入状态和非输入状态。与键盘的按键交互方式不同,机器很难去分辨你摇手的动作,是做出一个挥手的手势,还是玩累了想要甩手休息。
总体而言,用于VR设备的手势交互技术整体上主要面临两个方面的难题。一方面是哪一种手势交互方式能兼顾沉浸感、准确性并且成本低,能用于所有的VR设备。另一方面是,如何根据VR设备的基础配置打造出最适合这款设备的手势交互功能。
可以预见的是,在裸手交互技术能获得较高的精度、VR手套成本下降之前,手柄将仍是VR设备手势交互的主流方案之一。
结语:手势交互技术或成VR体验升级关键
目前,用于VR设备的手势交互总共分为三个方向:现有的手柄交互方式、正在逐步成为主流的裸手交互方式、和仍在小众阶段的外接可穿戴设备的交互方式。但值得注意的是,这三种交互方式并非替代关系,是可以实现共存。
在手机、电脑快速发展的时期,无论是键入,还是触屏的交互模式,都曾给人们带来新的交互体验,手势交互同样会给VR设备体验和VR内容生产带来新的变化。
手势交互的技术发展总会有无穷无尽的方向,但被时代所留下的手势交互技术终究是少数,用于VR设备的手势交互技术将会如何演进,或许时间能告诉我们答案。
郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。