2. 北京邮电大学 国际学院, 北京 100876
2. International College, Beijing University of Posts and Telecommunications, Beijing 100876, China
技术和科学快速发展已经延长了人类的寿命,但是,目前仍然有一些无法治愈的疾病大大降低了老年人的质量,如肌萎缩侧索硬化症 (ALS) 和中风。这些疾病会对患者的运动范围和能力造成限制,如果没有护理员,患有这些疾病的老年人生活基本无法自理[1]。
1 问题的提出虚拟现实 (VR),通过计算机模拟系统为用户模拟真实的使用场景,由于其卓越的交互体验在年轻人中广为普及。VR的最重要的应用之一是利用计算机图形学的虚拟现实的人机交互界面,在计算图形技术创建的图形的帮助下,实时处理用户行为数据。现如今,VR技术已经在日常生活的许多方面得以应用,如医学[2-4]、教育[5]、创造身临其境的虚拟体验[6]、物理现象仿真[7]、大众娱乐[8]等。目前,VR设备正变得越来越普遍,如VR眼镜,随着技术的发展,这些设备的价格越来越低廉,大多数家庭都有能力购买。因此,利用虚拟现实技术,帮助患者过上正常生活很可以实现而且很有必要。同时,虚拟现实技术也为许多患者生活提供帮助,如模拟购物环境,提供模拟职业培训,手术和治疗恐惧症等等。有些VR设备甚至可以通过一组指令让病人能假想物体空间移动的视觉表示[9]。通过以上这些,VR技术正在逐步改善人们的生活质量。
但是目前,使用虚拟现实设备仍存在许多问题。因为人的视觉系统对运动图像非常敏感,如果VR设备无法尽可能快生成近似光学图案,则用户的使用体验非常不自然[10]。同时,虚拟现实设备硬件的反应速度不够快,无法对用户实事动作进行有快速反馈[11]。VR可应用于来自运动神经损伤的人的术后恢复,在运动康复时,迫使触觉接口和外骨骼反馈装置一起使用[12],但这也意味着操作这些装置时,需要很大的肢体力量。而这是运动受限的人或者是神经受损伤的患者无法做到的[13]。
可穿戴式系统也用于帮助残疾人。大多数的系统包括用户在交互过程中必须用到的传感器和一些小工具。为了达到更加便捷的效果,现在VR技术常常与可穿戴设备结合使用,但是这导致了另一个常见的问题。图 1中的3幅图片展示用户与键盘、鼠标和虚拟现实眼镜三者进行交互的过程。当使用者使用可穿戴设备的时候,他无法很好与其他输入设备进行交互 (键盘、鼠标等),因为他们无法看到真实的场景。
同时,在使用可穿戴式系统的用户需要一直注视在显示屏上,导致用户看不到输入上按键的具体位置,输入设备无法发挥作用。这是可穿戴式系统在残疾人和老年人与外界交互时面临的主要问题。
虚拟现实应用和可穿戴式系统在现在的年轻人中广为使用,但对于老年人和残疾人,他们只需要最简单的和无传感器的可穿戴式显示系统来实现最基本的功能,这些最新科技的使用仍然存在问题。所以无传感器的可穿戴式设备更适合于他们,而且价格会相对低廉,使用起来也更加便捷。
同时在使用中存在的另一问题,如图 1中最右图片显示,虚拟现实眼镜的改变菜单或选项的按钮在眼镜的框架上,在使用过程中用户看不见这些按钮。这也会导致用户必须记住不同的输入按钮的功能,这不符合用户记忆最小化的交互设计原则。
基于这一需求,提出了基于可穿戴设备的虚拟鼠标,来更好地帮助行动不便者。我们的想法结合了虚拟现实和可穿戴式系统的两种方法的优点,使用户能与外界进行更加高效地互动。借助这个接口,残疾人只需一个设计好的触摸板按键来与设备交互,作为虚拟鼠标的硬件。选择触控板是因为它非常省电而且用户手指轻微抖动即可按动按键。用1-bit交互系统和虚拟现实眼睛来检查虚拟鼠标的可用性和有效性。用户研究是根据我们提出的虚拟鼠标和遥控器进行对比,用可穿戴眼镜显示图像来判断操作准确度。
2 相关工作许多虚拟现实和可穿戴系统的产品用于帮助行动障碍者完成他们的日常活动,提高他们的生活独立性。一些辅助移动的虚拟现实应用专为运动障碍人群设计,帮助他们以最少的物理运动范围探索周围环境[14]。例如,建立自我控制轮椅的虚拟环境[15],帮助轮椅新手们掌握控制轮椅运动的方法。还有一些应用可以帮助残疾人进行心理辅导以及对他们进行简单的职业培训[16-17], 例如洗碗,培训者可以在这个具有真实沉浸感与交互性的虚拟环境中,通过人机交互设备例如触摸屏、虚拟鼠标和场景里的物件进行交互,体验实时的物理反馈[18]。残疾人可以有效地利用虚拟现实模拟技术像正常人一样工作、生活[19]。虚拟现实可以提供关于视觉、听觉、触觉等感官的模拟[20],把受影响的感官信息转化为可被感知的信息,使得那些有感官障碍的人可以感知到他们原本无法体会的东西[21]。
想要帮助残疾人与外部世界方便快捷地进行交互,简单、易操作的人机交互技术尤为重要。这里介绍一下目前在残疾人设计虚拟鼠标方面的学术研究。Howard Bruce等[22]提出了一种叫lightglove的可穿戴设备,这是一种利用光束感应手指以及传感器检测手部活动的腕带式的虚拟鼠标及打字设备。用户通过弯曲手指插入设备透出的光束来控制鼠标光标移动或者进行虚拟键盘输入。S.Manivarman等[15]提出了一个专为残疾人设计的基于手势的六自由度虚拟鼠标。即使用户手指不能弯曲,也可以通过简单的手势来操控虚拟鼠标进行电脑活动。J. Mccomas等[23]设计了一个叫做Point-N-Click的单机虚拟鼠标,可以帮助那些手指无力无法点击鼠标的运动障碍者操控鼠标。Point-N-Click可支持多种鼠标系统,如头戴式鼠标、平板PC、触摸屏设备等等。Point-N-Click还可以帮助残疾人进行水下康复训练[24]。
所有上述的研究都抛弃了传统的物理鼠标键盘,只利用单独设计的虚拟鼠标以及可穿戴设备帮助残疾人更加方便地操控电脑设备。lightglove[22]和六自由度虚拟鼠标[5, 15]十分便携和易于操作,但是这些设备都需要整只手的运动,对于我们有严重运动障碍的目标用户来说操作起来还是有困难的。Point-N-Click[23]不需要太多的手部运动,但是系统略微复杂,用户使用起来需要很长的适应期,其复杂的功能需要花费用户更多的交互时间。
我们提出的方法最为显著的优势在于将用户的手指运动缩小在更小的范围内,加上简单的1 bit交互系统让用户操作更简单、更易上手。采用的1 bit交互系统中,每一个功能调用都只需要1 bit输入,用户只需要用一根手指轻微按动触控板即可。配合使用可穿戴式显示设备 (此研究实验阶段采用无传感器的基于安卓系统的VR眼镜),用户就可以以一种简单的方式进行人机交互。
3 1-bit虚拟鼠标患者可在VR眼镜的帮助下,通过虚拟鼠标使用不同的虚拟现实应用。我们提出的系统包含了硬件和软件支持。为了展示虚拟鼠标的可用性,用1-bit交互系统进行测试,这个交互系统能提供类似社交媒体、娱乐、购物以及与护工沟通的工具,帮助用户完成日常生活活动。
3.1 硬件支持为了实现所提出的系统的所有功能,需要另外两种可穿戴硬件设备,其中可穿戴显示设备 (VR眼镜) 用于显示,触摸板用于用户输入。
为了提供一个更真实的可视化虚拟世界,使用的是基于Android系统的VR眼镜。选择此硬件设备的原因是因为它基于Android系统,在这个平台上安装虚拟鼠标的应用程序比较方便。选择的另一个硬件设备是触摸键盘,此键盘只有一个键,用于用户的远程控制。
该系统的整个过程为:在VR眼镜上安装交互系统,触摸板作为用户输入设备,与VR眼镜相连。当用户需要与系统进行交互时,按压触摸板,即可获得系统的反馈。输出设备可以是多样的,例如由软件系统控制的扬声器可以连接到虚拟现实眼镜,以便每当病人作出选择时,护工可以被及时通知到。显示器同样可以作为此系统的输出设备,可将使用者的所有选择输出到屏幕上方便使用者及其家属护工实时掌握。硬件的选择是以改善和方便残疾人和外部世界的沟通为目的。
3.2 软件支持软件方面,采用1-bit交互系统,以及设计的虚拟鼠标。在设计虚拟鼠标时,考虑到目标用户在运动能力上的限制,以及对已有物理鼠标的认知与使用习惯,决定采用辅助界面,来增强虚拟鼠标的可操作性。
图 3为1-bit交互系统中的虚拟鼠标辅助界面,在此界面中,每一个图标对应一个特定的功能,并以一定的顺序与速度交替闪烁。用户可以在某一图标正在闪烁时,发出1 bit选中信号,以此命令系统实现相应的功能。图 3中圆形区域内的图标可控制鼠标光标的移动。当用户选中其中闪烁的图标时,这个控制鼠标光标位置的圆形辅助界面会随着鼠标光标一起向选中的方向移动或者停止移动。当光标在移动时,示意停止的图标会不停闪烁,直到用户发出选中信号。选中信号发出后,鼠标光标的移动就会立即停止,4个方向图标继续按原来的方式轮转闪烁。4个方向图标轮流闪烁一周期后,若系统没有接收到用户的选中信号,则默认鼠标光标移动已经完成,此时辅助界面会出现包括向上翻页,向下翻页,刷新页面,新增窗口,关闭窗口,返回主页等快捷方式。这些快捷方式可以帮助用户在不用移动鼠标光标的情况下,快速实现部分功能,有效提高系统的使用效率,节省用户的等待时间。
虚拟鼠标代替传统的物理鼠标,作为一种基本工具来支持上层交互过程。额外的主菜单按钮,键盘按键和护理按钮提供了功能组之间的互相切换,使用户能够快速定位他们需要的功能。
我们的设计涵盖了方向控制图标、快捷方式和主菜单按钮的辅助界面,可以基本满足用户浏览网页时在鼠标控制方面的需求。此外,辅助界面中光标移动的速度经过了专门设计与反复测试,保证该系统鼠标光标移动功能的精准度,效率和用户满意度。
使用在windows操作系统上开发的1-Bit交互系统,并与虚拟现实系统相结合。此系统包含4个主要功能,分别为网站访问、多媒体、笔记本和医疗保健。用户借助这个系统进行网页浏览,网上购物,新闻,音乐,电影,在线课程等活动,1-bit交互系统大大丰富了用户的日常生活。
在1-Bit交互系统中 (如图 4),每个功能都用一个图标来表示,并且这些图标会以一定的顺序轮流闪烁。当图标正在闪烁时,用户可以发出选中信号,以此控制系统执行此图标对应的功能。图标的闪烁周期为2 s,这个时间的设定经过反复测试与实验,保证用户有足够的反应时间以及合适的等待时间。
用户想要点击某一功能图标,需要借助触控板来实现。VR系统中,用户通过触碰触控板的触摸按键来操作虚拟鼠标。
我们所使用的1-Bit交互系统支持1-bit输入信号,所以只需要一个外部按键即可与系统交互。考虑到目标用户运动障碍的问题,设计了一个触摸键盘,这个键盘不需要太多手指的力量,用户只需要用一根手指触碰触摸板上的按键即可。用户一旦触摸按键,系统就会立即接收到信号并执行相应的功能。这种设备可操作性极强,即使重度残疾人士也可以轻松使用。图 5为触摸键盘。
4 系统评价与用户研究我们邀请了5名ALS、中风患者和5名健康人士 (4男6女,年龄在20~78岁) 参与用户研究。在使用这个系统之前,我们先为他们进行了一个30 min的演示示范。在护工的帮助下,每位患者使用了1-bit交互系统中的两个应用。分别用包含5个功能键的遥控器和一键触摸板控制的虚拟鼠标来测试系统。
图 6为用户正在使用1-Bit交互系统。图 6的左边是用户正在使用VR鼠标。右边是用户正在使用制造商设计的遥控器。参加测试的用户们在1-bit交互系统上体现了不同的功能,例如使用网页搜索模块进行在线购物,多媒体模块观看电影等。他们觉得使用遥控器来操作这个系统不是很方便,要分清遥控器的5个按键的功能,以及因为佩戴着VR眼镜的缘故,要正确按下功能键十分困难,所以他们更倾向于使用触控板。
图 7显示了本次实验的结果。显示出1键触摸板和遥控器的使用可行性的差异。计算了所有操作的数量以及错误操作的数量。使用标准偏差来计算测试的错误率。使用遥控器的平均准确率为15.5%,错误率为79.9%。而使用1比特虚拟鼠标,平均准确率为56.8%。从图 7可以得知,随着用户越来越熟悉这个系统,操作这个系统的准确率也会提高。然而随着记忆的按键和功能按钮越来越多,使用遥控器的操作准确率并不会提高。实验结果表明, 1 bit虚拟鼠标与遥控器相比操作简单,性能更优。实验结果十分理想。
要实现在虚拟世界的真实交互,为用户提供一种可行的输入交互十分必要。由于现有鼠标的不同控制按钮,和遥控器的复杂功能键,一些残障人士要想控制操作十分不易,所以提出了这个系统,让VR技术以一种更好和更有效的方式来方便特殊用户的生活。
4 结束语对于残疾人士来说,能与外界正常沟通交流是他们能够独立生活非常重要的一部分。虚拟现实应用和可穿戴系统正试图帮助他们提高生活独立性,改善他们的生活方式。大部分虚拟现实应用为患者提供虚拟环境,例如购物环境,手术环境,就业招聘环境,让他们在这些虚拟场景下接受培训或者进行心理辅导等等。可穿戴系统利用传感等装置为用户提供便捷易操作的人机交互服务。目前,虚拟现实应用、可穿戴系统与残疾人之间的交互,无论是技术操作上还是经济上仍是一件困难的事,首先一些虚拟现实应用的输入设备对于残疾人来说操作起来十分困难,其次可穿戴设备由于一些传感装置的存在价格十分昂贵[26]。所以我们决定使用操作简单的1-bit系统以及不含任何传感装置的可穿戴显示设备。减少了传感器的可穿戴设备大大降低了价格,同时也简化了设备的使用方法。
基于需求分析和设计思路,本文阐述了1 bit虚拟鼠标交互系统在可穿戴显示设备上的运用。考虑到目标用户输入带宽受运动障碍的影响,只考虑用户与系统交互最为困难的情况。借助可穿戴显示设备 (VR眼镜),使用1 bit的键盘信号作为输入来与系统交互。只要外围设备能够发射或间接输出键盘信号,就可以被用作这个系统的输入设备。这个系统包含网页浏览,多媒体接入,医疗保健和笔记本模块。通过用户研究和反复实验,结果表明这个改进后的1-bit交互系统可以很好地满足目标用户的需要,并有效改善他们的生活。
[1] | KOUROUPETROGLOU G. Assistive technologies and computer access for motor disabilities[M]. Hershey PA, USA: IGI Global, 2014. |
[2] | CHESTNUT J A, CRUMPTON L L. Virtual reality: a training tool in the 21st century for disabled persons and medical students[C]//Proceedings of the 1997 Sixteenth Southern Biomedical Engineering Conference. Biloxi, MS: IEEE, 1997: 418-421. |
[3] | HOLCOMB J B, DUMIRE R D, CROMMETT J W, et al. Evaluation of trauma team performance using an advanced human patient simulator for resuscitation training[J]. The journal of trauma and acute care surgery, 2002, 52(6): 1078-1086. DOI:10.1097/00005373-200206000-00009. |
[4] | FENG Chuan, ROZENBLIT J W, HAMILTON A. Fuzzy logic-based performance assessment in the virtual, assistive surgical trainer (VAST)[C]//Proceedings of the 15th Annual IEEE International Conference and Workshop on the Engineering of Computer Based Systems. Belfast: IEEE, 2008: 203-209. |
[5] | CHUNG J M, RAMASAMY K, KOTIKALAPUDI V, et al. Virtual laboratory education for persons with vision disabilities[C]//Proceedings of the 2002 45th Midwest Symposium on Circuits and Systems. Tulsa, OK, USA: IEEE, 2002, 2: Ⅱ-617-Ⅱ-620. |
[6] | BOZGEYIKLI L, BOZGEYIKLI E, CLEVENGER M, et al. VR4VR: towards vocational rehabilitation of individuals with disabilities in immersive virtual reality environments[C]//Proceedings of the 2014 2nd Workshop on Virtual and Augmented Assistive Technology. Minneapolis, MN, USA: IEEE, 2014: 29-34. |
[7] | DEDE C J, SALZMAN M, LOFTIN R B. The development of a virtual world for learning newtonian mechanics[M]//BRUSILOVSKY P, KOMMERS P, STREITZ N. Multimedia, Hypermedia, and Virtual Reality Models, Systems, and Applications, Volume 1077 of the series Lecture Notes in Computer Science. Berlin Heidelberg: Springer, 1996: 87-106. |
[8] | ZYDA M. From visual simulation to virtual reality to games[J]. Computer, 2005, 38(9): 25-32. DOI:10.1109/MC.2005.297. |
[9] | DRAGANOV I R, BOUMBAROV O L. Investigating oculus rift virtual reality display applicability to medical assistive system for motor disabled patients[C]//Proceedings of the 8th IEEE International Conference on Intelligent Data Acquisition and Advanced Computing Systems: Technology and Applications. Warsaw, Poland: IEEE, 2015. |
[10] | STANNEY K M, MOURANT R R, KENNEDY R S. Human factors issues in virtual environments: a review of the literature[J]. Presence, 1998, 7(4): 327-351. DOI:10.1162/105474698565767. |
[11] | DEB S, DEB S. Single key Omni directional pointing and command system (SKOPS)——a smart on screen navigational tool for physically disabled persons[C]//Proceedings of the 2007 9th International Conference on e-Health Networking, Application and Services. Taipei, China: IEEE, 2007: 197-201. |
[12] | LANYI C S, TOLGYESY S M, SZUCS V, et al. Wheelchair driving simulator: computer aided training for persons with special need[C]//Proceedings of the 2015 6th IEEE International Conference on Cognitive Infocommunications. Gyor, Hungary: IEEE, 2015. |
[13] |
陈晨, 吴建国. 基于WebRTC的残疾人鼠标研究与实现[J].
计算机技术与发展, 2013, 23(9): 32-35.
CHEN Chen, WU Jianguo. Research and implementation of disabled mouse based on WebRTC[J]. Computer technology and development, 2013, 23(9): 32-35. |
[14] | ALM N, ARNOTT J L, MURRAY I R, et al. Virtual reality for putting people with disabilities in control[C]//Proceedings of 1998 IEEE International Conference on Systems, Man, and Cybernetics. San Diego, CA, USA: IEEE, 1998, 2: 1174-1179. |
[15] | WANG Xingfeng, QIN Kaihuai. A six-degree-of-freedom virtual mouse based on hand gestures[C]//Proceedings of 2010 International Conference on Electrical and Control Engineering. Wuhan, China: IEEE, 2010. |
[16] | BOZGEYIKLI E, BOZGEYIKLI L, CLEVENGER M, et al. Poster: design and development of a virtual reality system for vocational rehabilitation of individuals with disabilities[C]//Proceedings of 2014 IEEE Symposium on 3D User Interfaces. Minneapolis, Minnesota, USA: IEEE, 2014. |
[17] | PIOVESAN S D, WAGNER R, MEDINA R D, et al. Virtual reality system to the inclusion of people with disabilities in the work market[C]//Proceedings of International Conference on Information Technology Based Higher Education and Training. Antalya, Turkey: IEEE, 2013. |
[18] | KAMIETH F, DĂHNE P, WICHERT R, et al. Exploring the potential of virtual reality for the elderly and people with disabilities[M]//KIM J J. Virtual Reality. Open Access Publisher, 2011. |
[19] | LOUP-ESCANDE E, CHRISTMANN O, DAMIANO R, et al. Virtual reality learning software for individuals with intellectual disabilities: comparison between touchscreen and mouse interactions[C]//Proceedings of the 9th International Conference on Disability, Virtual Reality and Associated Technologies. Laval, France, 2012: 295-303. |
[20] |
张占龙, 罗辞勇, 何为. 虚拟现实技术概述[J].
计算机仿真, 2005, 22(3): 1-3.
ZHANG Zhanlong, LUO Ciyong, HE Wei. A survey of virtual reality technology[J]. Computer simulation, 2005, 22(3): 1-3. |
[21] | BUDZISZEWSKI P, GRABOWSKI A, MILANOWICZ M, et al. Workstations for people with disabilities: an example of a virtual reality approach[J]. International journal of occupational safety and ergonomics, 2016, 22(3): 367-373. DOI:10.1080/10803548.2015.1131069. |
[22] | HOWARD B, HOWARD S. Lightglove: wrist-worn virtual typing and pointing[C]//Proceedings of the Fifth International Symposium on Wearable Computers. Zurich, Switzerland: IEEE, 2001. |
[23] | MCCOMAS J, PIVIK J, LAFLAMME M. Current uses of virtual reality for children with disabilities[J]. Studies in health technology and informatics, 1998, 58: 161-169. |
[24] | QUARLES J. Shark punch: a virtual reality game for aquatic rehabilitation[C]//Proceedings of 2015 IEEE Virtual Reality. Arles, Camargue, Provence, France: IEEE, 2015: 265-266. |
[25] |
宫金良, 张彦斐, 周玉林, 等. 一种新型六维鼠标在虚拟现实技术中的应用[J].
传感器技术, 2005, 24(9): 82-84.
GONG Jinliang, ZHANG Yanfei, ZHOU Yulin, et al. Application of novel six dimension mouse in virtual reality technology[J]. Journal of transducer technology, 2005, 24(9): 82-84. |
[26] |
谢晶妮, 张茂军. 虚拟现实发展趋势展望[J].
计算机工程, 2002, 28(7): 1-2.
XIE Jingni, ZHANG Maojun. Trends of virtual reality system development[J]. Computer engineering, 2002, 28(7): 1-2. |