VR、AR、MR的技术发展
虚拟实境(Virtual Reality)VR,对大多数青少年来说都不会感到陌生。但很多人首先想到的是什么?是当下最潮流、最炫酷的科技?还是游戏爱好者的终极福音?是人类感官体验的质的飞跃?还是强大的社交网络平台?是戴着个笨重的头盔沉浸在数字世界不能自拔的情境吗?其实,大家回想以前戴一个红、蓝双色眼镜,在太空馆观看180度星空立体电影;或者在主题公园裸眼玩4D动感影院节目,已是类近的雏型技术概念。
Virtual Reality,VR这一名词由「虚拟实境之父」拉尼尔(Jaron Lanier)在上世纪80年代初提出。其工作原理是将电脑技术与常感器技术相结合,产生一个三维的虚拟世界,并创造出一种新的交感手段,能使人们沉浸在虚拟的现实环境中,身临其境地去体验和感受物像及空间变化。典型的输出设备就是Oculus Rift、HTC Vive等等。
Augmented Reality(AR)增强实境,可以说是虚拟实境(VR)技术的延伸。AR通过动作、条码或者真实物品等「标识物」(Code)来作为一个触发器和互动方式,将电脑生成的视频和图像覆盖在即时环境上。我们看到一些学习课程通常围绕着某本课本/教材进行,AR则能让它的图片「弹出来」,从而制作一个互动课堂。前两年全球火爆的电子游戏Pokémon Go,也有应用AR技术,主要是靠定位(Location)来带出数位元影像,可以称它为Location-Based AR游戏。
还有一种Mixed Reality(MR)混合实境,又称Mediated Reality(介导实境)。MR,简单来说就是将现实生活和虚拟世界进行混合,有时被形容为介于VR和AR之间,或者被称为增强虚拟(AV)。举个例子,手机的赛车游戏与射击游戏,通过重力感应来调整方向和方位,那么就是通过重力感测器、陀螺仪等设备将真实世界中的「重力」、「磁力」等特性加到了虚拟世界中。环境中同时包含了物理实体与虚拟资讯,并且必须是「即时的」。MR的两大代表设备就是Hololens与Magic Leap。和AR一样,MR也能被用于培训医疗人员、建筑工人,甚至是市镇规划人员。
AR、VR、MR在教育培训领域的应用场景
这些新兴虚拟场景科技在教育训练上的应用大致分成三大类:
- 教育(Education):指传授知识,包含学校教育及职场教育。
- 训练(Training):指职能或技能训练,包含学校及职场。
- 效能支援(Performance Support):指在需要的时刻提供相关重要资讯,以协助完成工作,通常可以与前项搭配运用。
目前已经有很多医院/医生使用VR/AR/MR来进行教学或外科手术训练。VR/AR/MR更可为各级学校的学生提供身临其境的多感官的体验,比起传统的讲课、字卡图卡、或教科书等方法更有效。VR应用于教育是教育技术发展的一个飞跃,它营造了「自主学习」的环境,由传统的「以教促学」的学习方式代之为学习者通过自身与资讯环境的相互作用来得到知识、技能的新型学习方式。这些完全不一样的认知体验让学生们更好地学习,以一种全新的方式参与到学习中去。例如:
- 地理课以VR/AR/MR显示3D立体地球仪,学生可以由各个角度来观看,点选某个国家可以来带出该国家的详细资讯。(E/PS)
- 化学课以VR先让学生模拟实验过程,让学生熟悉步骤以及可能发生爆炸或起火的错误操作,这样在真正实验时就可以有效避免危险事故的发生。(E/T/PS)
- 教科书或课外书都可搭配行动装置或AR眼镜,在特定页面显示3D立体画面及相关资讯,增加学生印象,让学生更容易理解,并提升上课或学习兴趣。(E/PS)
去年香港有初创公司不惜投资数百万元,制作一套涵盖多个朝代的AR中史教材,希望协助中史科教师授课,扭转学生固有观感。例如,扫描万里长城的AR图卡后,就会播放它的360度实景短片,还加插了相关的资料介绍和提问,以创造互动教学效果。除了利用动画和视觉效果来提高学生的学习动机和兴趣之外,教师还可以使用AR中史教育平台的实时课堂提问系统及课余练习,来测试及评估学生的表现,题目类型包括是非、排序及多项选择。
各类博物馆也开始以虚拟场景科技协助,建构多元共融的观展体验。去年中国国家博物馆利用新思维首办全云端VR展览及5G直播媒体档案等线上资源,让市民在博物馆外也可增加文博知识。装修后的香港太空馆也新增观星流动程式「星夜行」,以VR及AR显示电子星图,让用户利用新科技突破限制,在体验星空的美妙之时亦能学习科学及文化知识。程式的电子星图具备三种运作模式:
- 「虚拟模式」(VR):透过定位功能及监察流动装置的指向,即时模拟指向的天区以辨认天体和星座的位置;
- 「扩增模式」:利用AR技术,在手机相机的星空画面上,即时指示天体或星座的标记或图案;
- 「手动模式」:自行选择模拟天区。
虚拟技术转移为优化现代美术教育赋能
虚拟技术除了在大众领域如游戏、通讯、新闻、教育、医疗、电影、戏剧等方面的运用,它究竟是如何跟艺术扯上关系的?它的发展又会对现代美术教育产生怎样颠覆性的影响?这些问题都是美术教育人员需要关心的课题。
来自澳洲的Jeffrey Shaw(b.1944),持续在虚拟与增强现实、浸入式视觉、互动式叙事(interactive narrative)方向的创作,可以说是在这个领域探索的先驱式艺术家和研究者。他1989年开始的一系列骑自行车作品《清晰的城市》(The Legible City)被公认为VR作品诞生的雏形:参与者骑上一辆固定住的自行车,穿梭在由电脑生成、由三维立体文字组成的城市街道之中,系列作品分别以曼哈顿(1989)、阿姆斯特丹(1990)和卡尔斯鲁厄(1991)的城市规划为蓝本,同比例再现了城市里的街道与建筑,参与者可以通过自行车把手和踏板上的介面控制行驶方向及速度。
目前从VR艺术学习的应用,比较普及有下列几大范畴:
- VR艺术鉴赏:不出校、不出门、不出国,VR能让我们在家轻松欣赏到世界顶尖艺术展馆的的珍藏及自选的观赏体验。
- VR观看演出:现在大大小小的电视节目和演唱会,都已经开始使用VR直播吸引无法到场的观众。甚至鸡年春晚也用上了VR直播技术,让电视观众试试站在舞台中央看剧的视觉体验。
- VR音乐创作:现在,音乐爱好者可以省却巨额投资,借助功能强大的虚拟音乐工作室「Sound Stage」创作歌曲,合成音效,对每个音轨进行编辑处理,随心所欲地尝试不同的音乐效果,轻松创作属于自己的歌曲。
- VR绘画设计:最近全球各地都流行着新型的VR艺术展,并且加入让参展者戴上HTC Vive走进虚拟世界欣赏。
- VR摄影视频:例如在《魔法时刻》的APP中,你的相机结合所有的现实相机的物理特点,可以在岛上邂逅野生动物,玩转光圈、试试快门的速度、通过改变焦距掌控照片的视角。嚓嚓一声,你创作的摄影图片就生成了!
艺术家用VR创作正在成为新潮流,例如杰夫.昆斯(Jeff Koons)和玛丽娜.阿布拉莫维奇(Marina Abramović)试过将他们的艺术与VR技术相结合,呈现在一个名为Acute Art的虚拟实境平台上,带给观众一种新的艺术形式。阿布拉莫维奇展出的作品《Rising》与气候危机相关,艺术家与观众在VR空间里面对面,她邀请人们到玻璃水缸中,慢慢地往水缸里灌水。随后她将带观众到世界各地看冰川融化,如果参观者承诺为气候危机贡献一份力量,水缸的水位就会下降,反之她就会被淹死。
2017年底,这个号称「世界上第一座VR博物馆」Acute Art独家登陆了HTC Vive,向大众展示一些知名VR艺术家的作品,包括Olafur Eliasson、Jeff Koons和Anish Kapoor。其中Eliasson新作《彩虹》也在Acute Art首次展出。据悉,这个VR博物馆允许多人在同一房间进行交互的应用,其会根据随时跟踪玩家的位置,改变彩虹的形态。Eliasson表示:「VR有潜力成为一种新型的体验方式。当我们置身在VR的虚拟世界时,我们也不能忘却了身体的交互,因为交互能拉近人于与人之间的距离。」
几年前香港K11办过一次创新展览:《电‧艺‧感》(Electronic Vibes)。展览将艺术同VR结合,观众欣赏作品之余,还有机会在3D虚拟世界画画。K11在中庭打造虚拟实境(VR)体验区,首次同HTC以品牌全新虚拟装置HTC Vive,举行Art Jamming活动。只要带上VR装备,四周围环境即刻变画布,可以随意发挥。除体验活动,K11在不同层「艺窗」展出视觉音乐项目《五》,由国际知名抽象动画艺术家兼城大创意媒体学院客席助理教授Max Hattler连同36位学生一齐创作,探索音乐听众受影响时作出的反应的多媒体互动艺术创作。
可见,VR是一种新的资讯传递方式的变革,人们从「置身事外」欣赏一个艺术,到「身临其境」参与一个艺术展现,这与传统美术的区别是在沉浸感上有了颠覆性的改变。北京中央美术学院的多媒体艺术课程,有一个案例是让人体验梵古名画《夜间的咖啡馆》中的场景。当你带上VR眼镜,就像坐在1888年梵古当时正在工作的那个咖啡馆一样,亲身体验梵古眼中的世界。
几年前,香港大学工业及制造系统工程系,曾利用自行研发的虚拟3D沉浸式可视化交互环境系统「imseCAVE」,和圣公会何明华会督中学申请的「走进数码虚拟画廊」QEF项目合作,将学生用3D建模软件《Sketch Up》设计的立体美术画廊及在虚拟墙壁展示的画作,以「imseCAVE」系统变成三维虚拟视觉场景,逼真地呈现在一个平台上。观众佩戴3D眼镜进入画廊,藉身体移动及手掣操作,便可游走虚拟空间,以不同角度欣赏画作。
牛头角佐敦谷圣约瑟天主教小学,也曾以「潮学视艺」创新学习项目申请QEF,建立一个视像平台,让学生能把在平板电脑上创作的艺术作品,结合VR,AR及体感科技,具体地呈现出来。学生的美术作品从个体变成群体,从平面变成立体,从静态变成动画,增加学生的艺术创造力和想像力。「潮学视艺」从无纸美术延伸,结合其他资讯科技,让学生作品以不同的形式呈现,并与其作品产生互动,提升学生对视觉艺术的兴趣,从而更主动地探索,培养自主学习的精神。学生透过即时的评价和回馈,以及自主和多元化的视觉艺术学习过程,既能提升高阶思维能力,又能增强协作能力和评赏能力。
另外,近年AR的艺术应用也逐渐出现,例如香港.2017年推出「活化香港历史建筑II」一套六枚邮票,介绍六个活化历史建筑项目,包括蓝屋、油街实现、绿汇学苑、石屋家园、元创方和茂萝街活化项目。邮票首次加入AR(扩增实境)技术,只要开启「香港.邮票」流动应用程式,将镜头对准邮票,萤幕上就会呈现出邮票中建筑物的3D立体模型,同时查看建筑物的简介和360度相片,并可载入互动游戏「邮游活化建筑」。建筑物3D立体模型的背景更会按日间、黄昏和晚间实时改变。
也有一个夫妻档用AR婚帖创商机月赚十万个案,请柬设计秒变3D场景。AR囍帖的造型跟一般「红色炸弹」无异,唯当嘉宾收到纸本请帖后,只要下载相关手机应用程式,再以镜头对准卡上图案,萤幕即会弹出3D虚拟场景。一对新人更会粉墨登场,亲自邀请宾客出席盛宴;把手机围绕囍帖观看,场景亦会同步转动,AR内的景物富真实感。
乐善堂余近卿中学在2017年一项学生营商实验活动中,以「物卿情重」为题,设计出三款产品,当中「AR游戏T恤」像手机游戏Pokémon GO般运用了AR技术,吸引了评审眼球,加上他们以活泼方式向评审介绍产品,成功晋身八强。有关T恤印有指定图案,玩家需要下载一个由该校开发的手机应用程式(App),再把镜头对准T恤,手机萤幕便会出现相应的立体图案,图案由参赛学生设计,手机应用程式则由老师帮助编写。
至于MR的艺术创作应用,在去年有全球首个大型MR行为艺术作品出现,并让观众参与定义场景。MR行为艺术作品名叫《生命》(The Life),片长19分钟,采用立体录影(volumetric capture)技术拍摄并以混合现实(mixed reality)方式呈现。2019年2月在伦敦蛇形画廊(Serpentine Gallery)的公演,门票开售仅两小时后即告售罄,在一星期内接待了约5000名观众,并将于2020年全球巡演。「Tin Drum混合现实创作室」创办人及CEO–Todd Eckert是《生命》的导演,在自立门户之前,曾任美国独角兽公司Magic Leap的内容发展总监,他是少数对MR创作有多年经验的制作人,认为专注于MR深刻独特、更人性化、更具表现力的体验,能够昇华观众看世界的层次。他表示MR与传统二维电影的分别在于:传统电影需要构图(frame),导演就像上帝掌控所有环节和观众体验,观众无权参与,影片对导演是有意义的,观众则不一定会这么想。MR的体验就截然不同,「假设有一个场景,由你来定义,你的目光将集中在你觉得最动人的地方;我相信你想探索的东西和我想说的故事有相通之处,然后我给你工具自行探索感兴趣的部分,而同时我亦可达成创作目标。」以《生命》为例,观众在观看作品前要交出随身的通讯设备(例如手提电话和手表等)给工作人员,让思绪静下来,然后戴上Magic Leap One混合现实(MR)头盔显示器,再由展览助理引领到指定位置,之后观众就会看到行为艺术教母Marina Abramović的影像,感受恍如身历其境的表演。Todd觉得MR作品有恒久的价值,「就算100年后她离开人世,你要是戴上装置仍可看到她在室内走动。」
虚拟场景技术应用与限制
概括而言,虚拟场景科技在教育和培训领域有愈来愈大的学习应用空间。在美术创作表现上除了可以成为一种创新的科技应用视觉艺术媒介外,同时若适当利用创设虚拟场景的工具和技术,可以丰富传统美术教育的课程模式和学习体验,足以让美术教师革新校内、校外课堂教学的设计,大大提升美术学习的兴趣和创意表现。目前我们可以看到有不少应用虚拟场景科技的工具、软件、平台,协助学校和教师进行现代美术教育优化,例如上面提及VR应用的Oculus Rift、HTC Vive;MR的Hololens与Magic Leap等专业制式和工具;以及3D建模软件、AR解码编程的学习,现时也可以找到一些比较容易应用的技术资源。
Kingspray是一款「涂鸦模拟器」(Kingspray Graffiti Simulator),借助HTC Vive虚拟实境平台,给虚拟实境和涂鸦艺术爱好者展现惊人逼真效果。此款虚拟实境涂鸦模拟器不光使用灵活,操作方便,并且有很强大的绘图功能,可以调节多种笔刷效果与颜色,喷雾与墙壁的结合处理极其细致。这款由Kingspray公司利用VR技术开发的「涂鸦模拟器」,允许用户在VR世界里尽情地在公寓墙上或火车车厢等公共场所进行涂鸦创作。
有内地科技公司设计一款「AR梦幻涂鸦」的美术创作套装,儿童用各种颜色的彩笔,在附送的涂鸦明信片正面随意图画。使用公司《嘀铃梦世界》APP即可实时扫描出个性化涂鸦模型动画,神奇的实时渲染让平面涂鸦变成会飞、会动、会跳舞的梦幻童话。也有一种采用相近技术的「神笔马良AR涂涂乐」,也是让儿童体验虚拟场景转变乐趣的美术工具。
外地还有一家叫「大腿」的公司,设计了一个将3D打印和VR虚拟世界结合的创作平台。用家戴上VR眼镜,拿着手柄进入了虚拟世界。使用手柄拨弄眼前的小圆球可以改变VR世界中的白天与晚上。参与者可以使用两种模式制造想制造的物品,可以是规规矩矩的方块搭出来的,也可以是使用喷枪喷出的不规则线条。使用工具十分简单,手柄按动工具选择使用喷枪还是方块,再按动空白区域,就可以开始喷绘立体图形或者拼搭3D建筑,是一种有趣的科技和美术融合的创作经验。
若要应用VR技术进行课程设计,学习内容除了现成科技公司供应的VR影像资源外,要做校本设计,可能要学习「VR全景摄影」,这听起来会是个高科技。但是如果你的手里有一台单反相机,照着很多视频平台提供的摄制步骤,也可以轻松制作一个可以互动的「VR虚拟互动空间」。关于VR影视创作的问题,专业一点理解,可以大概分为两大类:动画和实拍。VR的拍摄过程,跟传统影视还是比较相似的,唯一的不同是VR的镜头语言和剪辑手法,需要运用到VR相机。专业VR相机又分成180度3D和360度3D,还有360度2D等等不同的规格,可以根据影片叙事语言的需求进行相应的选择。VR的镜头是多面的,可能是八个或者12个镜头拍的东西进行一个缝合,计算量也是非常大的。要一站式解决VR全景摄影,也可在视频平台搜寻相关技术主题。
要将虚拟场景科技应用到现代美术教育的优化上,有时基于技术难度和成本「门槛高」的问题,不一定容易推广、普及。例如众所周知,VR的最大缺点就是成本高和难普及。一些大学和学校可能不想投入大笔预算在这样的新兴科技上,还有一些则无法负担这笔费用。另一个缺点是内容,特别是那些有关VR硬体配套的应用。虽然YouTube上有大量的VR视频,以及很多iOS和Android应用。但其中多数都品质不高,也不是专门为教育设计的,教师都要用心筛选、转化。当然课堂中运用VR带来的好处仍然十分巨大,但目前看来,这一技术可能更适合被用在预算更高、更容易获得类似技术的大学机构中。
另外,上面提及AR基本上是通过动作、条码或者真实物品等「标识物」来作为一个触发器和互动方式,将电脑生成的视频和图像覆盖在即时环境上。从可实践性的角度来说,AR的门槛对很多学校来说相对更低。在课堂教学中应用这项科技也更容易。只要课本和应用等资源设置完毕,在全校推广这项技术的预算其实非常便宜。
而MR会有多些缺点。因多数项目由企业主导,故此中小学能接触到这一技术的机会相对更少,它需要大量的时间来贯彻和自己创造MR应用。值得注意的是,2016年Microsoft.巨头Pearson形成了合作关系,共同为HoloLens打造教育型应用和MR学习工具。据悉这些工具将会被用在很多方面,包括护理、建筑等工作,并会与美国的学院、大学和中学进行合作。
总而言之,从价格和设置来看,最容易采购的是移动VR设备,但它的「体验」十分有限──不仅仅是市场上的应用有限,学生能达到的互动水准也很有限。而AR和MR可能会成为最早试水的学校的下一个尝试目标。