Google VR团队今天在技术博客上发布了一项已经在YouTube上使用的视频应用技术Equi-Angular Cubemaps(EAC),有助于解决目前因为网速带宽造成的360或VR视频流分别率低、破坏沉浸体验的难题。
糟糕的网速带宽是阻碍360或VR视频成为主流内容的重大障碍
作为全球最大的视频平台,谷歌的YouTube上的360和VR视频不仅是搜索巨头Daydream VR平台上最重要的组成部分,同时也正在成为一个最大的视频消费趋势。我们前几天曾经报道过NASA制作的一个发现小行星的360视频,在YouTube上被网友玩坏的有趣事例,说明了在相同时间获得更大信息量的内容正在成为消费主流。
大多数视频网站,在播放普通的2D视频时,都会跟YouTube一样,根据带宽来调整播放视频的分辨率,从而获得流畅的播放体验。然而针对具有更大信息量的临境感的360度或VR视频来说就没那么简单了。如果照顾网速的话,观众往往得到的是极差的分辨率(对那些坚持只要有沉浸感,分辨率可以不那么讲究的观点,我们表示很遗憾);反之,坚持得到清晰图像的同时,过程往往是卡带到无法忍受。
目前大多数360视频网站的妥协结果是:马赛克在移动。
Facebook的努力
同样力推360视频的Facebook 还研发了一套全新的视频编码,能够让VR视频文件大小减少80%,来改善这种恶劣的沉浸视频体验。
Facebook的这套编码系统,首先将平面帧的画面变成球形,然后将其置入到一个锥形体中。锥形体底端是分辨率最高的画面,越向尖端分辨率越低。总体来说,每个这样的视频包含30个观看视角(Views),每个观看视角Facebook又创造出5个视频流。Facebook网站会将这150个视频流保存在网站服务器上,但是会根据网速给用户只播放其中一个。
在介绍Google VR的视频技术时之所以要啰嗦解释Facebook的事情,是为了能跟这个Equi-Angular Cubemaps(EAC)做个比对有助于更好地理解这个技术。
Equi-Angular Cubemaps(EAC)是怎么解决问题的?
360度视频需要大量的像素来创建良好的体验。理想情况下,每个视角的内容需要至少60P来适应人类的视觉灵敏度。以目前播放设备和网速的性能,这基本是没法实现的。
于是Google VR的工程师们想出了一个聪明的改变投影方式的做法。
等边投影
如图,把球状的投影变成矩形,可获得直观的可视化影像。使用现有的视频编辑工具也相对容易。但是通过图中标示出的“地球两极”位置代表像素质量的蓝色小球状可以明白:在视频传输中,两极和赤道获得的像素是不均匀的,极点的像素较多,而赤道位置最少,这对于360视频非常挑战,因为球形视频的重要内容往往正好集中在赤道位置,大多数用户的视域都在这个区域。这个区域的失真,是目前视频压缩技术正在努力尝试解决的难题。
传统立方体地图
如图,把球形图像变成立方体,再“平铺”成一个平面的影像。这是传统游戏行业的做法。这似乎解决了上面等边投影两极和赤道像素分布不均匀的问题。但是仍然存在着像素密度的显著差异:
在上图中,光线在球面上是等距分布的,但是在立方体上,立面(橙色)和角落(蓝色)因为距离不同,角落获得的像素更多,这又使得赤道区域的像素降低,在3D中,差异更明显。
EAC是这样解决这个问题的
如图,左右的对比非常简单地解释了EAC的原理,就是保持两极和赤道投影的长度一致来创建像素的均匀分布,从而解决了在360视频的“观众地平线视角”上内容的失真问题。
不过工程师们在文章中也强调了,上面这个2D的图示只是一个用于解释的图示,并不意味着在3D中能实现如此完美的结果。事实上,EAC在2D中是一种数学上的精确表达,到了3D中像素的分布还是会出现一些偏差,尽管如此,相比之下在解决360视频失真问题上也算很成功了。
像素均匀性比较
(等距矩形投影(左)、标准立方体投影(中)、EAC(右))
从图示可看出,通过饱和度图谱的比对也可以清楚反应不同投影方式的结果。饱和度图谱展示的是视频像素与视频像素密度的对比。颜色从红色、橙色、黄色到绿色最后是蓝色。其中绿色代表最佳的像素密度比接近1:1。而红色和橙色表示像素密度不足(视频的像素太低)。蓝色表示被浪费的像素(因为大部分360视频的视域不在两极,所以被占用和浪费的像素最多)。
EAC投影的饱和度显然比前两者更均匀,同时有效改善了赤道附近的像素质量。这种均匀性允许最大限度地利用现有带宽,帮助任何分辨率的影像选择最佳的像素密度。
YouTube上的demo
EAC是YouTube和Daydream团队共同研究成果。因此在同一时间,YouTube工程师也在自己的研发博客上发布了这一研究成果。除了像Daydream一样详细解释了EAC的原理。还介绍了YouTube在具体使用上的体会,以及贴出了样片。
“某些360度相机无法拍摄整个视野。比如那些顶部和底部没有镜头的拍摄设备,还有一些只能拍摄180度场景。我们认为需要支持这些360摄像机,并希望能用静态图像替换视野中未拍摄到的那些部分。YouTube建议通过压缩和释放技术来获得流畅的视频体验。目前YouTube支持压缩上传,并且支持在4 KB兼容EAC投影技术。”
目前,通过Android设备访问YouTube上播放的360视频已经使用EAC技术。很快会在IOS和桌面上使用。
后记
随着360和VR视频越来越成为主流消费内容,视频的流畅度和分辨率直接影响着用户对沉浸式内容的体验。目前这个阶段,很多创意不错的360和VR视频,往往因为低劣的像素和播放,给市场和用户带来了很糟糕的印象。随手打开YouTube,不知道有多少这类视频,播放质量让人惨不忍睹。
高维的信息,必将伴随着高质量的影像表达。360和VR视频不是一个能“将就着”有沉浸式体验的事情,而是更讲究声色俱佳效果的事情。
作为360和VR视频的重要阵地,从谷歌和Facebook对视频播放技术的研发投入及其取得的成果可以看出,未来的视频平台,将是一个从拼接、后期特效到上传和播放一键式解决的端口。只有做到这些,群众们才会拿起手机(对,完全有可能是手机而未必是360相机)。拍摄、分享和消费。
from:IN2
0