当 4K 修复版的《哪吒传奇》《葫芦兄弟》《黑猫警长》《大头儿子和小头爸爸》《小鲤鱼历险记》《小蝌蚪找妈妈》6 部经典动画片上线西瓜视频 App 后,产品经理甄辰这样感叹。
六部老动画的 4K 修复版上线刚两周,就得到了超过百万的播放量。而在半年之前,他们刚开始投入这项事情的时候远远没有想到,以为接个超分辨率算法就能实现的老动画 4K 修复项目,竟然如此反复而困难:
老胶片的破损和划痕非常严重;美术风格带来的局限巨大;远景/近景差别巨大,细致纹理难以直接修复,保持原有美术风格难度重重;……
在这些清晰的影像背后,字节跳动火山引擎的研发团队都经历了什么?
频频踩坑的修复之路4K 老动画修复项目的技能同学们大多是 90 后,大约有一半都是今年校招刚刚加入的新人,修复这些老动画也是修复他们的童年影象。
项目组工程团队的戈岭说,小时候父母给自己买的第一部动画片光碟便是葫芦娃,这部电影陪伴了他良久,如今再次动手《葫芦兄弟》的修复事情,心里满满都是童年回顾。
回顾固然美好,真正的修复事情却十分困难。
每部动画片的状况不一样,有的保存在胶片上,年代久远有不少划痕和粘连导致的破损;有的虽然保存成了数字格式,但放大后线条的锯齿非常严重;有的线条清晰、色彩高度饱和,有的则是采取了水墨画等艺术风格,「修电影」的传统方法,无法在这些不同美术风格的动画片上完美运用。
可以说,每部电影都不一样,不能纯挚依赖超分辨率算法,而是每位算法工程师独自大责 2~3 部动画,根据它的特点来单独设计定制化的技能方案。
算法工程师傅仁在进入这个项目时刚刚从上海交通大学硕士毕业,通过校园招聘来到字节跳动。
她参与完成的动画片是《葫芦兄弟》和《黑猫警长》。这两部均是胶片电影,拿到电影的第一步,她给两部动画片完成了多维度的质量剖析,调研了许多种不同的深度学习和传统学习的方法,研发了去划痕模块。
但考试测验运行之后却创造,老胶片电影上划痕和噪点实在太过严重了,她想到用深度学习来完成划痕的检测,但没想到,把划痕检测模块加上去之后,结果并不如预期:
算法精确率无法达到 100%,有可能会将动画片中一小部分图案的纹该当成划痕,给一起抹掉。
左图叶片被当做胶片污渍被肃清
空中的蝴蝶翅膀,易与胶片污渍稠浊
只管利用了动漫数据来演习划痕检测模型,但这个问题依然无法办理,经由谈论后,为了担保每一帧修复画面的完美,团队终极确定了「算法+人工+算法」三步走的办法:
先用算法将视频放大到 4K,初步去除噪声,完成画面增强,让动画片变得更清晰;之后找到标注供应商,找出那些人眼看上去非常明显的划痕,比如被放映机划伤的部分、多年储存中胶片黏连的部分,以此为依据逐帧画成蒙版;之后借助修复算法,将这些被人工标出的损伤部分补充好。
这是一套既靠人工、也靠智能的办法,经由第二步人工标注后再进行第三步算法添补后,机器跑出来的结果常常不能尽如人意,“可能标注方的笔触欠妥心越界了,色块就溢出了原来的位置;画面上边界模糊的区域,经由不恰当的标注,色块会非常,人眼看着很突兀,”项目组的 PM 甄辰同学说,他每天都要抽出一定的韶光,来为这些不足完美的运行结果「批作业」,重复修正多次后,他已经对《葫芦兄弟》和《黑猫警长》的剧情稔熟于心,“一集 10 分钟的动画片,我要看一个小时才能找出里面所有不完美的细节,反复看了十几遍,才终极出品了完美的版本。”
这些纹理细节的问题,同样涌如今《小鲤鱼历险记》上。
卖力完成这部动画片修复的 hasaki 也是今年加入的校招生,毕业于西安电子科技大学。在反复的实验中,hasaki 创造了奇怪的一帧:
在利用某个算法做修复时,每当碰着小鲤鱼在水中游动的场景,处理后的字幕偶尔会涌现扭曲。
比如,正常来讲该当是这样的字幕:
会扭曲成这样,笔墨轮廓被模糊掉了一部分,笔画粗细也很随机,乃至部分笔墨变得十分抽象:
经由实验创造,一方面字幕的纹理有梯度大并且密集的特点,另一方面字幕本身是静止的,但是周围的背景一贯在运动,会产生滋扰。在这两个成分浸染下,在某算法修复处理后随意马虎产生 badcase。
为了应对这种情形,hasaki 修正了自己的方案,将字幕区域给识别了出来,对字幕区域采取了单独的优化策略,避免了这个问题。
除了算法同学,工程团队同样做出了许多改进。
Base 在杭州的戈岭从浙江大学毕业后就开始参与这个项目:“我差不多刚毕业、七八月的时候才开始研究视频增强这类技能,9月就加入了项目组。”
与算法侧不同的是,实现对老动画的 4K 修复,工程侧须要让这些不同的算法处理方法运行在一个通用的「量产」过程中,创造出一个流水线式的处理流程。
然而,这些不同年代、不同制作办法的老动画却有着不同的格式,想要统一输出为 4K 分辨率、 16:9 的形态,须要基于各种片源情形考虑到处理的细节和顺序,是颇有难度的工程寻衅。戈岭说:“有些片源乃至还保持着电视制式的像素比例,每个像素是长方形的,而不像打算机、当代制式的 1:1 正方形。”
正是由于这种片源的繁芜度,如何将每部老动画个性化的算法模块统一支配在量产流水线上,既要担保不同处理模块的加载和正常运转,也要担保它们之间相互兼容,是一个须要不断打磨的过程,每次创造新的问题,都要进行问题的复现、定位排查以及修复。
这个繁杂的系统同样哀求它的制作者对付细节的把控能力,“一个不起眼的参数没对齐都可能牵一发而动全身”,戈岭说。对付每部片源,都须要工程同学和算法同学同心协力,在定制事情流后结合工程代码进行流程推演,梳理在详细视频处理中的细节和流水线。
从内部试看到发布,经典终于重现经由多轮修正和调度,当所有的老动画都被修复完成之后,欢迎寻衅的时候终于开启。
这是一场正式上线前的不雅观影会,将决定所修复的影片能否正式上线。
不雅观影会的组织可以说相称有仪式感了,项目中所有参与同学都来到北京的一家 4K 影院中,用专业的设备进行播放,审阅 4K 修复的效果。
在此之前,上海的傅仁和深圳的 hasaki 也出差来到了北京,提前三天预备不雅观影事宜。
从来没有打仗过影院播放的 hasaki 在这段日子里学到了很多新知识:“我没有想到,电影院播电影的时候,连格式都跟我们普通用户不一样,并不是常规的格式。”
原来,影院播放的影片相称于把我们普通用户的视频截成一帧一帧的播放,按照这种分帧的格式存下来,再修正码率。此外,考虑到影院的屏幕尺寸,还常常须要给电影画面周围增加黑框来保持适配。
刚打仗到这一套系统的 hasaki 迅速学会了影院影片转码工具,并在三天内制作出多个演示 demo 供内部不雅观影利用。
预备内部不雅观影会的过程中,他们也在影院的大屏考试测验播放了多次。大屏的播放效果与电脑屏幕播放大有不同,放大几倍之后,一些不足清晰的细节又被放大了,须要不断调度优化才能达到最好的播放效果。
辛劳预备之后,当所有项目同学来到现场,清晰、都雅的播放效果让现场所有人在清晰的画质下重温了儿时的回顾,大家同等赞许让这些修复的影片上线。
后来,在中国电影导演中央,300 余名西瓜视频用户、媒体朋友与互助伙伴在发布会现场见证这些老动画以焕然一新的面貌涌现在世人面前。
而背后研发团队这些年轻同学的不断努力,终于被这个天下瞥见。他们的精益求精与对极致细节的追求,已经成为了经典的一部分,留在不雅观众的影象里。
提升自己,通报代价“原来《黑猫警长》只有五集啊,我觉得小时候看它的时候,仿佛有很多很多集。”项目完成之后,傅仁终于可以轻松地看待这些老动画片了。
承担了一些项目中部分事情卖力人的角色后,她以为自己迅速发展起来了:“我的mentor会故意识地让我卖力一些事情,我会感到我在做自己手上事情的项目管理,和不同同学沟通互助,跑通一全体项目的流程。”
实在这是不少校招生进入这个项目组后的感想熏染:在学校时,干事的规则便是导师安排什么,自己完成什么,但现在须要主动安排自己去完成什么,自己做好实验,自己主动向其他互助者证明我这个版本会比另一个版本好。
而在技能事情的方法上,项目组同学也有不少感悟,大家逐渐意识到,很多影片修复的问题要从根源上多角度的去思考,然后再来考虑算法上的一些改进。
工程侧的戈岭也是第一次参加这么大的项目,这种全流程的落地推动成为他职业生涯中的第一个亮点:“这个项目的流水线方法是我想到的,终极把它运用到了项目里,这让我很有造诣感。”他正在节制成熟的干事方法,来把自己的技能切切实实落地。
火山引擎多媒体实验室卖力了字节跳动视频增强方面的事情,面临着非常丰富且困难的场景,可以说是海内视频增强业务场景最丰富的地方。实验室研究员赵世杰以为,老动画的确很难修,须要每位同学针对繁芜的场景提出技能方案,不仅要担保画质达到 4K 标准,而且原有的艺术美感也必须传承下来,这也是每位同学追求极致的表示。
他们正在把修复老动画这项事情持续进行下去,西瓜视频也将开放入口,为普通用户免费供应 AI 修复支持。
现在,如果打开西瓜视频 App,你就可以看到这 6 部 4K 高清的动画片。它们是每个人的影像回顾,从荧幕上的从前经典变成移动端可以随时不雅观赏的作品,正在成为超过代际的共鸣。
用坚实的技能修复这些共同的影象,做事每个曾被它打动的不雅观众,是务实的字节技能人所追求的代价。