这个AI合成主播就可以——坐姿、站姿零失误播报是基操,而且还是3D,360度取景也hold得住。
她叫“新小微”,是全球第一个3D+AI 合成主播,在两会召开之际上线,为全国观众带来了最新的两会新闻资讯报道。
这就是搜狗分身最新的技术进展——基于AI算法实现实时驱动,打造高逼真、高灵活、高可控的3D AI合成主播。
这样做的目的,是采集每一处细节信息,并对其多种形态的表情和动作,进行细致入微地捕捉记录。
这个过程中,采用了行业领先的扫描还原算法,以及面部肌肉驱动、表情肢体捕捉等技术。
最后,通过搜狗分身的端到端多模态生成算法,对3D数字人模型进行实时文本驱动,也就是说,只要给到一个文本,就能输出一个视频或者视频流。
并确保在此基础之上,渲染后的面部表情唇动、肢体动作和语言表达能力,能够实现高度契合。
很多做写实类型的3D模型,都是采用blendshapp或骨骼动画去完成,做出来的面部表情和身体动作就不是特别逼真。
而搜狗采用的是全球最领先的肌肉模型来完成3D建模,所以每一个肌肉点的运动都会连带着很多面部脸谱协同运动。
从面部表情到肢体动作的细节程度,达到了不亚于,甚至会高于一些影视作品及游戏NPC的写实度。
在高清特写镜头下,3D AI合成主播的皮肤材质、毛孔、牙齿、嘴唇、眼睛、头发达到高逼真程度。
并且在AI合成主播讲话的过程中,语音和她的唇动细节之间的配合度,以及她的面部肌肉运动,整体看起来实现了很高的自然度。
并且其效率极高——若是要生成一个1分钟的视频,输入文本后,生成只需要1分钟,可以说,几乎达到了实时生成的效果。
反观游戏行业及电影行业,大多是靠人工做驱动,才能实现一个高写实的3D模型。这就导致需要投入大量的人力、财力成本。
例如,扫描一个人物,再投入大量的人工采集他讲的每一个字、每一个发音、每一个动作。而后靠美术师自己勾画出来,一点一点地提升写实度。
再者,如现在市面上一些比较火的卡通效果,如洛天依,大多都是通过真人采集,没有做到真正意义上的AI驱动。
虽然三星的这项技术在面部细节还原方面达到了高逼真度,但是其在整体面部、肢体的协调性等方面还是具有一定的缺陷。
可以看到,三星NEON.Life项目中的数字人,在说话的过程中,只有面部肌肉在动,而身体是一直保持一个动作不变。
而在刚才的展示中,“新小微”从进场到站姿播报,表情、唇动、语言、肢体动作,都是一气呵成、自然协调。
这个3D人在完成扭头动作时,由于脖子、肩膀不能完成“联动”,所以效果上会比较“诡异”。
而在游戏、影视,甚至是同行3D数字人中存在的缺陷,搜狗通过开创性的AI技术,将其逐一攻克。
2D的AI合成主播技术已经在许多场景中落地,例如新闻主播“雅妮”、“AI虚拟法官”,以及虚拟审核客服等等。
而随着数字人这一概念的兴起,搜狗基于已有的AI技术,与3D技术相结合,便推出了此次的3D AI合成主播。
二者是处于“搜狗分身”体系下的并行发展路线,正如在量子位采访过程中,搜狗AI交互技术部总经理陈伟表示:
2D的写实度比3D略高一些,但是3D的灵活性更高一点。 基于路线探讨,我们还是区分了2D和3D,同时在底层算法上也做了充分的打通。
从2D的AI分身,到现在3D的进化,背后不仅是技术、产品在场景落地上的不断探索和精益求精。
众所周知,自2016年以来,搜狗就确定了以语言为核心的自然交互+知识计算路线,而AI分身类产品,核心发展目标就是打造像人一样的自然交互,并且拥有强大的知识计算能力。
2D和3D的AI合成主播,正在从“表达式”向“交互式”发展,这背后要基于强大的知识理解和计算能力。
相比三星在CES上的Demo展出,搜狗已将AI合成主播实现了重要场合、重要岗位和重要任务场景上的商用。
日前,银保监会对银行普惠型小微企业贷款考核及监测口径进行了调整,要求从2021年起,在普惠型小微企业贷款的“两增”监管考核口径中,剔除票据贴现...
北京时间4月6日20:30,国际货币基金组织(IMF)发布了最新的《世界经济展望》(WEO)报告(下称“报告”),预计2021年和2022年全球GDP增速分别为6%和4.4%,增速之高...
日前,一组数据显示,截至2020年第三季度,2018-2019年纳入国家医保目录的肿瘤创新药,在1420家样本医院中,进院比例约为25%。这组数据引发了关于“创新...
曝苹果正开发“AirPodProLite”耳机其他新品有哪些据台媒DigiTimes报道,苹果公司正在与台湾的供应链合作伙伴合作开发几种即将推出的产品,其中包括所谓的...
小编为大家带来realmeV11和oppoA93的参数对比,那么这两款手机的区别是什么?小编为大家带来最新的手机资讯,快来看看吧。一、参数对比二、性能分析1、...
三星智能手机部门新负责人背后卢泰文何许人物据外媒报道称,51岁的Galaxy设备负责人卢泰文(RohTae-Moon)成为三星智能手机部门的新任负责人,这背后的一...