蚂蚁集团开源 EchoMimic:支持为人像照片对口型、生成肖像动画视频

  蚂蚁集团发布了开源项目 EchoMimic。据介绍,EchoMimic 不仅能根据人像面部特征和音频来帮人物对口型,还可以结合面部标志点和音频内容生成较为稳定、自然的视频。

  GitHub:https://github.com/BadToBest/EchoMimic

  EchoMimic 具备较高的稳定性和自然度,通过融合音频和面部标志点(面部关键特征和结构,通常位于眼、鼻、嘴等位置)的特征,可生成更符合真实面部运动和表情变化的视频。

  其支持单独使用音频或面部标志点生成肖像视频,也支持将音频和人像照片相结合做出 “对口型” 一般的效果。

  下图是 EchoMimic 的工作原理:

  EchoMimic 支持多语言(包含中文普通话、英语)及多风格,也可应对唱歌等场景。

  访问主页查看更多示例:https://badtobest.github.io/echomimic.html