从AI换脸到AI休会,潘多拉的魔盒能否会翻开?

2020年04月28日 1610次浏览

文丨陈根


新冠疫情让我们实际了史上最大年夜范围的长途办公和线上进修,我们应用的Zoom和钉钉等长途办公对象,正派历着史无前例的需求增长。微软Teams仅一周就新增1200万用户,从3200万增长到4400万;Zoom更是在短短两个多月应用户量翻了20倍,达到2亿。


可以说疫情改变了全球的任务方法,也改变了先生群体的进修、辩论乃至卒业方法。在疫情舒展的地区,有些高校卒业生乃至原告诉将原地卒业。


在家的逝世板让很多人迷上了AI换脸,将本身的脸调换成他人的脸,以此来增长乐趣。长途办公、线上进修的局限性,也让一些人想出八门五花的“摸鱼”方法,乃至想经过过程AI克隆另外一个本身,代替本身办公和进修。


那么,从AI换脸到AI克隆,是AI的又一大年夜进步照样新一个潘多拉魔盒的翻开?将来,有没有能够真的出现如许的场景:当我们翻开视频会议,参加的却全都是AI替身?


AI换脸其实不新颖


AI换脸可以追溯到 2017 岁尾,国外服装论坛t.vhao.net就出现了ID 为“deepfakes”的用户,该用户发布了经过过程机械进修来改换视频人脸的 AI 算法。不过当时该技巧的应用门槛还比较高,须要编译代码等操作。


一个月后,有人将他地下的的算法加以改革并推出简略单纯版 AI 换脸对象“FakeApp”。此次,就算是浅显用户,也能够或许顺利操作。



FakeApp 令 AI 换脸的应用门槛大年夜幅降低,不过它照样须要必定的预备任务。起首它须要装置额外的运转库;其次它对硬件有需求,须要高性能显卡参与运算,个中对 N 卡的兼容最好。


FakeApp 还须要较新版的 Windows 10 体系才可以装置,运转起来还得等待一段时间———由于过程越久后果越好,毕竟机械进修照样须要足够的时长和样本;最后,FakeApp 便可以生成简直以假乱真的 AI 换脸视频了。


AI换脸里有一个关键的项目,那就是一阶活动模型。



一阶活动模型(动画模型)是用一组自进修的关键点+部分仿射变更来建立复杂的活动模型,其目标是为懂得决在大年夜目标姿势静态变更的情况下,传统模型生成质量差的成绩。模型采取自监督的办法将外不雅和活动信息分别,重要由两个重要模块构成:活动估计模块和图象生成模块。


活动估计模块的目标在于猜想密集的活动场,此处假定存在一个笼统的参考坐标,并预估存在「从参考到源(from reference to source)」和「从参考到驱动(from reference to driving)」两种转换。是以可以自力处理源帧和驱动帧。做如许的处理是由于模型在测试时会接收从不合视频中采样的源图象帧和驱动帧的组,从视觉下去说能够会很不合。


第一步,研究者应用经过过程自监督方法进修的特点点取得稀少轨迹集来近似计算两种转换。与仅应用特点点位移比拟,应用部分仿射变换对每个特点点邻近的活动停止建模可以或许取得更多的变换。


第二步,一个密集的活动搜集能将部分仿射组合起来,取得终究的密集活动场。除此以外,该搜集还可输入遮挡遮罩,遮挡遮罩会显示 driving 的哪些部分可以经过过程变形源图象来重构,哪些部分该修复。


终究,生成模块衬着源对象的图象。这里应用了一个生成器搜集,可根据密集活动对源图象停止变形,并修复源图象中被遮挡的部分。


简单讲,一阶活动模型的优势在于一旦经过一组描述雷同种别对象的视频练习(例如人脸、人体),这类办法便可以应用于此类的任何对象。


从AI换脸到AI克隆


比来,一名名为马特 · 里德(Matt Reed)的工程师,就在一阶活动模型的基本上成功开辟出了代替本身参加 ZOOM 视频会议的 AI。



全部筹划其实不复杂,据里德简介,他先截了一些本身经过过程 Zoom 休会的图片,然后基于 Artyom.js 开源库(停止侦听和照应)构建了一个简单的 Web 应用法式榜样,对其停止编程以便可以听懂一些简单的对话,比如“你好吗?”、“你明白了吗”、“再会”等。


幻想情况下,Zoombot 可以处理从“Hello”到“Bye”的全部会议过程而不会惹起任何人留意。然则,现阶段的项目更多是出于兴趣建立的,还不是很完美。


里德认为比较好的部分是不用给它一个像“Hey,Siri”如许的唤醒词便可以开端应用。只需外界有语音触发,它便可以照应并合营脸部的活动给出答复。


Zoombot 项目标构建一共花费了大年夜约四个小时,而里德又花了大年夜约四个小时来组织 Zoom 会议并记录同事们的真实反响。里德奚弄道:“窍门是在聊完之前就分休会议室,由于一旦进入“我听不到你的声响,可以反复一遍吗?”的逝世轮回中就费事了。


潘多拉的魔盒会否翻开


固然,里德在真实的视频会议中应用他的 Zoombot 时,确切给曾经对视频会议日趋麻痹的同事们带来了很多欢快。


但欢快的眼前带来的常常是更深确当心。


AI 换脸不能不面对的风险成绩,起首是关于信息的真实性构成严格的挑衅。PS 创造后,有图不再有本相; AI 视频换脸技巧的出现,则让视频也开端变得镜花水月了起来。人们广泛认为视频可以担当“实锤”,而如今这把实锤竟可平空制造。关于本来就假消息满天飞的互联网来讲,这无疑会形成更严重的信赖崩塌。



其次,这会大年夜大年夜增长侵犯肖像权的能够性,没人情愿本身的脸庞涌如今莫明其妙的视频傍边。和多用处的 PS 等修图软件不合,AI 换脸技巧的功能只要一个,那就是换脸。从这个角度来讲,它的存在天然就是一种对肖像权的威逼。


换言之,AI 换脸技巧或许玩着风趣,但是真实的成绩在于,如许风险百出的技巧我们究竟玩不玩得起?


随着AI换脸的广泛出现,AI变声也开端展露头角,谷歌之前曾经研究过 AI 变声的相干技巧,但并没有大年夜范围实装。然则国际厂商则加倍守旧,很多研究输入法的厂商都曾经测验测验在产品傍边推行 AI 变声功能。


在一些输入法傍边,如今便可以找到 AI 变声的开关。在输入一段语音后,等待少焉便可生成特定音调和音色的语音,拟真度相当出色。Modulate.ai这个网站就供给了 AI 变声办事,乃至连奥巴马的声响都能被完美模仿。


AI 变声技巧曾经逐步成熟,它和 AI 换脸技巧结合后将会构成威力无穷的组合拳。就在2019 年 3 月份,《华尔街日报》报导显示,有犯法分子应用 AI 技巧成功模仿了英国某动力公司在德国母公司 CEO 的声响,欺骗了 220 000 欧元(约 1 730 806 人平易近币)。仅仅依附 AI 变声就可以酿造出一宗如此严重年夜的欺骗案,AI 骗术的威力可见一斑。


乃至,AI变声都不是AI技巧的终点,里德的Zoombot就仿佛是一个暗喻。将来,我们或许不只可以看到逼真的 AI 换脸、AI 变声,乃至能够连应对都由 AI 来完成。当 AI 能主动生成以假乱真的面庞、声响乃至说话的时辰,互联网乃至全部社会该若何应对这类身份信息纷乱的局面?


明天,一些银行基于人工智能,推出人脸识其他搜集付出转账体系来停止大年夜额转账。这项技巧看起来很“完美”、很安然,然则在AI变脸技巧眼前,或许这项技巧会成为最脆弱的安然进攻技巧。


或许有一天,任何人发布或许援用的任何材料,都有来由被质疑存在锐意或成心的修改。而比这更恐怖的是我们乃至不知道本身正在被欺骗。假设够荣幸,人们或许会发明,从悠远的那一天起,又一个潘多拉魔盒正在被开启。科技正在以我们难以预感的方法生长、演变,而这将给当下的全球管理与司法监管体系带来巨大年夜的挑衅。


更多出色内容,存眷钛媒体微旌旗灯号(ID:taimeiti),

您能够感兴趣的文章
关于我们  | 商务协作  | 参加我们  | 那年昔日  | 雇用科技峰会出色回想  | 上海科技峰会回想  | 首届HR区块链峰会  | 2017HRTech年度颁奖  | people analytics  | 候选人体验大年夜奖  | 友情链接  | HR科技极客大年夜奖  | 深圳科技峰会出色回想  | HR共享办事平台  | 三支柱服装论坛t.vhao.net2018  | 2018数字人力资本科技奖榜单  | 2018 数字人力资本科技奖  | 北京2018HRTechCon出色回想  | 2018HRTechXPO  | 2018TOP100人物榜单  | 2019年度活动筹划  | 2018年度大年夜奖揭晓  | 2018投融资申报  | 2017投融资申报  | INSPIRE 2019出色回想  | 2019海内活动筹划  | 2019北京雇用科技服装论坛t.vhao.net出色回想  | 2019深圳人力本钱分析峰会出色回想  | 2019中国人力资本科技峰会上海出色回想  | 2019HR科技极客大年夜奖  | 北京HRTechXPO将来馆出色回想  | 深圳·2019雇用科技创新服装论坛t.vhao.net出色回想  | 2019候选人体验大年夜奖榜单  | 中国人力资本科技云图  | 雇用科技云图  | 2019上海雇用科技创新服装论坛t.vhao.net出色回想  | 深圳7月19日HRTechXPO出色回想  | 2019HRPA上海站出色回想  | 2019中国人力资本科技创新奖  | 深圳·2019中国人力资本科技年度峰会出色回想  | 2019北京HR科技峰会出色回想  | 2019数字人力资本科技奖榜单  | 2019HRTechChina TOP人物榜单  | 2019HRTechTOP人物列表  | 2019HRTechXPO-上海出色回想  | 2020HRTechChina品牌活动筹划  | 2020HRTech云图出口  | 合营战疫专题  | 2019年度评选榜单  | 2020雇用科技创新虚拟峰会出色回想  | 助力企业合营抗疫专题  | 2020企业数字化福利推销
 Hotline: 021-31266618   Email:hi@hrtechchina.com