AI换脸技术背后的问题:你知道“丢脸”的后果么?

  • 时间:
  • 浏览:0

近日,一款换脸软件刷屏了社交网络。通过这款软件,用户可实现与明星换脸,“一键”进入明星出演的影视片段中,过把戏瘾。然而,随着这款软件火爆网络,亲戚亲戚亲戚朋友也刚结束了了关注其肩上涉及的隐私、肖像权等相关问提。

“换脸”有风险本人信息或遭泄露

这款软件在苹果6苹果6苹果66应用商店的标语为,“仅需一张照片,出演天下好戏”。该软件使用AI技术,将用户上传的照片,置入平台上用户所挑选的影视片段之中,实现用户与“明星”的换脸。

利用这款软件进行“换脸”,首先前要用手机号动态验证码进行验证登录。换脸时前要进行眨眼、抬头等各种验证,这与刷脸支付时采集的脸部信息同类。

对此,有用户在社交媒体上表达了对隐私泄露的担忧。或者被别有用心的人利用这俩 技术,盗取了用户换脸的信息,包括其它的本人信息,一旦匹配成功了,轻则是精准诈骗,重则一句话有或者用户的账号、密码洞开。原来 一来,不仅“丢了脸”,还或者丢了钱。

法律专家岳屾山:

这后面 人太好占据 一定的安全隐患,这俩 软件或者被不法分子所掌握,就很或者造成危险。现在,国内太满有应用在索要用户信息方面都很野蛮,过度要求用户提供信息,这是另一一兩个 通病。用户在使用前要注意保护本人的隐私;开发者也应该遵法守法,按照法律的规定来采集信息;监管部门也要出手,对于不规范的行为及时予以制止,进行规范。

AI换脸曾被利用制作淫秽视频

AI换脸技术被公众注意,还或者其先前被应用于制作淫秽视频。多家外媒曾报道“Deepfake”和“DeepNude”在国外引起的热议,据美国《纽约时报》报道,随着太满的人正在利用该技术制作名人的色情视频,AI换脸正在引起恐慌。英国《卫报》称,此类软件是“对未来可怕的一瞥”,显示了对人工智能未来或者造成的伦理问提的担忧。

AI生物识别要把控好“度”

AI换脸或者全是新技术,以刷脸支付为代表的生物支付也也是目前的主流,如今我国生物识别技术占据 全球先进水平,从事该行业的企业超过4000家,2018年市场规模超过4000亿元以上。

生物社会形态识别技术,就说 采集本人所有外貌作为模板保存,使用时再次对相应外貌进行实时采集并快速对比进行身份认证。各种生物社会形态技术的区别,在于对采集的“外貌”有所挑选,有的挑选采集指纹,有的挑选采集人脸,有的挑选采集虹膜。

无论采集哪几个“外貌”,哪几个“外貌”全是另一一兩个 共性:人人全是,且人人不同,也就说 具有唯一性。随着生物社会形态识别技术的大规模应用,怪怪的是人脸识别技术的普及,生物社会形态信息安全受到了本人的关注。

对于用户来说,人脸社会形态信息属于弱隐私信息,人人可见,随时有或者在自身全无所知的情况报告下被人获取,给人一种生活生活不安全的感觉,当人脸社会形态信息和金融支付账户联系到同時 前一天,更是影响了用户对账户的安全感觉:“从我的账户里划钱就和拍照一样简单。”

自从人脸识别技术问世前一天,各种人脸识别应用层出不穷,一帮人脸识别厕所、人脸识别跑道、人脸识别马路、人脸识别智能门锁等等。“别管需不前要,能站在风口就行。”伴随着原来 的想法,人脸识别信息刚结束了了被各种各样的应用采集,甚至滥用。

今年2月,国内深网视界占据 大规模数据泄露事件,超过2400万人的数据可被获取,有6400万条数据疑似泄露,包括身份证信息、人脸识别图像、图像拍摄地点等。此事在网上掀起了滔天巨浪,深网识别网站一度停止运营,引发了无数风波。

值得一提的是,支付宝8月23日发布了国内首个“生物识别用户隐私与安全保护倡议”,倡议提出:企业在采集用户生物信息时应遵循“最小、够用”原则,处理被滥用。这份倡议共5点,主要从隐私、安全、处理信息滥用、责任与监督、公平等深度1,唿吁对生物识别的发展进行规范化管理,来确保行业可控、健康的发展。

面对生物社会形态识别技术的风潮以及随之而来的风险,监管也在不断发声。自今年两会起,本人信息安全就成了监管的重点,网信办、工信部、信安标委等部门接连发布文件,《数据安全保护法(征求意见稿)》、《App采集本人信息规范》等等文件都强调了本人信息安全的重要性。生物社会形态信息无疑属于本人信息当中最有价值的次要,属于重点保护范围。

央行科技司司长李伟在文章《冷静看待生物识别技术》中提到,“目前市场热情高涨但尚缺一系列制度设计。”或者前要对生物识别技术加强监管,尽快出台相关法律法规,以及配套的管理措施和行业标准。

刷脸、换脸带来的风险全是就说 ,于用户而言,切勿将本人信息轻易交换,于企业而言,支付宝发布的“生物识别用户隐私与安全保护倡议”值得行业深思!

AI换脸虽好玩,但要当心“丢脸”

你想过有一天,本人前要和胡歌谈恋爱,前要和邓伦逛故宫,前要和你的差生女神畅游花海吗?近日,一款名为“ZAO”的AI换脸APP就帮不少人圆了原来 的“明星梦”,过了一把戏瘾。

用户在上传自拍照片后,就前要把影视剧主角的脸替打上去用户本人的脸。仅需一张照片,便可出演天下好戏!这诱惑力的确够大。“ZAO”APP瞬间“名声大噪”。

或者,这俩 AI换脸技术也带来不少争议:亲戚亲戚亲戚朋友担心本人信息会被泄露,刷脸支付就说 再安全。

伴随着各种质疑之声,“ZAO”上线仅半个月便被微信屏蔽。人太好该APP团队对相关霸王条款进行了修改,并承诺不用泄露用户信息,或者外国外国网民视频全是就说 买账。工信部还就网络数据安全问提约谈了该APP肩上的金主——知名社交平台陌陌。

现在监管部门介入、涉事企业改进,而消费者自身更要提高自我保护意识。里能 了多方合力,能够为本人隐私安全“上锁”。记者潘愈

“ZAO”的病毒式传播

8月400日,一款运用AI技术实现“换脸”的“ZAO(逢脸做戏)”APP正式上线,用户前要通过这款APP实现在视频中“换脸”,把本人变成喜欢的影视剧中的主角,过足一把戏瘾,实现本人的“明星梦”。

而使用“ZAO”的过程也非常简单,用户只前要下载、注册、上传一张清晰正面照。“ZAO”还会 要求用户在摄像头前进行眨眼、扭头、张嘴、低头等指示动作。

用户在上传本人照片后,便可“一键”进入明星出演的相关影视片段中,生成新视频,还能制作表情包。更要我无法阻挡的是,用户还能将生成的新视频分享到微信亲戚亲戚亲戚朋友圈里。

正如“ZAO”本人所标榜的那样,“仅需一张照片,出演天下好戏”,前要与本人的偶像“同台飙戏”,这对太满一帮人来说,的确具有难以拒绝的巨大诱惑力。

其效果也是可想而知的。刚一上线,这款软件便立刻引发“病毒式”的传播。就连ZAO官方助手本人也在8月400日夜间发布微博无奈地表示,“这俩 月花700万租的服务器,今晚或者消耗1/3了。明天或者继续火爆,亲戚亲戚亲戚朋友里能 了做严格有些的限制。”

果不其然,该软件在第半个月的8月31日便登上了微博热搜前十,里能 了24小时后,它便登上苹果6苹果6苹果66应用商店免费APP下载排名榜首位。

里能 了 ,说了里能 了 多,亲戚亲戚亲戚朋友一定好奇,这款爆红的APP肩上东家到底是谁?而据企查查数据显示,“ZAO”所属公司由海南猫咖网络科技有限公司400%控股,法定代表人为陌陌联合创始人雷小亮,海南猫咖网络科技有限公司则由雷小亮和陌陌COO王力各持股400%。太满有把“ZAO”APP说成是社交平台陌陌旗下的最新产品,是非常为宜的。

你的“脸”不属于你

然而随着“ZAO”APP的“病毒式”传播,各种担心和质疑就说 断曝出。或者“ZAO”的主要换脸功能都前要上传人像照片,该软件肩上的隐私权、肖像权、版权等相关安全问提随即引起各方深度1关注。

根据“ZAO”用户协议内容中的必要授权协议:用户上传发布内容后,由于 同意授予“ZAO”及其关联公司以及“ZAO”用户在“全球范围内全部免费、不可取消、永久、可转授权和可再许可的权利,包括但不限于前要对用户内容进行全部或次要的修改与编辑(如将短视频中的人脸或者声音打上去原来 人的人脸或者声音等)以及对修改前后的用户内容进行信息网络传播以及《着作权法》规定的由着作权人享有的全部着作财产权利及邻接权利。”

换句话说,当用户确认授权前一天,用户的面部信息就永久且免费地给了“ZAO”和它的关联公司处理,而用户无权过问,或者用户前一天本人或者签了“卖身契”,事后再来找,又有谁能认账呢?

除此之外,使用“ZAO”APP还占据 原来 很大的潜在风险。正如媒体报道所称,用户得自行确认本人所用的明星肖像是明星同意授予的,一旦明星状告“ZAO”侵犯其肖像权,“ZAO”就干脆甩锅,让用户承担侵权后果。太满有说,这俩 或者性就说 是不占据 的。

或者根据《合同法》含有关规定,提供格式条款一方免除其责任、加重对方责任、排除对方主要权利的,该条款无效。很明显,“ZAO”协议中的有些条款的确很霸道。

中国政法大学朱巍在接受南方日报采访时表示,“ZAO”的合同条款或者造成违法违规,违反了《消费者权益保护法》《合同法》中的格式条款和《网络安全法》。移动客户端的人脸识别是用户的核心隐私,平台不可擅自使用消费者的肖像。

同時 ,湖南芙蓉律师事务所合伙人律师钟文科在接受证券日报采访时还表示,“该软件或者会搜集位置信息、银行卡号、支付宝账号、相册等,哪几个全是本人用户极为敏感的信息,一旦平台出现故障由于 用户信息泄露,或者对用户造成很大的安全隐患。”

哪几个失控的“换脸门”

不可提前大选,随着互联网的普及,亲戚亲戚亲戚朋友在充分享受智能手机给生活带来巨大便利的同時 ,也面临着各种问提的困扰。

正如中国青年报评论文章指出的那样,在智能手机普及的今天,隐私是一件几乎不占据 的事情。你连接的WiFi暴露了你的行踪,你在搜索引擎点击的链接和广告暴露了你的爱好,你在淘宝搜索的商品暴露了你的消费水平。《纽约时报》的一篇报道称,仅在美国,全是为宜75家公司从事与定位有关的业务,追踪的手机多达2亿部。

工人日报也指出,技术发展和应用的脚步飞快,当源源不断的科技创新成果向亲戚亲戚亲戚朋友涌来,相应的制度和监管却先要及时建立和完善,这是亲戚亲戚亲戚朋友不得不面对的一大困境。

毫无问提,哪几个事情真的是细思极恐。

人太好,“ZAO”所利用的AI换脸技术人太好全是就说 是哪几个新鲜事物。前年,美国一位名叫“deepfakes”的外国外国网民视频就曾将本人制作的AI换脸视频发布在了当地社交论坛上,甚至该外国外国网民视频还把色情片女主角的脸打上去了400多位好莱坞明星的脸。

就连太满有商界大咖和政界大腕也未能幸免于难。今年6月份,脸书创始人扎克伯格在网上发表了一段关于“掌控大数据就掌控未来”的视频走红网络,而最后证明视频中的“扎克伯格”实际上是外国外国网民视频利用AI技术进行换脸后的效果。或者这俩 假的扎克伯格无论从相貌声音,还是穿着打扮,都跟真的扎克伯格几乎一样,难怪会有里能 了 多人上当,信以为真。

还有另一一兩个 典型的例子就说 美国众议院议长南希·佩洛西。前不久有外国外国网民视频通过换脸技术,将视频中的南希变得言辞混乱,颠三倒四,一看就占据 醉酒情况报告。最后逼得美国国会立刻召开了有史以来第一场有关AI换脸技术的听证会。

太满有说,AI换脸技术或者匮乏有效的监管,的确容易失控。正如南方都市报社论文章指出的那样,对于“ZAO”这款应用,当然全是要一棍子打死,但在里能 了 多的质疑肩上,从政府监管到舆论监督,再到学术研究,理应及时跟上,做必要的审视与讨论。在“脸部信息”被滥用、濒临失控前一天,AI换脸技术得好好通过伦理关的审查。

弄丢的“脸”咋找回

而当提及本人信息的前一天,大多人第一时间想到的便是诸如身份证、姓名、家庭住址、电话号码、银行卡号、社保卡号等等哪几个具体的身份信息。而往往对像指纹、人脸、基因等更为重要的本人生物信息里能 了了 在意。从太满一帮人喜欢在社交平台上共享本人的照片上就可见一斑。

众所周知,像脸部信息原来 的生物识别信息难为一般人所更改,太满有被广泛用于身份认证、交易和支付环节,或者一旦泄露,一旦“丢脸”,势必给用户带来难以消除的不良影响。

广州市社科院研究院彭澎在接受南方日报采访时表示,绝大次要技术一种生活生活全是无辜的,要看使用者自身是出于怎么的目的,造成了怎么的结果。AI换脸技术有一定可取性,前要用于抓捕犯罪分子或出于善意、里能 了 损害的娱乐,但一旦过界,则应该按照相应的法律进行限制。

此前,在第四届全球金融科技峰会上,人民银行科技司司长李伟就曾提醒称,人脸是非常敏感的本人信息,一旦泄露或被盗取,会带来非常大的影响。太满有有技术里能 了任性,就说 能滥用。

而“ZAO”APP提供的“换脸”体验无疑就说 一种生活生活对面部识别技术的滥用。北京日报评论文章就指出,在面部识别或者普及的今天,你我的面部数据如同一把钥匙,与本人种种账户的安危深度1相关。“ZAO”一键把用户的面部数据上传到云端,但凡公司里有内鬼,或是公司保管不善造成数据泄露,别有用心之人很容易拿着亲戚亲戚亲戚朋友的“脸”招摇撞骗。

对此,健康报评论文章指出,对于这次换脸软件走红问提,一方面要就事论事,看多人脸信息遭泄露带来的风险,并督促加以改进。更应该看多,在生物信息保护方面,不仅民众的防范意识普遍不强,或者相关规定也比较匮乏,亟待就此好好补一补课,或者更多“好玩”的软件还或者出现,让更多民众付出泄露敏感信息的代价。

图一时之快的后果

面对外界里能 了 激烈的质疑之声,“ZAO”方面此前已在8月31日对用户协议进行了次要修改,增加“怪怪的提示”:用户使用“ZA-O”生成的内容,“ZAO”将仅用于修改并生成新短视频,除非获得用户再次同意,不用以任何有些形式使用上述内容。用户或者删除了上传内容,“ZAO”也会措施相关法律从服务器中删除。此外,用户或者使用“ZAO”换脸,需确保肖像权利人授权“ZAO”对人像进行处理。

但事件并未就此平息。9月1日,上线半个月爆红的“ZAO”微信分享链接还是在争议声中被停止访问了,其页面显示“网页占据 安全风险,被多人投诉,为维护绿色上网环境,已停止访问”。

还会,为了消除亲戚亲戚亲戚朋友的疑虑,9月3日,“ZAO”运营团队发布声明称,“ZAO”不用存储本人面部生物识别社会形态信息。在您的使用过程中,为保护肖像权不被冒用,“ZAO”设置了真人验证环节,整个过程仅为验证您上传的照片是您本人,为确保您的信息安全,“ZAO”不用存储本人面部生物识别社会形态信息。“ZAO”所呈现的“换脸”效果,是亲戚亲戚亲戚朋友根据您提交的头像照片,按照您选定的素材场景,通前一天期技术叠加所实现的虚构图像,并里能 了 采集任何本人生物识别社会形态。虚构图像能达到肉眼上近似,但全是就说 是您的真实信息。

同時 ,“ZAO”APP的“名声大噪”,也引发了有关部门的注意。同日,工业和信息化部网络安全管理局对北京陌陌科技有限公司相关负责人进行了问询约谈,要求其严格按照国家法律法规以及相关主管部门要求,组织开展自查整改,依法依规采集使用用户本人信息,规范协议条款,强化网络数据和用户本人信息安全保护。

怎么给隐私“上锁”

对于公众普遍关注的“刷脸支付”算不算会有安全威胁的问提,此前,支付宝安全中心或者通过其官方微博发布公告称,目前各类换脸软件不管换的有多逼真,都无法突破刷脸支付。“刷脸支付”采用的是3D人脸识别技术,在进行人脸识别前,也会通过软硬件结合的措施进行检测,来判断采集到的人脸算不算照片、视频或者软件模拟生成的,能有效地处理各种人脸伪造带来的身份冒用情况报告。此外,在进行人脸识别后,次要用户还前要输入与账号绑定的手机号进行校验,进一步提高了安全性。

此次,“ZAO”运营团队也格外强调,使用“ZAO”不用产生支付风险。刷脸支付安全门槛极高,仅通过一张照片实现的“换脸”技术全部无法突破刷脸支付的安全系统。权威支付平台也均从专业技术深度1,强调“换脸”全部不或者威胁支付安全。您删除信息或取消账号,“ZAO”均会措施相关法律法规的规定删除相应信息。目前有用户看多取消后的缓存信息,会在后续更新版本时修复。

或者哪几个承诺和保证并未消除公众的疑虑。“目前大多数获取用户脸部和本人资料的平台全是金融平台,受到一行两会的严格监管,或者当太满的平台在里能 了 受到监管的情况报告下获取用户相关的信息,这肩上占据 的监管缺失才是最大的风险。”平安科技智能认知产品部总经理宋晨指出,更大的风险人太好是来自于对获取用户相关信息的平台的监管。

太满有,加强监管刻不容缓。新京报评论文章指出,政策与监管全是滞后性,企业有囿于竞争而急于开辟新战场的压力,全是基于在大数据时代快速采集数据的冲动,若单方面期望其能持保守立场和克制冲动恐过于乐观。但无论是监管层、媒体还是法律人,全是义务告知用户,其为了短暂娱乐所交出的生物识别信息或者带来的巨大灾难。

同時 ,工人日报评论文章还指出,在立法及时跟进、监管雷厉风行之外,企业也应珍惜声誉,远离霸王条款,本人用户则需时刻绷紧本人信息保护的神经。无论怎么,本人信息安全里能 了成为谁想捏就捏的“软柿子”。

北京商报评论文章也指出,应对本人隐私泄露,不仅依靠消费者加强自身保护,更需建立完善本人信息采集的基本规范、相应的行政监管体制、司法救济途径。或者,不给AI划线,不为隐私“上锁”,有一天洪水勐兽突如其来,才发现你我束手无策。

注:文章内的所有配图皆为网络转载图片,侵权即删!