查看完整版本: [-- “AI换脸”拷问技术应用伦理 --]

中国企业员工互动论坛 -> 企业热点 -> “AI换脸”拷问技术应用伦理 [打印本页] 登录 -> 注册 -> 回复主题 -> 发表主题

为生歌唱 2019-09-02 20:56

“AI换脸”拷问技术应用伦理

8月30日晚间,一款名为“ZAO”的APP刷屏朋友圈。大量用户使用这款APP上传自拍照片,将自己“变成”影视片的主角,并将这些“改头换面”过的视频片段上传微信朋友圈等社交平台,引发“病毒式”传播。在软件火爆传播之余,也有用户在社交媒体表达对隐私泄露的担忧。(9月1日中新网) qOi5WX6F/  
/[iG5~G  
  表面上看这款ZAO应用程序只是一款满足手机用户“好玩”心理的娱乐APP,引发争议的是换脸游戏对明星肖像权、影视剧著作版权的“侵权式消费”,以及软件本身对手机用户个人脸部信息的采集可能带来的隐私安全危害。 [sj VRW-  
i b]vX-  
  “ZAO”要求用户“同意或者确保实际权利人同意授权‘ZAO’及其关联公司以‘ZAO’用户全球范围内完全免费、不可撤销、永久、可转授权和再许可的权力,包括但不限于可以对用户内容进行全部或部分的修改与编辑”,也就是用户的面部信息将永久且免费地给了“ZAO”和它的关联公司处置。那么,这些信息将如何处置,恐怕会完全失去权利人的掌控。 (Xo SG  
+0"x|$f~  
  有人说会带来新的诈骗风险,比如有手机号,有面部图像,通过技术合成,犯罪分子可以冒充子女跟父母通话实施诈骗;又比如,利用脸部信息合成色情视频对个人实施敲诈,与过去PS色情图片诈骗犯罪如出一辙。诸如此类,强制索取脸部信息令人担忧。 KmL$M  
xs%LRF# u  
  事实上,这只是一个方面,比这更值得担忧是AI换脸信息技术本身。理论来看,技术没有原罪,但到了具体应用就是一柄双刃剑,都具备影响公共安全的潜力,所不同的只是影响的大与小。AI换脸同样如此,其技术并不只是以娱乐应用支起公民信息采集的陷阱,而在于对人脸数据处理在不同场景的应用。也就是说,只要任何人掌握了这项技术,都可以用于特定目的,例如合成色情视频,根本无需海量采集脸部信息,只要网上能够找到特定对象的照片就行。 Y\p $SN  
F sY(02  
  上个月,央行科技司司长李伟就曾警示AI人脸识别技术可能带来的新风险,他说,“人脸支付的时候,一刷脸钱就没了,很可怕。银行卡可以揣在兜里,脸是平常露在外面,识别出来非常容易,现在有的技术可以在3公里之外识别你的人脸。”这句话道出了AI应用对公共安全带来巨大冲击的担忧。 qg4fR' i  
72,"Cj  
  因此,对于AI应用场景安全的讨论,不能只局限于民事侵权本身的讨论,这种止于末端治理的忧虑,在AI技术迅猛发展,涵盖面几乎包括所有人的语境下,变得毫无意义。更积极的讨论,恐怕还得基于AI技术的伦理,对其研究开发与应用行为进行规范,通过健全法律法规、健全必要的监管,实行前置的管理,防止失范失控。比如,AI应用技术应当符合正当有益的原则,应用则需要满足起码的安全保护、隐私保护等条件,形成健全清晰的规则。之于AI换脸,如果有前置规则的约束,就可能属于禁止应用之列。可见,对于AI技术的发展,法规、规则的研究也应跟上步伐,不断扎密制度的笼子。


查看完整版本: [-- “AI换脸”拷问技术应用伦理 --] [-- top --]



Powered by PHPWind v7.5 SP3 Code © 2003-09 PHPWind
Time 0.453345 second(s),query:3 Gzip enabled

You can contact us