今天是:     设为首页 | 加入收藏 | 联系我们  
网站公告: ·甲辰大吉 宏图大展 (2024-2-10) ·中华人民共和国主席令(第一三〇号) (2023-5-31) ·中华人民共和国主席令(第四十五号) (2020-5-30) ·关于启用新邮箱的通知 (2013-5-22) ·河南宇萃律师事务所被授予“省级优秀律师事务所称号” (2012-5-28) ·河南宇萃律师事务所主任王献方、执行主任赵俊波被授予三门峡市2008--2011年十优律师、十佳律师! (2012-5-28) ·热烈祝贺河南宇萃律师事务所被河南省司法厅授予“省级优秀律师事务所”称号! (2010-3-31) ·热烈祝贺中国政策网在京开通! (2010-3-9) ·热烈祝贺河南宇萃律师事务所三门峡分所揭牌成立! (2009-12-24) ·热烈祝贺张华夏主编的中央党校校刊《理论前沿》国庆专号发行! (2009-10-16)   今日天气:
您现在的位置:宇萃律师在线 > 社会万象 -> 内容  

“AI换脸”诈骗 要依“法”打败“魔法”!

  发布日期:2023-5-28  查看次数:9156  来源:央视新闻
 
 

 

    点开直播间乍一看,卖货的竟是当红女星。再定睛一看,“明星”其实是使用人工智能(AI)实时换脸技术的普通主播。他们冒充明星艺人,只为增加卖点,助力卖货……

  近期,“AI换脸”的应用范围越来越广,但存在滥用之嫌,甚至有人利用AI换脸实施犯罪,例如伪造不雅视频、换脸诈骗等。前不久,就有一男子因AI“偷脸”,10分钟被骗430万元。

  如此以假乱真,让人防不胜防。“AI换脸”的法律边界在哪?普通人又该如何防范?

  01

  公司老板遭遇AI换脸诈骗

  10分钟被骗取430万元

  近日,内蒙古包头警方发布一起利用AI实施电信诈骗的典型案例。

  来自福建的郭先生是一家科技公司的法人代表。今年4月,他的好友突然通过微信视频联系他,称自己的朋友在外地竞标,需要430万元保证金,想借用郭先生公司的账户走账。

  基于对好友的信任,加上已经视频聊天“核实”了身份,郭先生在10分钟内,先后分两笔把430万元转到了对方的银行账户上。

  事后,郭先生拨打好友电话才得知被骗,原来骗子通过AI换脸和拟声技术,佯装好友对其实施诈骗。“当时是给我打了视频的,我在视频中也确认了面孔和声音,所以才放松了戒备。”郭先生事后说。

  02

  AI换脸冒充明星带货

  律师:或涉嫌侵权

  除了佯装“熟人脸”实施诈骗,AI换脸还可能出现在直播带货中。最近,网上出现了一些“换脸直播”教程,教程发布者声称实时变脸软件可以帮助用户轻松“变脸”,极大地助力引流卖货。

  在一个展示换脸直播效果的视频中,使用者把名为“成龙”的模型载入相关软件后,摄像头前的人在直播画面中就有了与成龙相似的五官,但脸型和发型还保持原样。

  记者发现,使用者歪头或变换表情时,五官动效切换得自然顺滑,只有手掌从脸前划过时,出现了比较明显的破绽。

  北京岳成律师事务所高级合伙人岳屾山表示,换脸直播用于公开传播可能涉嫌侵犯相关明星艺人的肖像权。如果涉及直播带货等商业行为,会成为加重情节。

  岳屾山解释,只要未经肖像权人同意,在直播中通过技术手段把自己的脸换成了明星的脸,就是对明星肖像的侵权。根据不同情况,承担的后果可能不同。即便只是娱乐,不涉及盈利行为,也属于侵权。如果把明星肖像用于带货直播,属于是商业行为,在赔偿数额上一定会给予考虑。如果主观恶性、过错程度比较大,且因此获利,赔偿数额可能会更高。

  记者注意到,一些使用换脸技术的直播并不会直接提到相关明星艺人的名字,但也不会主动声明或者否认。岳屾山认为,该行为涉嫌欺诈或是虚假宣传,让公众误以为就是明星在带货。如果货品本身质量不好,或者主播在带货过程中说的话或行为导致公众对被换脸的明星产生负面评价,明星可以主张名誉权的侵权责任。

  03

  AI技术存在滥用风险

  务必保持防范意识

  为规范人工智能发展,去年12月,《互联网信息服务深度合成管理规定》正式发布,明确了合成数据和技术管理规范。其中提到:深度合成服务提供者对使用其服务生成或编辑的信息内容,应当添加不影响使用的标识。提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的,应当进行显著标识,避免公众混淆或者误认。

  近期,也有平台和企业发布了“关于人工智能生成内容的平台规范暨行业倡议”,明确禁止利用生成式人工智能技术创作、发布侵权内容,包括但不限于肖像权、知识产权等,一经发现,平台将严格处罚。

  对于个人而言,除了在形形色色的“明星脸”中保持清醒,避免陷入虚假宣传,更重要的是面对花样翻新的AI诈骗,必须保持防范意识。

  保护信息,提高警惕。不要轻易透露自己的身份证、银行卡、验证码等信息,不要轻易提供人脸、指纹等个人生物信息给他人,不过度公开或分享动图、视频等;

  多重验证,确认身份。如果有人自称“熟人”“领导”等通过社交软件、短信以各种理由诱导汇款,或涉及网络转账交易行为时,务必通过电话、见面等多途径核验对方身份,不要未经核实随意转账汇款;

  如不慎被骗或遇可疑情形,请注意保护证据,并立即拨打96110报警。

  04

  整治AI换脸

  要用法打败“魔法”

  “短短10分钟,被骗430万元”“换脸冒充当红女星带货,赚得盆满钵溢”……这种“换脸”术和拟声术,让人防不胜防。如此种种,无不说明换脸术的滥用,已经对公共利益构成威胁。

  整治AI换脸,当用“法”打败“魔法”。

  这个法,是方法、办法的法。有人说,防骗最有效的一招就是不信,无论对方怎么“换”、怎么变、怎么翻着花样骗,就是“不听不信不转账”。最关键的是,优化“打法”,升级高招,用更有效的方法“破防”。“魔高一尺,道高一丈”,面对骗子的新招数,我们的反诈术、防骗方法更要优化,总结出富有成效的好方法,并做好宣传普及,构筑反诈防骗的全民阵线。

  这个法,也是法规、法律的法。此前,一款主打AI换脸的App很火,“只需一张照片,演遍天下好戏”。但很快,在监管部门约谈后,这款App下架,原因很简单,如此换脸侵犯了公民的肖像权。去年12月,《互联网信息服务深度合成管理规定》发布,对人脸生成、替换、操控,合成人声、仿声等都有明确约束。显然,随着制度设计更精准,相关立法更健全,AI换脸空间将越来越逼仄。

  AI换脸术滥用,也促使大家思考一个深层次问题。新技术不断面世,带给了人们便利,但可能被居心叵测之徒非法利用。人们固然不能因噎废食,但也不能忽略它的双刃剑效应。如果缺乏应有规束,AI换脸则可能打开潘多拉魔盒。因势利导,使其趋利避害,这是我们要全力做到的。

责任编辑:为民

加入收藏
 
返回首页
 
版权与免责声明:
1.凡本网注明来源为"宇萃律师在线”的所有作品,包括文字与图片,未经本网授权不得转载。违反上述声明者,本网将依法追究法律责任。
2. 凡注明"来源:xxx(非本站)"的作品,均转载自其它媒体,本网转载的目的在于传播更多信息,此类稿件并不代表本网观点,本网不承担此类稿件侵权行为的直接责任及连带责任。
3. 如因作品内容、版权等需要同本网联系的,请在作品在本网发表之日起30日内联系,否则视为放弃相关权利。
热门·图文 更多
   
不认女儿不抚养 广州中院判宋祖
副主任陈永革
被诬杀人坐牢3年男子林超忠 获
劳动合同法会使员工变成懒汉和刁
点击·排行 更多
1. 不认女儿不抚养 广州中院判宋祖德赔1
2. 小心涉外仲裁协议的陷阱
3. 卢氏古今谈
4. 认真学习贯彻习近平总书记重要指示精神
5. 人生“情趣”
6. 律师执业年度考核制度问题答记者
7. 农村土地承包经营纠纷仲裁规则
8. 司法部出台意见进一步加强律师职业道德
9. 《物权法》司法解释(一)
10. 《河南省律师协会律师服务收费行业指导
最新·发布 更多
1. 员工为泄愤删除公司重要数据,公司能否
2. 代理境外网络赌博App被判刑
3. 拿到工程款却长期不给工人发工资,起诉
4. 支持起诉保护消费者合法权益
5. 限制死刑
6. 唐太宗错杀催生“五复奏”
7. 未成年子女名下的房产 离婚时如何确权
8. “好意同乘”出事故 赔偿责任谁来承担
9. 轮滑培训中撞伤他人 经营者是否担责
10. 百万粉丝自媒体账户 离婚财产如何分割
投票调查  

Copyright © 2009 yclszx.com All Rights Reserved
主办:河南宇萃律师事务所 电话:0398-7875000 7880008 E-mail:yclszx@tom.com
网站备案序号:豫ICP备09016398号