“AI换脸”真假难辨,如何防范新型诈骗?
随着人工智能技术的AI换脸进步,一些不法分子开始利用AI技术融合他人面孔和声音,真假制造非常逼真的难辨合成图像来实施新型网络诈骗,这类骗局常常会在短时间内给被害人造成较大损失。何防那么,范新我们应该如何识别和防范新型诈骗? 有人偷了你的型诈脸!当AI诈骗遇上虚拟数字人“天妤”。AI换脸视频来源:最高人民检察院公号 警惕“AI换脸”新型诈骗 记者调查发现,真假最近多地出现的难辨AI换脸诈骗案件,均具备定制性、何防迷惑性等特征。范新 其中,型诈香港警方近期披露一起涉案金额高达2亿港元的AI换脸多人AI换脸诈骗案尤为典型。据媒体报道,真假某公司职员受邀参加公司“多人视频会议”时,难辨先后将2亿港元分别转账到5个本地银行账户内。据警方调查,这场视频会议中除了受害者外,其余均为AI换脸后的诈骗人员。 不少业内专家表示,随着文生视频大模型Sora等多模态人工智能的探索和出现,人们可能陷入“眼见也不一定为实”的困局。“一直以来,银行等部门将实时视频用做检验身份的手段之一,如今其可靠性将面临巨大挑战。”中国行政法学研究会常务理事、华东政法大学教授沈福俊说,“随着人工智能技术的迭代升级,这类违法行为还可能演变出更多形态。” 沈福俊坦言,对此类AI换脸和AI拟声的恶性诈骗案件,若只依靠传统监管手段已不能防堵,监管部门在提升自我科技能力储备的同时,有必要引入新兴技术,探索用AI技术监管AI的可能。 Sora可根据文本内容生成逼真视频。图片来源:Sora/OpenAI “AI换脸”的技术原理是什么 中国网络空间安全协会人工智能安全治理专委会专家薛智慧介绍,“AI换脸”过程主要包括人脸识别追踪、面部特征提取、人脸变换融合、背景环境渲染、图像与音频合成等几个关键步骤。 首先通过视频的采集,追踪定位图片里人的面部;第二步,做一个面部特征点的采集和提取,主要包括嘴、鼻子跟眼睛的特征;第三步就是把这张原始的照片,做一个变换跟融合。 其背后最核心的包括为三个部分,首先,利用深度学习算法精准地识别视频中的人脸图像,并提取出如眼睛、鼻子、嘴巴等关键面部特征。其次,将这些特征与目标人脸图像进行匹配、替换、融合。最后,通过背景环境渲染并添加合成后的声音,生成逼真度较高的虚假“换脸”视频。 如何识别和防范新型诈骗 遇到这种类型的诈骗,普通人该怎么识别和防范呢?四川网警的网络安全专家张警官在线支招:一提高反诈意识;二是涉及资金往来应多途径核对,在视频过程中可以要求对方做掐脸、捏鼻子等特定的动作,观察视频有没有穿模或异常变形,以此来识别是否为AI伪造的视频;三是通过电话、微信等多渠道多方式确认;四是在转账时,可以将到账时间设定为2小时到账或者24小时到账,以预留处理时间。 掐脸、捏鼻子这一招引起了大家的热议。“超级头脑”创始人张泽伟说:“随着技术的发展,它的这些漏洞都会被修复掉。对AI的训练日趋成熟后,可能掐脸、捏鼻子AI也会做了,建议变成捏成“猪鼻子”等一些AI不易做到的动作。或者制定一些只有属于家人才知道的暗号,这是最保险的。” 张警官尤其谈到,要注意个人信息和隐私数据的保护。AI换脸或者声音合成技术,前提是要搜集受害人的声音和图片视频资料。日常生活中要保护好个人隐私安全,使用正规软件,防止自己的聊天信息、身份信息泄露,同时我们要尽可能减少社交媒体上自己的照片和声音曝光。张警官还向大家再次推荐:一定要下载国家反诈中心app,那里面有非常多的案例供大家借鉴。
- 最近发表
- 随机阅读
-
- “链”式集聚“新三样”_
- 再创新高!青岛小麦连续两年亩产超过800公斤
- 汉阴县财政局:真金白银助力“五上”企业健康发展
- 青软实训联手邻客创业服务 创新产教融合升级人才培养
- T1/馬龍推胡凱翔撞觀眾席 聯盟開罰1萬元
- 螞蟻人天堂!黑糖珍珠披薩回歸升級 「巧克力滋心」200元有找
- 面对“办学缺钱”:中国大学如何补上“募款”课—新闻—科学网
- 父亲看完儿子朋友圈跨省报警 民警火速赶到救回自杀小伙
- 汉阴县融媒体中心志愿服务队获评全县“最佳志愿服务组织”!
- 2013骞翠腑鍥借溅甯傚钩鍧囨瘡澶╄繎1.5涓囪締姹借溅琚彫鍥瀇涓浗灞变笢缃慱闈掑矝
- 春暖花开拥抱自然 徒步如何选择运动装备?
- NASA的老式月球火箭弹已正式返回地球轨道
- 最後2天上班日! 柯文哲:天下無不散的宴席
- 教育行业的发展一直都保持着稳定 教师的需求量一直都稳步增长
- 双星联合天猫车站打造轿车胎新零售第一品牌
- 南海I号表层清淤完毕 大量宋瓷真容初现
- 你抽中汎德了嗎?全民瘋新股,興櫃股價暴起暴跌背後|天下雜誌
- 暑假游淡季价 多条线路7~8月出发价与6月持平
- 青岛五四广场小喜鹊斗老鹰风筝 以为入侵领地
- 民间借贷“借壳”房屋买卖合同 如此“双保险”算盘 法院不支持
- 搜索
-
- 友情链接
-