新华社广州6月8日电题:“AI诈骗潮”真的要来了?
新华社“新华视点”记者
【资料图】
通过AI换脸和拟声技术,10分钟骗430万元;AI虚拟人在聊天中筛选出受害者,人工接力实施诈骗……近期,多起宣称利用AI技术实施诈骗的案件引发关注。
“新华视点”记者近日与公安部门核实确认,“AI诈骗全国爆发”的消息不实,目前此类诈骗发案占比很低。但公安机关已注意到此犯罪新手法,将加大力度会同有关部门开展技术反制和宣传防范。
专家表示,随着AI技术加速迭代,由于使用边界不清晰,涉诈风险正在积聚,需要高度警惕。
“换脸”式诈骗引发焦虑:你会被亲友的脸骗到吗?
近日,内蒙古包头警方通报一起利用AI实施诈骗的案件,福州市某公司法人代表郭先生10分钟内被骗430万元。据通报,骗子通过AI换脸和拟声技术,佯装熟人实施诈骗。
该案披露后,不少报道称需警惕“AI诈骗潮”到来,并曝光多起类似案件。如江苏常州的小刘被骗子冒充其同学发语音、打视频电话,小刘看到“真人”后信以为真,“借”了6000元给骗子。
那么,“AI诈骗潮”是否真的到来了?
记者调查了解到,AI在技术上确实能做到换脸、拟音,但被用来进行“广撒网”式诈骗需要具备很多条件。
一位被列入公安部专家库的民警告诉记者,这类诈骗如果得手必须做到:收集到被换脸对象的个人身份信息、大量人脸图片、语音素材,通过AI生成以假乱真的音视频;窃取被换脸对象的微信号;充分掌握诈骗对象个人身份信息,熟悉其与被换脸对象的社会关系,综合作案成本很高。
他认为:“相关报道对一些案件的典型细节描述不够准确。AI涉诈案件仍属零星发案状态。”他说,成熟的类型化诈骗犯罪往往具有在全国多地集中爆发的特点,但当前没有成规模的AI诈骗类案件发生。
公安机关研判,近期网上“AI换脸换声诈骗在全国爆发”传言不实,全国此类案件发生不到10起,但该动向值得高度关注。网上一键换脸功能的App、小程序有技术滥用风险,需要加强技术防范反制等工作。
AI进入快速迭代期,涉诈犯罪风险正在积聚
“当前AI技术发展来到螺旋式上升的拐点,未来几年技术迭代将会按月计算。”香港科技大学(广州)协理副校长、人工智能学域主任熊辉说。
工信部信息显示,伴随AI技术快速发展,合成技术门槛持续降低,逐渐向低算力、小样本学习方向演进,利用手机终端即可完成,对算力和数据的要求下降明显。同时,随着AI大模型的技术加持,正逐步由面部合成向全身、3D合成发展,效果更加逼真。
国家开发投资集团特级专家、厦门美亚柏科AI研发中心总经理赵建强表示,AI技术正加速向网络诈骗、虚假信息、色情等领域渗透。如在一些网络平台上假冒明星、公众人物生成视频图像,吸引网民。此外,AI技术也可能被用来规模化地实施违法犯罪,如批量、自动维护网络账号,发送虚假信息,模拟人工在线聊天等。
值得关注的是,当前AI技术不再是实验室的半成品,引发热议的“换脸”“拟音”技术已有较成熟的开源软件,使用门槛低。
记者注意到,网络上不乏AI换脸教程。在国内某知名App上输入“换脸”,弹出的高频检索记录显示有“换脸软件”“换脸App免费”“换脸视频怎么做”“换脸算法”等。一条名为“史上最强AI换脸软件正式上线了!技术门槛大大降低”的链接,介绍了一款换脸软件,通过视频演示教程,手把手教授如何使用。
“老话说‘眼见为实’,但今后眼睛看到的也不一定是真实的。”北京市天元律师事务所合伙人杨虎城表示,未来涉及AI合成技术的诈骗、敲诈勒索等违法犯罪和肖像、名誉等民事侵权问题可能逐步显现。
“从现有案例看,这些技术已被不法分子利用。如假冒明星换脸直播、一键脱衣、造谣、制作色情视频等。虽然AI诈骗案件未成气候,但这一趋势值得关注,必须提早防范。”一位反诈民警说。
工信部相关负责人表示,随着AI技术的不断发展,通过少量图片、音频信息合成特定视频,利用人工智能模型批量设计诈骗脚本等成为可能,客观上降低了电信网络诈骗的实施难度,AI类新型犯罪爆发可能性进一步提升。
尽快完善相关法规制度,为AI技术发展立规划线
中国移动信息安全中心品质管理处副处长周晶告诉记者,近年来,国际国内各界在积极探索深度合成技术的有效治理路径,研判AI技术给社会带来的风险和潜在威胁,正设法将AI技术发展纳入一定规则中,做到安全可控。
业内人士建议,要加强AI反制技术研究,“以AI制AI”。一些科技公司正加强对图像、声音伪造技术的反制研究,在公安、金融的视频认证场景已有应用。有一线民警建议,要加强AI安全技术应用研发,将AI技术应用于犯罪识别、预警、对抗中,实现以“白”AI对抗“黑”AI。
其次,加强源头治理和行业引导,及时更新、完善相关法律、标准、规则,为AI技术发展保驾护航。
“数据是AI犯罪的源头,保护好公民的个人隐私数据安全,就能在最大程度上降低AI违法犯罪的能力。”熊辉说。
中国互联网协会监管支撑部主任郝智超建议,AI技术发展还要有相关法律法规来划红线、踩刹车。需进一步加强对个人隐私数据泄露问题的关注,明确信息监管红线,对AI技术的研发、传播、使用做到有规可循,并根据技术发展实际情况,及时完善对技术服务商行为的规范引导。
此外,还要有针对性地加强反诈宣传。熊辉表示,未来AI可根据大数据创造出无比接近真实的“真实”。“要通过不断的教育改变大众观念,让人知道眼见不一定为实,有图不一定有真相,提升对网络信息的辨识力。”他说。
公安部有关负责人表示,当前,诈骗集团利用区块链、虚拟货币、远程操控、共享屏幕等新技术新业态,不断更新升级犯罪工具,与公安机关在通讯网络和转账洗钱等方面的攻防对抗不断加剧升级。公安机关会同相关部门与诈骗分子斗智斗勇,不断研究调整打击防范措施,确保始终保持主动权。
工信部表示,下一步,将强化监管执法,积极会同网信、公安等部门,督促企业健全完善深度合成信息管理及技术保障措施;鼓励技术攻关,凝聚产学研用各方力量,提升深度合成风险技术防范能力;加强行业自律,建立健全深度合成技术相关行业标准、行业准则和自律管理制度,督促指导深度合成服务提供者和技术支持者制定完善业务规范、依法开展业务和接受社会监督。(记者毛鑫、王成、熊丰、高亢)
标签:
上一篇 : 环球视点!延边州工业经济运行持续向好
下一篇 : 最后一页
最新推荐
新华社广州6月8日电题:“AI诈骗潮”真的要来了?新华社“新华视点”记
今年以来,延边州统筹推进“双链长”制,组织开展中小企业服务活动,落
1、病情分析:孕妇不能刮,刮的主要部位一般在腰部或肩部。2、如果是在
小孩子也喜欢过夜。小孩子的睡衣派对与大孩子的不同。年龄较大的儿童和
近日,圆满完成全部飞行任务的神舟十五号航天员乘组平安抵京。本次任务
【本文来自《南昌一考生迟到37分钟还能进考场?当地回应:考前突发暴雨
到了2023年,对中国BYDSEAL(海豹)彻底分解,解读中国的“技术力量”
6月8日北向资金减持560 54万股歌尔股份。近5个交易日中,获北向资金减
第二次是在2022年4月,央行进一步指导利率自律机制建立存款利率市场化
1、进入下载专区则可。2、寻找对应所需菜单及下载文件。3、点击可以下
三秦都市报-三秦网讯(张枭雄记者黄艳)2023年全高考已拉开序幕,莘莘
宜宾购房补贴政策又有新动向!,购房,宜宾市,补贴政策,住房公积金
一阵鸟鸣,几声犬吠,夹杂着公鸡打鸣……6月8日,北京市门头沟区清水镇
事主受到惊吓,便遵照对方指引操作,最终银行卡内存款被转走,共计损失
来为大家解答以上问题。朋友圈下评论lzcb,朋友圈评论lz是什么意思这个
直播吧6月8日讯据《罗马体育报》报道,马尔蒂尼此前曾希望请皮尔洛取代
本届文博会中,上海展区重点聚焦“科技化、数字化、互动性”。
热热热连续几天的高温天气一些小伙伴已经开始期盼下雨了别急降雨在路上
两个太阳穴疼痛的原因如下:1 原发性头痛:如偏头痛、紧张性头痛等,都
投资要点股权激励核心人才,彰显长期发展信心区别于2022年限制性股票激
据路透社消息,空客周三表示,该公司在5月份交付了63架飞机,比去年同
科伦博泰港股IPO:估值百亿尚无药品上市,默沙东为第二大股东,制药,港
上海两男子往车窗塞露骨小卡片被刑事拘留,警方:他们与诈骗分子勾结--
日渐萎缩的中高级车市场需要寻找新的突破口和增长点,设计美学、舒适科
江西省省直事业单位2023年统一公开招聘工作人员笔试成绩查询操作说明:
中青报·中青网见习记者王志远近日,在帝豪家族销量突破365万辆之际,
祝各位学子金榜题名你看起来像我战友欢迎报考云南警官学院审核:董宪责
近期,多家航空公司增加国际及地区航线,国内民航市场继续加快复苏进程
武汉轨道交通赵家条配套综合项目幕墙施工过半---6月8日,鸟瞰武汉轨道
扬子晚报网6月8日讯(记者郭一鹏通讯员洪滔)为了给广大考生营造宁静的
BleepingComputer网站消息,微软同意支付2000万美元罚款并改变儿童数据
公告表示,该局在赫尔松地区,包括位于第聂伯河下游的20个居民点采集了
你数过在兰州的河面上,有多少座桥吗?老人们常说:“我走过的桥啊,比
是工业龙头,也是绿色工厂:探寻深圳蓝色疆土如何崛起绿色油田“看,海
社区列清单,居民、共建单位抢签约---湖北日报讯(记者汤炜玮、通讯员
1、林心如、霍建华的婚礼有两场。2、巴厘岛:霍建华伴郎:连俊杰;林心
海源复材:股东关于减持江西海源复合材料科技股份有限公司股份比例超过1
6月8日消息,苹果VisionPro对于佩戴光学眼镜的用户做了专门考虑,苹果
大象新闻记者朱久阳通讯员王慧剪辑夏雨点击【我要捐助】为ta捐助“妈妈
十年寒窗磨一剑,今朝出鞘试锋芒,一年一度高考季如约而至。近年来,每
摩托车的整流器是起整流与电压调节作用的,摩百托车的磁电机发出的电是
1、百姓钢琴论坛,2012新做的,和其它的不太一样。2、至于说网站盈利而
是潜水爱好者,也是海洋生态环境守护者,王淼是人们眼中的“斜杠青年”
查看交易中心全球研究部门今日的市场观点。从受欢迎的交易产品中探索新
1、固定费率合同是成本加酬金合同的一种,工程费率合同是指按照完成工
炎热的5月,仅0 6平方米的斗臂车内,国网长沙电力公司不停电作业班班长
“受疫情影响,羊肉馆这两年都没有经营,去年年底转行其他营收,怕影响
苹果本周发布了首款MR头显设备VisionPro,虽然售价和上市时间抹杀了部
2022年5月18日,中国酒业三大评论员蔡学飞 欧阳千里 肖竹青应邀出席茅
成都抗疫的外籍志愿者:愿为城市“康复”贡献力量
港交所:未来内地投资者或可经“港股通”买卖人民币柜台证券-世界球精选
专访:中国为推动和平与共同繁荣发挥重要作用——访墨西哥参议长阿门塔
世界最新:一个两位数十位上的数字比个位上的数字大6有哪些_一个两位数,十位上的数字比个位上的数字大6
环球快资讯:晋级四强!中国小花法网纵横驰骋,第六场胜利有惊无险
今日热门!洽洽食品:控股股东拟继续增持公司股份 增持金额3000万元-5000万元
世界速读:特一药业:公司持有富马酸酮替芬片、马来酸氯苯那敏片、鼻舒适片、千柏鼻炎片的药品批件,目前暂未生产
看点:老人把钱存银行定期安全吗?内行人:安全,但要注意四个问题
热门:电脑开机后显示英文怎么解决_电脑开不开机一直显示英文怎么办
美议员借军舰事件称要“坚决反对中国的欺凌”,外交部驳斥!|天天新消息
3天假期后要连上6天班!端午假期首日火车票明日开售_环球热头条
孚能科技(688567.SH)股东深圳安晏减持期满未减持|环球热资讯
藏不住了!浙江这座海滨小城登上央视,居然有这么多宝藏小吃_当前看点
只要不是故意泄露国家秘密就无关紧要_无关紧要的意思 天天热点
上海市消保委呼吁制定细化外卖包装收费规则 把选择权交给消费者
梯形的面积等于平行四边形面积的什么_梯形的面积等于平行四边形的一半对吗
硬核科技论 | 高通8295:算力暴涨8倍可带11块屏/真不是“马甲” 天天速看料
天津市气象台发布雷雨大风蓝色预警/IV级/一般【2023-06-07】
兴华消费精选6个月持有期混合增聘崔涛 冷文鹏离任-环球热资讯
渤海化学:全资子公司渤海石化拟投建丙烯酸酯和高吸水性树脂新材料项目 环球热文
今头条!亚联发展:目前公司未参与《深圳市加快推动人工智能高质量发展高水平应用行动方案(2023—2024年)》的相关建设
Copyright © 2015-2022 现在律师网版权所有 备案号:粤ICP备18023326号-5 联系邮箱:855 729 8@qq.com