AI诈骗正在全国爆发事件网络舆情监测分析报告
最近,一则新闻“10分钟被AI骗走430万”比较火热,让很多网友开始堪忧自己的钱袋子了,科学技术的发达,诈骗技术也在不断地提升颠覆大家对现实的认知,道高一尺魔高一丈,魔跟道永远都在不断地提升跟对抗,AI诈骗是人工智能的产物,只有一定的学历的人才可以玩转这么高级的诈骗手段,今天小编就来用小编家的舆情监测软件对这个事件做个简单的分析。
一、事件概述
“AI诈骗全国爆发”事件,自2023年05月16日00:00至2023年05月24日00:00期间,互联网上共监测到相关舆情56387条。其中微博声量最大,为25839条,其次是网媒,为8465条。该事件负面舆情占比为20.56%,正面舆情占比为2.8%。
事件首发文章于 2023年05月16日00:00发布在微信,题名为《良久团购5月16日团品汇总预告》。全网声量最高峰出现在2023年05月22日,共产生27522篇相关信息。后续报道主要来源于新浪微博、微信、懂车帝、抖音、百度百家等几大站点。
从舆情分布情况看,各类媒体报道总数量为56387,微博是主要传播平台,共25839条(占比45.82%),其次是网媒8465条(占比15.01%)、APP7843条(占比13.91%)、短视频6625条(占比11.75%)、微信5997条(占比10.64%)、论坛1425条(占比2.53%)、网络视频93条(占比0.16%)、贴吧63条(占比0.11%)、报刊28条(占比0.05%)、其他9条(占比0.02%)、电视视频0条(占比0%)。本次事件中央级媒体共有39家(占比12.42%)参与报道,省级媒体53家(占比16.88%),地方媒体199家(占比63.38%),其他媒体23家(占比7.32%)。
二、事件热搜情况
事件在媒体平台中,经过梳理,此事件共形成14个相关热搜:
上榜平台 | 当前排名 | 热搜标题 | 上榜时间 | 最后在榜时间 | 最高排名 | 最高
热搜值 |
持续时长 |
新浪微博 | 9 | AI诈骗成功率接近100% | 2023-05-22 15:28 | 2023-05-22 19:16 | 9 | 202748 | 3时47分钟 |
快手 | 9 | AI诈骗正在全国爆发你怎么看 | 2023-05-22 19:20 | 2023-05-22 19:40 | 9 | 9084000 | 20分钟 |
抖音 | 11 | AI诈骗正在爆发 | 2023-05-22 20:31 | 2023-05-22 20:50 | 11 | 9309323 | 19分钟 |
今日头条 | 2 | AI诈骗爆发 有人10分钟被骗430万 国是微评 AI科技不能成为脱缰野马 AI诈骗正在全国爆发登上… | 2023-05-23 15:15 | 2023-05-23 19:42 | 2 | 35445 | 4时27分钟 |
bilibili | 9 | 公司老板被AI诈骗430万 | 2023-05-22 14:54 | 2023-05-23 14:44 | 9 | 0 | 23时49分钟 |
今日头条 | 7 | AI诈骗爆发 有人10分钟被骗430万 | 2023-05-22 14:00 | 2023-05-23 13:51 | 7 | 4736405 | 23时51分钟 |
知乎 | 4 | AI 诈骗在全国爆发,骗子用换脸拟声技术佯装好友,受害者十分钟被骗 430 万,从技术角度看如何避免? | 2023-05-22 17:51 | 2023-05-22 21:10 | 4 | 5300000 | 3时18分钟 |
百度 | 4 | AI诈骗爆发 有人10分钟被骗430万 | 2023-05-22 13:00 | 2023-05-22 19:46 | 4 | 4699373 | 6时45分钟 |
百度贴吧 | 9 | 警惕新型AI诈骗 | 2023-05-22 15:33 | 2023-05-23 23:57 | 9 | 715000 | 1天8时23分钟 |
今日头条 | 2 | 公司老板被AI换脸诈骗430万 | 2023-05-23 22:48 | 2023-05-23 23:50 | 2 | 7256 | 1时1分钟 |
三、事件脉络
四、观点分析
- 网民观点
序号 | 观点 | 热度 |
1 | 警惕AI换脸骗局 | 61 |
2 | 大家一定要提高警惕防止诈骗 | 29 |
3 | 遇事不要慌张,转账之前一定要核实准确 | 27 |
4 | 这条防诈骗公式,请转发牢记 | 22 |
5 | AI换脸新骗局,你能识破吗 | 20 |
6 | 嘿嘿,介个必须支持 | 18 |
7 | 谨防甜蜜陷阱,示爱要当心 | 18 |
8 | 这个不错,必须支持一下哈 | 17 |
9 | 胡军帮助北京玖富数科集团无底线诈骗出借人,他们是黑恶汉奸诈骗抢劫团伙,是史上最无赖、最无耻、最臭不要脸的无爹、无娘、无教养的一群畜牲 | 16 |
10 | 有问题及时联系警方,谨防被骗 | 14 |
- 新闻观点
1、专家观点
序号 | 观点 | 热度 |
1 | 研究员盘和林认为:“AI技术是中性工具,掌握在正义一方手里则是正面影响,在坏人手里是有不利影响” | 79 |
2 | 奇安信安全专家裴智勇对第一财经记者表示:首先,所谓微信账号“新号”“旧号”本身更多是一种主观感觉,骗子冒充朋友小号,聊上个把月再实施诈骗,受害者也会主观上认为这是一个老号 | 58 |
3 | 易观分析金融行业高级咨询顾问苏筱芮表示:“伴随着AI技术应用的逐步成熟以及应用门槛的降低,通过AI以假乱真来实施诈骗成为了不法分子作案的新趋势” | 54 |
4 | 博通咨询首席分析师王蓬博同样认为:“科技的进步让防范电信诈骗的” | 20 |
5 | 有专家认为:“未来AI有可能替代歌手,但需要在严格的监管下才能实现” | 10 |
6 | 博通咨询首席分析师王蓬博向《北京商报》说:“我觉得科技的进步也让防范诈骗的难度在提升。发生的原因还在于信息爆炸导致的信息泄露过度。” | 7 |
7 | 来自美国斯坦福大学的AI技术专家表示:AI换脸技术已经越来越成熟,可以生成各种各样的“名脸”,甚至能够生成虚拟的3D视频,使得骗子们能够以最真实的状态向客户销售货物 | 7 |
8 | 相关专家指出:“使用AI技术模仿他人声音进行欺骗已经成为一种新的网络犯罪手段,对于防范此类行为,需要利用先进的技术手段和更加严格的网络审查进行有效监测和打击” | 6 |
9 | 专家表示:“当前社会对于AI诈骗的防范与打击还存在一定的挑战” | 3 |
10 | 专家称孙燕姿音色不受法律保护:“AI出来后第一个失业的是孙燕姿” | 3 |
2、官方观点
序号 | 观点 | 热度 |
1 | 有位陈先生到浙江温州市公安局瓯海分局仙岩派出所报案称:自己被“好友”诈骗了近5万元 | 141 |
2 | 指纹等个人生物信息包头市公安局反诈中心民警对媒体表示:智能AI诈骗是指不法分子非法获取他人照片或有偿收购他人声音等“物料”,仅仅需要少量音视频样本数据,就可以合成媲美真人的伪造音视频,模拟制作出来的动态人物不仅能做点头、摇头等动作,还可完成眨眼、张嘴、皱眉等丰富表情,效果极为逼真,用来实施精准诈骗,侵害他人人身和财产安全 | 104 |
3 | 根据警方的透露:“不法分子是利用现在先进的人工智能技术,而创作的AI换脸,随后进行的诈骗” | 47 |
4 | 最高人民法院刑三庭副庭长李睿懿此前曾经表示:“电信网络诈骗犯罪发案在一些大中城市刑事案件中的占比甚至达到50%;仅2020年全国电信网络诈骗案件涉及财产损失即达353.7亿元” | 47 |
5 | 包头市公安局反诈中心民警告诉记者:智能AI诈骗是指不法分子非法获取他人照片或有偿收购他人声音等“物料”,仅仅需要少量音视频样本数据,就可以合成媲美真人的伪造音视频,模拟制作出来的动态人物不仅能做点头、摇头等动作,还可完成眨眼、张嘴、皱眉等丰富表情,效果极为逼真,用来实施精准诈骗,侵害他人人身和财产安全 | 33 |
6 | 银行须警惕金融科技带来的挑战最高人民法院刑三庭副庭长李睿懿此前曾经表示:“电信网络诈骗犯罪发案在一些大中城市刑事案件中的占比甚至达到50%;仅2020年全国电信网络诈骗案件涉及财产损失即达353.7亿元” | 26 |
7 | 警方表示:“犯罪分子通过这一套流程进行诈骗的成功率基本是 100%,或许你认为自己不会被骗,但你又能确保你的好友、父母、爷爷奶奶不会被骗吗” | 21 |
8 | 支付宝官方辟谣称:“此类活动均为诈骗,请勿信” | 16 |
9 | 浙江温州的陈先生到派出所报案称:自己被“好友”诈骗了近5万元 | 9 |
10 | 警方表示:“他们正与技术专家密切合作,以了解犯罪分子使用的AI技术细节,并开展相关的追踪和取证工作” | 9 |
3、人物观点
序号 | 观点 | 热度 |
1 | 吴佳告诉:“知道电信诈骗招数很多,但万万没想到视频验证的方式也可能行不通了。后来我提醒了一下家中的长辈,如果遇到同样的情况很容易被骗,于是再度跟他们强调不要随意通过网络渠道交易资金。” | 53 |
2 | 吴佳告诉:“综合吴佳反馈的信息来看,她遇到的正是近日受到广泛关注的AI诈骗” | 28 |
3 | 李礼辉认为:“AI合成与信任面临挑战” | 20 |
4 | 方保侨表示:“骗徒利用偷录了某人的声音,经AI解读及分析后,可从声音样本模拟发声,模仿声调作为犯罪的工具,读出骗徒行骗的内容” | 16 |
5 | 加快建设全国统一大市场十大券商一周策略发布钟南山:“6月底或是今年第二波高峰;能覆盖XBB变异株的疫苗很快面世……TOP 大新闻1、重磅政策利好AI大模型和芯片近一周,北京连续发布多个支持鼓励通用人工智能发展的政策文件,利好AI大模型和芯片” | 13 |
6 | 李雷熠介绍说:“目前已知的AI诈骗手段大概分为两种,一是AI换脸,二是声音合成” | 11 |
7 | 本周新闻点速览马化腾:AI 是互联网百年不遇的机遇张勇发全员信:阿里云将分拆上市传大疆将接收 OPPO 哲库工程师,重点考虑 ISP 设计人才小米玄戒大会是“解散大会” | 8 |
8 | 以周鸿祎为代表的互联网大佬表示:“坚决反对,可是事实却告诉我们人类可能真的没有准备好迎接AI时代的到来” | 7 |
9 | 北京云嘉律师事务所律师赵占领表示:“AI换脸主要涉及肖像权等问题” | 6 |
10 | 吴佳告诉:“知道电信诈骗招数很多,但万万没想到视频验证的方式也可能行不通了” | 5 |
五、风险隐患
(一)AI诈骗易加剧社会恐慌,扰乱社会秩序
在包头警方发布的该起利用AI实施电信诈骗的典型案例中,受害人转账之前,为了确认安全还专门视频聊天核实身份,而在AI换脸技术的辅助下,眼见、耳听都不一定为实,大大增强了迷惑性,让人防不胜防。这一案例中较为普遍的运用场景,以及常见的确认核验流程,与普通网民日常生活较为贴合,因而引发较多担忧,再加上媒体报道中“AI诈骗成功率接近100%”“10分钟被骗430万”等表述,也进一步渲染了紧张恐慌氛围。另一方面,相关报道也可能为其他诈骗团伙提供思路,进行模仿犯罪,对诈骗手法进行升级,进一步扰乱社会秩序。
(二)次生事件频发,易向政府部门蔓延
当前电信诈骗已经形成了庞大复杂的黑色地下产业链,牵扯到众多的利益主体,当其利用AI技术组织新型诈骗,将形成极为有害的社会破坏力量。而案件侦破存在的时间差、群众被骗财产追缴难度大,这种屡禁不止的违法行为背后隐藏的深层社会问题,在极大程度上妨碍着整个社会新道德模式的塑造。在这些诈骗案件中,由于中老年人对电子科技、时事热点等了解相对较少,辨别真假能力低下,且容易轻信他人,容易成为高科技诈骗的目标人群。这类人群本身可能身体状况不佳,在上当受骗情绪刺激下,容易诱发突发性疾病,其死亡、重疾信息易产生次生舆情,扩大社会关注,引发大众对政府监管、诈骗犯罪治理、法律法规等深层次问题的质疑,使舆情向政府部门延伸。
(三)被不法分子利用形式多样,将引发较多的社会风险
除上述事件外,近期“AI换脸用杨幂等明星卖货”等新闻也引发肖像权争议,虎扑网民发帖询问“我爸(某211的教授)最近被AI换脸敲诈勒索了,该怎么办”,还有人用AI换脸来制作明星甚至普通人的不雅视频、随意制作AI歌手并随意“点歌”等,这些事件也反映出人工智能在实际应用过程中,除诈骗之外还存在其他形式的违法犯罪行为,其背后是一条条依托人工智能的地下黑产业链。这些不法行为必将会增加网络空间舆情治理压力,引发财产风险,以及肖像权、知识产权等领域的纷争。
六、总结
随着人工智能技术的运用场景越来越广泛,其被不法分子运用于诈骗的概率也大大增加,面对层出不穷的AI诈骗犯罪,4月11日,国家网信办发布《生成式人工智能服务管理办法(征求意见稿)》,对生成式人工智能产业给出较为详尽的规定,对用户安全保护已经迈出第一步。除了法律层面的约束外,相关部门也应利用和建设可靠的反诈技术体系,“以技术反制技术”,要求平台提高对AI技术使用的监测和提醒,加强对未成年人、老年人等特殊群体的防骗宣传,从源头降低人工智能骗局发生的概率。同时,公安机关应进一步会同司法、行业监管、金融等有关部门联动协作,加强对利用人工智能实施犯罪行为的综合治理,尤其是注意从人工智能涉诈黑灰产业链入手,重点打击批量提供个人信息等行为,警惕以AI为噱头的新型骗局,对人工智能类技术的研发、应用和监管进行规范和管理,保障人工智能类技术和应用的可持续发展。