每日看点!网聊10分钟被骗430万，AI 换脸拟声骗术正入侵我们生活
近日，内蒙古自治区包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件，骗子通过智能AI换脸和拟声技术，佯装好友对福州市某科技公司法人代表郭先生实施了诈骗，10分钟内被骗了430万元。
AI技术改变诈骗，新骗局来袭后，诈骗成功率竟接近100%。
02 如何防范AI诈骗？
(资料图片仅供参考)
目前，AI诈骗常用手法主要包括声音合成（骗子通过骚扰电话录音等来提取某人声音，获取素材后进行声音合成再做骗局），AI换脸，转发微信语音，AI程序筛选受害人（例如实施金融诈骗时，可以筛选出经常搜索投资理财信息的人群）等。
那么，AI 诈骗这种“高科技”手法已经在社会产生了不良影响，我们该如何防范？
国内 AI 安全公司瑞莱智慧联合创始人、算法科学家萧子豪对钛媒体App表示，如果遇到这类疑似AI换脸诈骗的情况，可以在视频时有意识地引导对方做一些动作，如大幅度的摇头或张嘴；如果骗子技术手段较弱，那么有可能发现对方面部边缘或者牙齿的瑕疵，从而识别出AI换脸；如果疑似是声音伪造，可以试一下与对方用方言交流；此外还可以追问几个只有你与好友之间才知道的私密信息，来核实对方身份。
“在防止自己上当受骗的同时，还要注意保护好个人图像，尽量避免在公开平台大量晒自己的照片和视频，给不法分子提供便利。因为身伪制作的原材料是个人音频、图片、视频，这些数据越多，训练出的视频也就越逼真、越难以鉴别。”萧子豪表示。
警方则提醒，对于新型诈骗方式有以下三种防范措施：
如果有人要求你分享个人身份信息，如你的地址、出生日期或名字要小心，对突如其来的电话保持警惕，即使是来自你认识的人，因为来电显示的号码可能是伪造的，多重验证，确认身份；
不轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等，陌生链接不要点，陌生软件不要下载，陌生好友不要随便加，防止手机、电脑中病毒，微信、QQ等被盗号，保护信息，避免诱惑；
提高安全防范意识，如不慎被骗或遇可疑情形，请注意保护证据立即拨打96110报警。
事实上，随着 AI 技术加速变革同时，营造创新生态、重视防范风险，正在成为整体 AI 技术行业亟待解决的关键性问题。
据清华大学人工智能研究院等部门发布的《深度合成十大趋势报告（2022）》显示，创作者在互联网平台中发布的深度合成内容的数量高速增长，以视频为例，2021年新发布的深度合成视频的数量，较2017年已增长10倍以上。
在第七届世界智能大会上，中国科学院院士管晓宏认为，安全性如果得不到保证，AI 系统的应用将会受到极大的挑战。中国汽车技术研究中心有限公司董事长安铁成也表示，网络和数据安全的风险日益成为影响产业发展和国际安全的重要因素。
5月17日，OpenAI CEO山姆·阿尔特曼（Sam Altman）出席美国国会听证会，并在听证会上大声呼吁世界应该要设立可以规范和监管AI 的独立机构。最新消息是，5月23日，OpenAI联合创始人们再度呼吁，AI 的创新步伐太快，世界需要一个类似管理核能的国际监管机构来管理 AI 的发展。
萧子豪告诉钛媒体App，和其他通用目的技术一样，AI 也具有“双刃剑”效应，兼具建设性和破坏性，面临着“科林格里奇困境”，而大模型的安全问题应该从底层技术来研究解决，主要的应对方式包括安全评估、风险缓解等，通过 AI 安全平台RealSafe等产品帮助人类明晰真伪的边界。
萧子豪强调，随着 AI 技术的发展，其自身的安全问题会越来越重要，需要监管部门、AI厂商和公众的共同努力。从长远来看，AI 的安全问题还应从模型算法的原理上来突破。
【本文由投资界合作伙伴微信公众号：钛媒体授权发布，本平台仅提供信息存储服务。】如有任何疑问，请联系（editor@zero2ipo.com.cn）投资界处理。
标签：
相关文章
每日看点!网聊10分钟被骗430万，AI 换脸拟声骗术正入侵我们生活
近日，内蒙古自治区包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件，骗子通过智
沧州大化（600230）5月26日主力资金净卖出882.61万元 今日播报
截至2023年5月26日收盘，沧州大化(600230)报收于14 52元，下跌0 55%，换手率0 94%，成交量3 86万手，成交额5578 85万元。
索尼发布 PS5 便携式游戏机“ Project Q ”|今日热讯
钛媒体App5月26日消息，索尼集团旗下的游戏业务公司索尼互动娱乐（SonyInteractiveEntertainment，SIE）25
【天天新要闻】台式电脑耳机音质怎么调_台式电脑的耳机音量很小 无论怎么调声音大小
1、可能是声卡驱动问题。2、右键点击【我的电脑】—【管理】—【设备管理器】—【驱动吃呢供需更新】。本文
浦银国际：维持金山软件(03888)“买入”评级 目标价36港元|焦点关注
浦银国际发布研究报告称，维持金山软件(03888)“买入”评级，1Q23收入基本符合预期，将2023 24收入略微上调
当前时讯：陕西人力资源和社会保障厅的电话_陕西人力资源和社会保障厅
1、今年以前是人事厅和劳动社会保障厅两个单独的部门今年以后机构改革两个部门合并新部门叫“人力资源和社
“买房中介费，都超过我一年收入了” 专家：加强监管制定指导价减轻买房人负担 全球资讯
“中介费太高了。”近日，北京市民李明（化名）通过中介购买了一套价格大约400万元的二手房，中介费花了10
天天快报!喝酒脸白和喝酒脸红的人哪一个好点_喝酒脸红的人是怎么回事
1、酒后脸红也叫酒精性脸红反应，因为酒精在肝脏分解代谢成乙醛。2、但人体内的乙醛脱氢酶如果缺乏乙醛，就
彩虹岛小草外挂最新辅助版本 彩虹岛小草脚本论坛_世界观天下
今天来聊聊关于彩虹岛小草外挂最新辅助版本，彩虹岛小草脚本论坛的文章，现在就为大家来简单介绍下彩虹岛小
安卓操作系统真的不如iOS系统吗？听完内行人的解释，终于明白了-焦点热闻
安卓操作系统（Android）和iOS操作系统是两种非常流行的移动操作系统。虽然它们都可以在智能手机、平板电脑
光伏板块惊现万人电话会？新能源在“沉默”中爆发，重点推荐个股今日全线逆势大涨_环球今亮点
光伏板块惊现万人电话会？新能源在“沉默”中爆发，重点推荐个股今日全线逆势大涨,新能源,电话会,招商证券,
神经性厌食是一种严重的精神障碍性疾病，不是“为爱减肥”
深圳15岁“为爱减肥”的女孩离世？媒体报道，深圳那位“为爱减肥”的15岁女孩小玲（化名）因重度营养不良、
大唐荣耀第二部珍珠为什么要走_大唐荣耀第二部-全球观热点
1、《大唐荣耀》第一部马上就要播出结束了，但是很多粉丝都看的不过瘾，而且之前不是说这部剧又111集吗？后
焦点速讯：豪江智能(301320.SZ)：网上路演时间为5月29日9:00-12:00
格隆汇5月25日丨豪江智能(301320 SZ)公布首次公开发行股票并在创业板上市网上路演公告，为了便于投资者了解
【全球聚看点】三星医疗2022年度拟每股派0.35元 6月1日除权除息
三星医疗(601567 SH)发布公告，本次利润分配以方案实施前的公司总股本为基数，每股派发现金红利0 35元(含税
比亚迪回应长城汽车举报污染物排放不达标：还在核实，目前还没有进一步消息_每日热点
5月25日，长城汽车发布声明称，就比亚迪秦PLUSDM-i、宋PLUSDM-i采用常压油箱，涉嫌整车蒸发污染物排放不达
ryu劫vs faker劫（faker劫反杀ryu比赛）-全球观热点
1、韩国OGN比赛的模式，BO5打到第5局就是盲选，所谓的盲选就是看不到对方选着的英雄。2、让你们尽情的发挥
*ST日海5月25日打开涨停 环球微头条
以下是*ST日海在北京时间5月25日13:47分盘口异动快照：5月25日13点47分，*ST日海盘中打开涨停，现报7 94元
