您的位置:首页>公告 >

多措并举防范和打击AI诈骗

2023-05-24 20:41:14    来源:中工网


(资料图)

原标题:多措并举防范和打击AI诈骗

近日,内蒙古包头警方公布一起使用AI技术进行电信诈骗的案件,骗子通过智能AI换脸和拟声技术,通过微信佯装好友对当事人郭先生实施了诈骗,使其在10分钟内被骗430万元。消息一出,“AI诈骗正在爆发”相关话题冲上了微博热搜。

微信账号是好友的,通过视频确认,样貌、声音也是“好友”的,就算这样还是被骗,难免让人觉得防不胜防。的确,类似案例发生过不少:骗子利用AI换脸技术伪装成陈先生好友,视频聊天骗取其信任后实施诈骗;骗子冒充李先生的领导打来微信视频电话,称亲戚参加竞标需要资金,自己不便出面,想借李先生的名义转给亲戚,李先生因此被骗4.8万元,等等。以前,许多人相信“眼见为实”,通过视频电话就能确认是不是本人,现在看来,不仅“耳听为虚”,眼见也不一定为实,AI以假乱真的水平令人不寒而栗。

针对AI诈骗新骗局,郴州、伊犁、锦州、滨州等地网警都曾明确提示过“被骗几率高达100%”。一方面意在纠正“眼见为实”的认知,通过宣传诈骗新套路,提升人们的防范意识,正所谓“受骗无关乎智商,在于你是否‘知道’”;另一方面说明,AI技术被滥用的风险不可忽视。“AI诈骗正在爆发”词条背后,透着一种较为普遍的担忧:如何防范骗子利用AI伪装熟人?技术是把双刃剑。对AI换脸、换声背后的深度合成技术,既不能因噎废食,也不能放任自流。伴随着新技术发展,AI反诈工具也在不断迭代。今年1月10日施行的《互联网信息服务深度合成管理规定》给深度合成服务划定“底线”“红线”,也是旨在降低这项技术伴生的社会风险。

单在AI治理上下功夫还不够。一般而言,电信诈骗有四个关键环节:精准信息获取、诈骗脚本设计、通讯联络诱导、资金支付转移,盗号、AI换脸伪装熟人视频聊天、转账收款,一环扣一环。正如中国信息通信研究院发布的《电信网络诈骗治理与人工智能应用白皮书》所指出,个人信息泄露是精准诈骗的根源,郭先生被骗一案中,“好友”的账号被盗用,面部、声音等生物特征信息泄露,都加剧了识别骗局的难度。故而,预防和打击AI诈骗,尤其要注意深化个人信息保护。与此同时,还要不断提升技术防范能力、加强警示宣传教育,多措并举预防和打击AI诈骗,防范AI滥用风险。(维辰)

关键词:

相关阅读