近日，包头警方发布一起利用人工智能（AI）实施电信诈骗的典型案例，福州市某科技公司法人代表郭先生10分钟内被骗430万元。4月20日中午，骗子可能通过技术手段盗用了郭先生好友的微信，假冒郭先生的好友通过微信视频联系他，想要借郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天核实了身份，郭先生没有核实钱款是否到账，就分两笔把430万转到了好友朋友的银行卡上。郭先生拨打好友电话，才知道被骗。和最近的几起诈骗案相似，骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。
防范AI诈骗守护网络安全，需要网民提高警惕。近几年电信诈骗案件层出不穷，全国上下也开展了大量的反诈骗宣传教育，普通的诈骗手段已经能被大多数市民识别，AI技术的出现却使得诈骗手段也迈入智能化。常规的防诈骗手段其中一点是涉及金钱的都要与本人核对确认，诈骗分子利用AI技术躲过了这一过程，他们通过骚扰电话录音等来提取某人声音，获取素材后进行声音合成，从而可以用伪造的声音骗过对方；或者用AI技术换脸，在利用视频通话进行信息确认时伪装成好友本人，骗取信任。这样的操作使得诈骗分子很难被识别，防诈骗的难度进一步加大。不少网友表示，眼见不一定为实，你对面可能是AI变脸的诈骗犯，以后涉及钱财的信息一定要当面核实。
防范AI诈骗守护网络安全，需要保护个人信息。AI等人工智能技术因为需要经过大模型训练、调用用户数据，由此产生的安全问题不容忽视。从被高校禁止的 AI学术造假到防不胜防的新型AI诈骗套路，AI乱象无一不和个人信息泄露有着不可分割的联系。在互联网迅速发展的今天，使用任何一个APP或者小程序都要获取用户的个人信息，而这些用户信息会被高价出售给不法分子，这是电信诈骗高发的重要原因。有关部门应加强对各平台和技术公司的监管，对贩卖用户信息的行为严厉处罚，从根源上铲除电信诈骗的根基。除此以外，在数据采集、传输、存储、处理、共享、销毁等数据生命周期各阶段，通过加密、数据水印等技术手段保护用户数据特别是隐私成为当务之急。广大网友也要注意不要过度在网络上发布个人的照片或动态视频，不给骗子可趁之机。
防范AI诈骗守护网络安全，需要监管和引导。今年4月11日，国家网信办就起草了《生成式人工智能服务管理办法(征求意见稿)》，对人工智能服务产品和使用提出了多项明确规定，其中包括不利用生成内容损害他人形象、名誉以及其他合法权益，尊重知识产权等规定。但AI可使用场景复杂多样，技术也在不断更迭，立法部门应该针对AI技术的发展更新完善相关法律，用法律引导技术的使用。AI厂商要树立正确的发展观，要明白违反人类伦理的技术终将会被人类所抛弃。安全部门和宣传部门要加大宣传教育力度，利用百姓喜闻乐见的方式宣传最新的诈骗手段和防骗知识，引导网民保护个人信息，提高百姓的防骗意识和能力。
（作者 秦燕）
