AI诈骗花样多：眼见不一定为实！人工智能的安全阀在哪里

　　随着CHATGPT的横空出世，AI话题频频受到关注。近日，AI再度成为网友们热议的焦点，但却与诈骗相关。

　　在新技术的加持下，AI骗术不仅“效率”奇高，骗起人来也是真假难辨，一时间，#福建老板10分钟被AI换脸骗走430万#、#AI诈骗成功率接近100%#等话题接连登上热搜。

　　制图 卿子秀

　　诈骗分子用上了AI换脸技术

　　近日，包头市公安局警务在线平台“平安包头”的消息显示，随着人工智能的迅猛发展，诈骗团伙的诈骗手段也越来越科技化，竟然用上了AI换脸技术。

　　日前包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件，警银联动成功紧急止付涉嫌电信诈骗资金330多万元。

　　该案中，福州市某科技公司法人代表郭先生突然收到好友的微信视频，称想要借用其公司的账户“走一下账”，而在他先后分两笔把430万元打到对方账户后，却发现电话联系的好友并不知道此事，随后意识到是遇上了“高端骗局”，对方通过智能AI换脸技术，佯装成好友对他实施诈骗。

　　在在投资者互动平台上表示，公司已经发布了AI-3300“慧眼”视频图像鉴真工作站，可以对生成式人工智能产生内容进行检测识别和鉴定；奇安信也表示，目前已深入布局生成式人工智能模型安全的各个方面。

　　东方证券认为，后续人工智能的监管可能侧重以下重点：规范信息收集，保护个人信息与知识产权、确保相关应用内容的合法合规、健全人工智能等技术所涉及的伦理规范。兴业证券表示，随着AI监管政策的落地，数据安全、隐私保护等安全需求将进一步上升，有望打开行业成长新空间。