AI诈骗花样多：眼见不一定为实！人工智能的安全阀在哪里

随着CHATGPT的横空出世，AI话题频频受到关注。近日，AI再度成为网友们热议的焦点，但却与诈骗相关。　　在新技术的加持下，AI骗术不仅“效率”奇高，骗起人来也是真假难辨，一时间，#福建老板10分钟被AI换脸骗走430万#、#AI诈骗成功率接近100%#等话题接连登上热搜。　　　　制图 卿子秀　　诈骗分子用上了AI换脸技术　　近日，包头市公安局警务在线平台“平安包头”的消息显示，随着人工智能的迅猛发展，诈骗团伙的诈骗手段也越来越科技化，竟然用上了AI换脸技术。　　日前包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件，警银联动成功紧急止付涉嫌电信诈骗资金330多万元。　　该案中，福州市某科技公司法人代表郭先生突然收到好友的微信视频，称想要借用其公司的账户“走一下账”，而在他先后分两笔把430万元打到对方账户后，却发现电话联系的好友并不知道此事，随后意识到是遇上了“高端骗局”，对方通过智能AI换脸技术，佯装成好友对他实施诈骗。　　在银行全力协助下，该诈骗账户内的336.84万元被骗资金被成功拦截，随后，福州警方根据剩余款项93.16万元资金流出信息继续寻找破案线索，目前福建警方与包头警方正在全力追缴该笔资金。　　很快消息迅速引发关注，网友们也对此热议纷纷，诸如“直接由自己微信好友发视频确认都不能信了？”、“冒充家人朋友说被绑架要赎金，得多少人被骗啊？”、“技术是双刃剑，追求发展的同时守好安全底线，需要防范技术滥用”等言论层出不穷。　　公众要从这些方面做好防范　　上述消息发酵期间，公安部治安管理局官微“中国警方在线”发文提示称“警惕AI换脸骗局”，并表示“AI诈骗正在全国爆发”。　　有分析指出，AI诈骗中常用到的两种技术是声音合成和AI换脸。声音合成是指利用计算机技术将文本或其他形式的信息转换为语音输出。声音合成可以分为两个步骤：文本分析和语音合成。文本分析是指将文本转换为语音合成所需的参数，如语调、节奏、重音等。语音合成是指根据参数生成语音信号。　　举例来说，“AI换脸”只需要提供一张照片，就可以把自己置换成视频、电视剧中的男女主角，而且拟真度非常高。据常德网警巡查介绍，AI新骗局来袭后，诈骗成功率竟接近100%。　　此外，诈骗份子利用AI进行诈骗的环节还包括筛选阶段，即通过AI技术筛选受骗人群。例如，当进行金融诈骗时，经常搜集投资信息的小伙伴就会成为他们潜在的目标。　　警方提示，针对花样翻新的智能AI诈骗，公众要提高防范意识，不轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等；网络转账前要通过电话等多种沟通渠道核验对方身份，一旦发现风险，及时报警求助。如果有“熟人”、“领导”通过社交软件、短信以各种理由诱导你汇款，务必通过电话、见面等途径核实确认，不要未经核实随意转账汇款，不要轻易透露自己的身份证、银行卡、验证码等信息。如不慎被骗或遇可疑情形，请注意证据保全并立即拨打96110报警。　　数据安全、隐私保护需求上升　　值得注意的是，在人工智能的监管方面，国内目前正在逐渐加大力度。今年4月，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》，对数据合规性、生成内容合法性提出进一步要求。　　国外对于AI安全的监管也在发力。近日，欧洲议会以压倒性多数票通过《人工智能法案》提案的谈判授权草案，向立法严格监管人工智能技术的应用迈出关键一步。今年4月，美国联邦贸易委员会（FTC）表示，ChatGPT等最新的人工智能工具可能导致诈骗行为激增，该机构将追究滥用人工智能技术来进行欺诈的公司。　　不少上市公司与机构也对人工智能领域的安全、监管等十分关注。　　数据显示，目前部分A股上市公司纷纷布局AI相关技术安全领域。美亚柏科(行情300188,诊股)在投资者互动平台上表示，公司已经发布了AI-3300“慧眼”视频图像鉴真工作站，可以对生成式人工智能产生内容进行检测识别和鉴定；奇安信(行情688561,诊股)也表示，目前已深入布局生成式人工智能模型安全的各个方面。　　东方证券(行情600958,诊股)认为，后续人工智能的监管可能侧重以下重点：规范信息收集，保护个人信息与知识产权、确保相关应用内容的合法合规、健全人工智能等技术所涉及的伦理规范。兴业证券(行情601377,诊股)表示，随着AI监管政策的落地，数据安全、隐私保护等安全需求将进一步上升，有望打开行业成长新空间。