“您好,这里是XX保险公司,耽误您一分钟……”6月6日11点,太原市民刘建国的手机铃声响起。电话那头声音温柔、语速平稳,可他刚回复一句“不需要”,对方却像没听见似的,继续往下说。“又是AI机器人。”刘建国挂断电话,这已经是今天的第二通。
更让人不安的是,这些AI外呼骚扰电话已不再是简单的“复读机”,它们不仅能模拟真人对话,甚至能根据对方情绪及回答调整话术。现下,AI外呼已成为骚扰电话黑色产业链的核心工具,从机械录音到智能对话,从广泛撒网到精准画像,一套系统日拨电话可轻松实现多达上万次通话。近日,国家反诈中心App上线AI内容鉴伪功能,当AI技术被滥用,骚扰电话从“人工拨号”升级为“机器规模化轰炸”,我们的电话号码是如何被自动“投喂”给机器人的?反诈防线又能否跟上技术迭代的速度?6月上旬,记者对此展开采访。
细思极恐
AI外呼戴上“情感面具”
“我现在一听到手机铃声下意识就想挂断,各种推销不胜其烦,而且你根本不知道对面是人还是机器。”省城退休工人刘建国向记者翻开通话记录,近一周来电中,超过60%是“16”或“17”开头的虚拟运营商“小号”,归属地遍布广东、湖南、浙江等地。“我就买过一回车险,之后卖保险的、卖房子的、卖保健品的,全来了!我的电话号码怎么流到那些推销公司手中的,我自己都不知道。”
这并非个例。6月7日,记者在走访中发现,“听声辨人”正在AI如假包换的伪装下逐渐失效。“您好,请您先别急着挂电话,耽误您一分钟时间。”太原市民赵永礼告诉记者,上周他接到一通电话,语气温和亲切、彬彬有礼,可他总觉得哪里不对劲:“对方说话太流畅了,流畅得不像真人。”他故意停顿了几秒,对方却依然在“笑”,笑声清脆,没有任何等待时的迟疑。“你是机器人吧?”面对赵永礼的质疑,对方沉默了一瞬,随即回答:“当然不是,您对这个课程有意向吗?”时隔一周,赵永礼仍然心有余悸:“AI竟然会笑了,还会顺着你的话往下说,这谁顶得住?”
AI外呼的“进化”速度令人咋舌。记者在某电商平台以“AI人工智能打电话”为关键词检索,发现大量相关商品在售。记者随即咨询了一位卖家,他表示,买家可根据具体的话务量选择不同的机器人套餐。以1台机器人为例,1000通左右的日通话量每季度需花费约400元。他详解道,目前,AI外呼电话主要分为三种模式:第一种为纯线路,这种模式接通率较低,拨打范围可遍布全国;第二种为自备电信号码,这种模式多服务于本地,接通率可达70%90%,买家需提供电信号码,并且支付每月10元的“加白费”;第三种为插卡设备,买家需额外购买外呼设备和电销卡,“这种模式虽然前期投入大,但长远来看综合性价比最高。”据他介绍,买家可依据行业定制话术,系统通过关键词触发机制模拟真人对话——你打断它,它“听不见”;你拒绝它,它按流程继续。当记者询问号码来源时,这位卖家直言,他们手中掌握的“号码池”可充分满足用户任意模式需求。
以技制技
AI鉴伪竖起“技术盾牌”
面对AI伪造内容的泛滥,近期,国家反诈中心App“AI内容鉴定”功能正式上线,引发广泛关注。6月10日,记者体验发现,该功能支持用户上传图片、视频、音频或文本,点击“一键识别”系统自动分析真伪概率,同时可以查看鉴别报告,了解提示风险等级,每天最多可检测10次。记者将一段网上下载的AI语音上传至反诈App,系统确实识别为“合成音频”。
“如今,拒接电话已成为全民习惯,年轻人的拒接、漏接现象尤为突出。很多人干脆屏蔽所有陌生来电,可这样一来,快递、外卖、甚至医院的紧急通知也可能被误伤。”省社科院副研究员薛平坦言,这种“挤出效应”正在让通信网络承受意想不到的压力,AI鉴伪功能的问世或将有效缓解年轻人的“电话恐惧”。
太原理工大学计算机科学与技术学院(大数据学院)副院长李东喜介绍,系统通过小模型与大模型结合的方式进行检测。小模型负责学习AIGC生成内容的模式特征,大模型则关注内容本身的物理逻辑与语义合理性,例如文字是否存在乱码、图像光影是否符合物理规律、场景逻辑是否自洽等。最终,两者交叉验证,给出鉴定结论。他表示,“对于目前AIGC技术生成的内容,鉴伪还是比较有效的。深度伪造技术正在多个领域被不法分子利用,国家反诈中心App推出AI鉴伪功能,标志着反诈从‘被动拦截’跃入‘主动识别’,是技术对抗技术的重要一步。”
“这一功能的背后是AI诈骗从‘偶发’走向‘频发’的严峻现实。”6月8日,工业和信息化部信息通信经济专家委员会委员刘兴亮在接受采访时表示,一方面,它提高了普通用户的识别能力,相当于为用户配置了一个“数字验钞机”,降低被骗风险。另一方面,提升违法成本。以前诈骗分子利用AI批量拨打电话,成本低、效率高。如果用户能够快速识别和举报,诈骗模型、诈骗号码更容易被追踪,黑灰产业链的生存空间会被进一步压缩。“它释放了一个重要信号:AI不能成为违法犯罪的工具,既鼓励创新,也要守住安全底线。”
多方合力
织密通话安全“数字防线”
技术对抗只是起点,治理AI骚扰与诈骗,更需要多部门协同,从源头切断链条。
“骚扰电话之所以屡禁不绝,根本原因在于AI的技术门槛越来越低,过去需要专业团队才能完成的语音克隆、数字人,现在几分钟就能生成,作案成本大幅下降,且溯源难度较高。”刘兴亮指出,一个AI诈骗电话背后的产业链条复杂,如虚拟运营商“小号”的实名认证漏洞、个人信息泄露的源头治理缺位、AI外呼系统的销售监管薄弱,治理难度较大。“治理速度和技术发展存在时间差,AI模型更新非常快,而法律法规、监管机制和公众认知往往需要一个逐步完善的过程,很多灰色地带需要尽快填补。”
“公众也要提高数字安全意识,谨慎对待各类信息采集要求。”刘兴亮特别提醒,凡是涉及转账汇款、验证码、账户密码等敏感信息,一定要多核实、慢操作。要建立通信管理、公安、平台等多方协同机制,深化行刑衔接,实施联合惩戒:通信管理部门要强化源头治理,完善AI外呼实名管理制度,对批量外呼、高风险号码进行动态监测,对异常通信行为及时预警和限制;AI服务商和技术平台要承担主体责任,对于语音合成、数字人、智能外呼等功能,要建立身份认证、用途审核、水印标识和风险监测机制;公安机关要加强打击力度,推动跨区域、跨平台协作,斩断数据泄露、批量外呼的黑手。“未来,我们也要让AI留下自己的‘身份证’,使其可验证、可追溯、可识别。”
山西移动信息安全部防范电信网络诈骗管理室主管张鑫龙表示,山西移动将落实好“断卡行动”、“打猫行动”等专项治理,深化警企协同、行业联动,强化技术防控与源头治理,用AI技术精准识别涉诈风险,坚决切断诈骗信息传播渠道,为加快打造安全可信、智慧便捷的数字山西提供坚实保障,切实守护好三晋父老的“钱袋子”。
“AI技术的双刃剑效应,正在考验社会治理的智慧。当骚扰电话学会了‘思考’,反诈防线也必须学会‘进化’。”薛平认为,这场技术攻防战没有终点,但每一次算法的升级、每一条法规的完善、每一通被成功拦截的诈骗电话,都是向着更安全数字生活的迈进。技术永远在迭代,但警惕心是永不掉线的“防火墙”。(本报记者 郭慧)