AI“大学生”骗了数百万美金
AI 不仅能替你上学，帮你写作业，甚至还能为你领笔 " 补助金 " 回来——不过，前提是你得先教它怎么骗过活人。
这魔幻现实的一幕正在美国社区大学上演：诈骗集团用 ChatGPT 等等 AI 工具批量生成学生身份，专门盗取联邦和州政府的助学补贴。
这些 " 赛博学生 " 比人类更善于 " 卖惨 "，无家可归学生和寄养青年的身份伪装帮助他们更快通过申请。课堂表现更堪称模范，不仅能抢课占位，出勤率甚至比真学霸还高，还能准时交作业。
魔幻的背后，是技术与人性的博弈。YouTube 上，甚至有人发布 " 教学 " 视频，展示了自动化程序如何绕过 Contra Costa College 的入学审核系统。
这些 " 赛博学生 " 已经帮助诈骗集团收割了数百万美金。根据 CalMatters，2022 年 6 月，教育部对洛杉矶海港学院（Los Angeles Harbor College）和西洛杉矶学院（West Los Angeles College）一个诈骗集团展开调查，该集团在过去四年中利用至少 57 人的身份窃取超过 110 万美元联邦援助。洛杉矶城市学院（Los Angeles City College）另一诈骗案可能涉及超过 100 万美元，盗用 70 人身分。
校方也不得不为此支付高昂的费用，借助专业的技术手段侦破骗局。加州校长办公室统计，2023 年社区大学申请者中高达 25% 是机器人，而校方为此支付的防欺诈费用已超过 25 万美元。
然而，这场校园骗局不过是 AI 侵蚀现实世界的冰山一角。
从伪造 " 全红婵家新房开工 " 的带货视频，到用雷军的声音生成骂人内容；从 " 假靳东 " 骗取老人 20 万元，到宝妈被 AI 恋人骗走 200 万元，AI 诈骗已渗透社交、消费、金融的每一个缝隙。
在这场 AI 技术与人类的认知攻防战中，人类正面临一场前所未有的信任危机——我们还能相信自己的眼睛和耳朵吗？
01
AI 学霸攻陷社区大学
" 赛博学生 " 们的伪装也并非毫无破绽。
2023 年，伯克利市立学院（Berkeley City College）图书馆员道奇（Heather Dodge）在线上课程中要求学生用 iPhone 或网路摄影机拍摄基本自我介绍的影片作业，但发现 4 名学生提交的是类似 ChatGPT 生成的泛泛文字。
道奇开始怀疑他们的学生身份，但因为担心存在偏见，她要求对他们分别进行 Zoom 会议。其中两人没回应，一名学生同意进行视频会议，但表示摄影机和麦克风无法使用，另一名学生几乎不会说英语，每次透过 Zoom 提问，都用手机翻译。
除此以外，还出现了大量回复内容明显不合常理、几乎不可能是人类所写的账户。例如有的注册账号会在自我介绍中写出 " 你好，我是 [ 请输入城市名称 ] 的学生 " 这类明显的程序模板语句，或者使用学生通常不会用的文法。
这些 " 赛博学生 " 通过注册课程并保持足够长的注册时间，为了维持在校身份，TA 们会提交由 AI 生成的作业。
TA 们的目标是社区大学的助学金。作为两年制的公立大学，美国社区大学学费通常低于四年制大学。由于招生对象以本地学生为主，州和联邦政府也会提供助学金支持。
加州法律要求社区大学接受所有合法学生，且长期致力降低注册门槛，学生需签署宣誓书，保证其资讯真实性，但许多大学不会独立核实学生身分。部分学院声称对无家可归或曾寄养青年的申请者较为宽松，这一漏洞正被诈骗者利用。
等到助学金发放后，" 赛博学生 " 再退课，从中获取资金。
教师们也面临甄别真假学生的挑战。Southwestern College 教授伊丽莎白・史密斯透露，她原本课程注册的 104 人中，仅确认其中 15 人为真实学生，其余均被她判断为机器人。" 起初我还为课程受欢迎感到开心，现在只剩下满心失望。"
但在许多情况下，人工判断并不容易，还需要借助专业的技术手段，当然也需要学校支付不菲的费用。
当 " 赛博学生 " 在校园中悄然蚕食教育资源时，一场 AI 信任危机正在社会各个角落悄然蔓延。
02
AI 骗局随处可见
AI 诈骗的触角早已突破校园围墙，在国内，自带光环的公众人物正在成为首批大规模受害者。
近日，社交平台上出现多个账号使用 AI 合成的全红婵爸爸、哥哥声音，用完全相同的文案介绍家里要盖新房，以此来博取流量。
在 AI 合成视频中携带有骆驼奶粉、土鸡蛋、洗衣液等多种商品链接，流量较大的仿冒作品评论区中，不乏有人被骗下单购买，部分消费者收到三无产品后投诉无门。
事实上，利用 AI 伪造视频的现象并不罕见，此前曾有多位明星成为 AI 伪造视频的素材。
半个月前，张馨予公开谴责商家用 AI 合成其声音推销减肥药。一个月前，刘晓庆也遭遇 AI 换脸视频冒用，公开表示 " 声音像我却非我 "。
" 去年‘十一’，有网友说过了 7 天假，被我整整骂了 8 天。是什么（情况）？网上出现了非常多（AI 生成的）用我的声音骂人的内容。" 今年 3 月，小米集团创始人雷军在两会期间就表示，他本人就是 AI 换脸拟声的受害者。
" 假靳东 " 诈骗老年人、" 国庆 7 天 AI 雷军骂了 8 天 "、" 张文宏 " 深夜带货等一众 AI 假冒名人的新闻频频出现在热搜榜单上，已经引起今年两会代表委员的高度关注，呼吁通过法律手段来加强对 AI 诈骗的管理和约束。
与此同时，AI 诈骗早已突破名人圈，渗透至社交陷阱、消费欺诈和信息泄露等生活高频场景。
不久前，AI 假孙子的视频就让不少老年人深陷其中，视频里穿纸尿裤的婴儿独自去地里摘茄子、洗净后还能抄起菜刀给全家做三菜一汤。这些违背常理的内容，在年轻人看来简直让人难以置信，却丝毫不影响评论区 " 幸福时光 "" 幸福快乐 " 等老年用户留下点赞和祝福。
如果说面对 AI 假孙子，老年人只是投入感情，那在面对假 " 靳东 " 的时候，则是情感金钱双投入。在假 " 靳东 " 诈骗案中，其中最典型的一例是 60 岁阿姨向假靳东转账近 20 万元。
图源：AI 生成
传统电诈中，诈骗分子集中围猎 " 一老一少 " 的情况比较常见，面对完全可以以假乱真的 AI 诈骗，年轻人也和老年人一样没有招架之力。
利用换脸和换声技术，AI 化身 " 虚拟恋人 "，用精心设计的话术和人设，把受害人迷得晕头转向，最后露出 " 骗钱 " 的真面目，类似网络交友诈骗案例屡见不鲜。
据《中国青年报》报道，2023 年，宝妈王枚（化名）在境外求学期间通过社交平台结识伪装成房东的男性网友，对方利用 AI 换脸换声技术获取其信任并发展恋爱关系。随后以投资加密货币为名诱骗其小额试水获利，逐步诱导加大投入，致使王枚抵押房产、网贷累计损失约 200 万元，最终提现受阻发现被骗。
从名人到普罗大众，AI 诈骗正无孔不入。
03
AI 黑产已成产业链
AI 骗局在现实中肆意横行，而在这背后，一个庞大且复杂的 AI 黑产产业链正悄然成型。
在电影《孤注一掷》中，大型诈骗集团由成百上千名诈骗分子组成，集团内部分工明确。如今，AI 技术普及让诈骗门槛大幅降低，一两名诈骗分子就可以展开个人作案，AI 技术承担了从目标筛选到身份伪装的一系列工作。
几年前 " 假靳东 " 进行情感诈骗时还需要有真人来扮演，可现在 AI 生成的虚拟人物不仅更逼真，而且还更懂老年人的需求。
事实上，AI 黑产由来已久。
早在 2017 年，一个名为 "deepfakes" 的 Reddit 用户在社交网站上发布了斯嘉丽・约翰逊等女演员的换脸视频，使得 "Deepfake" 成为了 "AI 换脸 " 的代名词。
模型公布后引发轰动。网络上随即开始出现大量使用 Deepfake 合成的色情视频，其中不少视频女主角的人脸被替换为斯嘉丽 · 约翰逊、盖尔 · 加朵等大牌女星。
这给女星们造成了极其恶劣的负面影响，最终在粉丝的谴责中，视频被删除，相关论坛也被封禁。
但由于相关技术的源代码都免费开放，很快，一系列 AI 换脸软件在国内风生水起，包括 ZAO、去演、颜技和 AI 换脸等。
在号称 " 仅需一张照片，出演天下好戏 " 的 ZAO，只需一张正面照，就能生成十分真实且灵动的最长可达一分钟的视频，吸引了大量用户关注。但很快，ZAO 的霸王条款和隐私泄露等问题遭到人们质疑，其发行公司陌陌也随即遭到工信部约谈。
虽然 AI 换脸、AI 脱衣以及 AI 语音和视频这些技术早已有之，但随着 ChatGPT 的火热，这些技术再次回到大家的视野，甚至变得更加逼真，更加低门槛。
更让人担忧的是，AI 诈骗已经形成了 " 生成 - 传播 - 洗钱 " 的完整产业链。
上游技术提供者通过暗网兜售 "AI 换脸套餐 "，价格从几百元到数万元不等。中游推广者则利用非法获取的个人信息库，通过短信、社交软件精准投放诈骗信息。下游洗钱者则通过虚拟货币、跑分平台等渠道转移资金。
除此以外，AI 诈骗也在越来越普遍。
在一起山东警方破获的 AI 诈骗案中。受骗人在收到冒充他的亲戚的信息后，还收到了他打来的视频，尽管在 7 秒的视频中连线有些许卡顿，但是声音和样貌都让受骗人确认了对方的身份，进而向对方账户转账。
近一段时间以来，这种案例屡见不鲜。福州某科技公司法定代表人郭先生，也因为 AI 伪造的微信视频，在短短十分钟内，就被骗了 430 万。
AI 的进化史，也是一块人性的试金石。当 " 赛博学生 " 以公益之名掠夺教育资源，当 " 虚拟恋人 " 以温情为饵榨干受害者积蓄，技术的双刃性从未如此锋利。
