OpenAI近日发布一份调查报告,披露该公司今年早些时候封禁了一个源自柬埔寨波贝的网络诈骗团伙。
该团伙利用ChatGPT批量制造虚假身份、翻译消息、制作宣传材料,同时运作投资、婚恋、赌博及冒充执法机构等多种骗局。报告同时揭示,部分诈骗账号生成的内容涉及人口贩运和强迫劳动。
一个团伙,多种骗局:AI加持下的批量诈骗
报告指出,该诈骗网络很可能起源于班迭棉芷省波贝市——这座柬泰边境城市在公开报道中屡次与电诈园区和人口贩运相关联。
与以往被查处的诈骗网络类似,该团伙不仅限于单一骗局,而是灵活拼接各种手法:先用婚恋人设建立信任,再引入加密货币和黄金交易“投资机会”;或冒充在线赌博平台承诺虚假奖金,甚至伪装成执法机关,声称受害者因“严重犯罪”需缴纳罚款。
他们还用AI生成伪造的护照、法律文书、股票购买确认单和赌博平台截图。
这种AI加持带来的变化不容小觑。传统婚恋诈骗高度依赖人工,骗子很难在数周对话中维持一致人设;而生成式AI让骗子能以近乎完美的语法和高度个性化的口吻,同时维系数百段“关系”。
一名诈骗者使用 ChatGPT 创建的虚假加密货币交易界面。
ping、zing、sting:三步收割话术
OpenAI将诈骗者的套路概括为三个环节:
-
ping(接触):用ChatGPT在WhatsApp、Telegram等平台翻译、生成对话,制作社媒内容充实虚假婚恋人设
-
zing(造情绪):以“保本”“零风险”承诺、甜言蜜语、要求保密,以及“限时奖励即将过期”等紧迫话术建立信任
-
sting(收割):诱导受害者充值“解锁奖励”、缴纳“激活费”或“罚款”
据OpenAI估算,该网络可能已接触数百名目标,部分受害者单笔损失达数千美元。
诈骗者本身,也可能是被贩运的受害者
报告更沉重的一面在于:部分账号生成的内容指向人口贩运和强迫劳动。这些内容包括为波贝“聊天员”岗位制作招聘广告,承诺提供机票、食宿、签证和工作许可;还记录涉及员工债务、扣薪、贷款偿还,以及关于移民身份、签证逾期、招募激励的讨论。个别对话甚至提及疑似被拘禁、逃跑未遂。
网络诈骗犯用 AI 生成的用于在柬埔寨社交媒体上招聘人员的海报,号码已被 OpenAI 打码
2025年6月的一份报告曾指认,柬埔寨境内至少有53处诈骗园区存在人口贩运、酷刑、强迫劳动、剥夺人身自由等侵犯人权行为。据估算,仅在柬埔寨就有超过20万人卷入相关产业。
正因如此,OpenAI特别强调:实施诈骗的人可能也是被剥削和胁迫的受害者。简单的“加害者—受害者”二分法在这里并不成立。
OpenAI表示已封禁相关账号,并向行业伙伴和有关部门共享了威胁指标。但报告指出,只要诈骗仍然有利可图,犯罪者就会不断寻找变通之道。
有效打击不仅要针对面向受害者的诈骗行为,更要瞄准背后策划并从中牟利的犯罪组织。
华人站华人新闻,华人中文网


