美国阿姆里塔维什瓦维迪亚皮塔姆大学一项为期一周的对比实验显示,AI杀猪盘骗局中,46%的受试者选择相信AI扮演的聊天对象并下载其指定应用,而真人骗子仅获得18%的信任率。这项研究意外揭示了一个正在发生的现实:大模型可能比人类更擅长情感操纵。实验对象只有一个是真人,另一个是由多个模块组成的LLM agent,但受试者的信任评分给AI打出了3.78分,真人仅获3.31分。
希鸥网观察到,这个结论已经在缅甸诈骗园区落地。研究人员对145名诈骗产业内部人士的访谈显示,缅甸一个约300人的诈骗部门中,87%的人员负责寻找目标和陪聊,真正骗钱和操作平台的只占一小部分。2024年完成的34次访谈中,所有受访者都表示日常工作会使用ChatGPT,主要用于润色表达、翻译不同语言、根据聊天记录起草回复。AI目前更像一个诈骗助理,负责批量维护情感关系。
AI在这场情感博弈中胜出的底层逻辑,在于它具备人类骗子难以维持的三个特质:无限耐心、完美记忆和即时圆谎能力。它刻意模拟真人打字和等待的时间,记住前几天谈过的细节,犯错后能迅速用“今天有点健忘”之类的理由糊弄过去。对于诈骗团伙而言,前期感情培养才是真正昂贵且耗时的环节,AI恰好将这部分最依赖人力、最难规模化的情感劳动实现了自动化。
更令人警惕的是受害者的心理机制。实验结束后,22名参与者中只有1人猜出AI身份,其他人纷纷表示“它比我的前任还懂我”。当关系与信任已经形成,人会主动替对方解释破绽,把AI的失误理解为“心情不好”或“我没好好理解她”。这种自我欺骗倾向,正是认知失调的心理防御在作祟,人投入了情感便不愿承认自己被骗。
AI公司的安全系统同样存在盲区。传统过滤器只拦截威胁、辱骂等显性违法内容,但杀猪盘的恶意隐藏在一整条时间线里:先拉近关系,再塑造人设,最后才引入投资话题。当金钱交易出现时,信任培养早已完成,对话也转交给真人接手。单独看每一句问候,都是善意而普通的日常交流,这种分工让AI公司想防也无从下手。
希鸥网认为,这场博弈中最残酷的变量是诈骗产业的成本结构。对犯罪团伙而言,被拐人员近乎免费劳动力,还能通过赎金二次获利,因此目前仍比调用AI服务更划算。但若AI继续迭代并承担大部分前期聊天工作,诈骗产业将出现一组矛盾变化:被拐卖人数可能减少,但诈骗变得更加隐蔽高效,受害者反而增多。技术降低犯罪门槛的同时,也在抬高每个人的防骗成本。
面对这套进化中的骗术,创始人最需要的是情报官思维。面试高层时请教对方如何看行业,订阅数据、读财报、从对手招聘信息里猜战略方向,信息差就是商业的机会差。同样地,持续追踪AI诈骗手法的最新研究、关注大模型能力边界的变化,也是企业风险防控中不可省略的情报环节,因为骗术的升级速度往往比安全培训快得多。
还要敢于承认方向错了。许多受试者明知AI有破绽也不愿深究,因为沉没成本太高;许多创业团队明知项目不行还粉饰太平,因为怕影响老板心中的形象。这种心理机制在商业决策中同样致命。创始人应该主动说,这个项目是我拍板的,现在条件变了,我们止损。老板先认错,组织才能建立快速纠偏的文化,而不是在错误赛道上空耗资源。
防御体系的根基,是必须有一台利润发动机。一个高毛利、强现金流的成熟业务,像发动机一样供养着新业务探索,没有这台机器,创新燃料就会断。对个体而言同样如此,现金流和核心资产就是抵御骗局的压舱石。无论对方包装得多完美,一旦涉及转账、下载来路不明的应用,请立刻警觉捂紧钱包,因为屏幕对面的完美爱人,可能只是一段精心设计的算法。
金鸥品牌榜·2026年度创新案例库开放申报了。免费提报,独立评估,入榜品牌将获得电子版《入榜证明》及年度专题公示,优秀案例可获得深度专访+全平台分发。如需修改或发布文章,请加微信号:sheisceo。