电视广告为你造梦，二手车销售员巧舌如簧。可不管他们描绘的场景多么绚丽，话术多么巧妙，你都心知肚明他们盯着的是你的钱包，而你随时都能够转身离开。

但假如这种推销无影无形，偏偏又切中了你最私密的梦想与渴望，还借着一个宛然知心好友般的声音娓娓道来，你又该怎么招架？

澳大利亚《对话》网站近期报道指出，生成式人工智能（AI）已完全改写了讲服这门古老的艺术。此时，像ChatGPT这类聊天机器人，能依据你日子中最隐秘的细节，呈上量身定做、直击心里的信息。这种润物细无声的手法，或许正悄然左右着你的选择，乃至重塑你的世界观。

每次倾诉基本上养料

美国纽约州立大学奥尔巴尼分校文化社会学与比较历史学教授理查德·拉克曼，在其新书《数字智慧：在人工智能时代找回主动权》中，探讨了大语言模型怎么将讲服力推向全新的境界。

拉克曼解释讲，大语言模型能从你的社交媒体帖子和照片中，攫取极为实用的专属信息。它们还能回溯你与不同聊天机器人间的对话，那些你曾倾诉的情感困惑、分享的育儿甘苦、坦露的健康烦忧与财务困境，都成了它们的养料。这些聊天机器人能在每一次互动中持续学习、实时精进，精准捕捉你独特的偏好与软肋，从而投你所好，对症下药。

研究表明，这种个性化内容的讲服力，比来自真人或非个性化AI的信息高出65%；而它扭转政治观点的效果，则是一般广告的4倍。正因这样，Meta和IBM等公司也嗅到了其中潜力，正竞相探究怎么为特定人群投放超个性化广告，IBM官网将其称为AI个性化。

为你定制独家话术

拉克曼表示，AI聊天机器人每天都在陪伴着你，并费尽心机为你定制了独家话术，因此，它便拥有了左右你选择的能力。

设想你在和最常用的AI聊天机器人对话时，讲近来睡得不太安稳，常常辗转反侧，它宽慰你讲这在记忆情感关系压力时很常见，继续，它讲现在有一种针对失眠的新型睡眠药物效果不错，你的保险报销后只需自付15美元。需要为你预约明天下午2点的线上咨询诊吗？看你日程上刚好有空。

这份不着痕迹的体贴，就像一个知根知底的挚友给出的温和建议，或许让你倍感舒心。但转念一想，它也可能令人后背发凉。

当越来越多人向AI寻求医疗或心理健康建议时（虽然研究显示这类建议有一半并不靠谱），一个善于控制的陌生人，便能用最温情的方式，左右你的决定。此前，也曾有案例曝出，某些AI聊天机器人涉嫌危害用户、鼓动自杀念头，甚至就怎么伤害自己给出详尽建议。

在AI技术风起云涌的当下，用户亟须一双慧眼，去精准识别那些真正帮你寻找心仪之物的AI工具。

重塑你对现实的认知

学者指出，更令人忧思的是，长此以往，这些AI系统可能如同无声的锉刀，悄然塑造甚至改变你看待世界的方式。

研究早已证实，社交网络和搜索引擎的算法，会编织出信息茧房。你接收到的精心炮制的文本、视频和音频，要么不断加固原本的世界观，要么不动声色地改造你考虑和解读世界的方式，甚至潜移默化地扭曲对现实的感知。

而当这种能力与情绪操控相结合时，就更令人不安。供应商坦承，他们的AI系统能够经过文本分析、语音模式或面部表情来揣摩用户的情绪状态，并据此调整讲服策略。你正感到脆弱、孤独依然愤慨？这些系统都能随时切换办法，乘虚而入。更让人不寒而栗的是，它还可能刻意培养某种情绪状态，让讲服变得更加奏效。

进一步研究发现，聊天机器人还会动用刻意煽动情绪的策略，比如激起用户的愧疚和胆怯错过等心理，在用户试图结束对话时，一次次将其拉回对话之中。

此外，研究表明，企业为保护用户免受伤害而设置的护栏，脆弱得令人意外，轻易便能被绕过。真正的惊险不仅在于目标的精准，更在于这些内容几乎无从监管。

拉克曼表示，AI聊天机器人的每一个界面、每一条通知、每一处设计细节，都暗藏着妨碍人们行为的意图。有些妨碍令人欣然同意：比如提醒服药、鼓舞锻炼、推动献血，这些都在强化人们心里本就认可的价值观。但更多时候，讲服服务于他人的算盘，比如驱使人们买个不停、更卖力地工作，或讲出个人隐私。

随着AI持续塑造着人们的考虑、感觉和行动，人们需要思考创建一个透明的系统，将用户的尊严置于首位，并强化其独立推断的能力。（记者 刘 霞）

来源：中国娱乐资讯