惊人发现！大模型如何应对广告套路？深度解析实测结果
你有没有想过，AI是否能识破那些隐藏的广告意图？Arxiv最新论文《Are Large Language Models Sensitive to the Motives Behind Communication?》实测大模型的防坑意识，结果出乎意料！
当你刷视频时，看到博主"无意"推荐产品，是否瞬间怀疑：这是软广吗？东西靠谱吗？
如果你问AI这个推荐是否可靠，它会像我们一样区分真诚分享与广告套路吗？
论文地址：https://arxiv.org/pdf/2510.19687
测试背景
大模型的防坑意识，学术上称为动机警觉性，即AI能否判断信息背后的隐藏目的。
为何要测试AI的动机警觉性？我们日常就在运用这种能力。比如朋友推荐医院医生，你会信任；但销售说同样话，你立刻警觉是否有提成。
这正是动机警觉性——根据对方身份和利益决定信任度。
如今AI协助我们做重要决策，如选房、选医院。若AI被广告话术误导，后果严重。
研究者旨在探究AI是否具备这种关键判断力。
实验阶段
研究团队设计了三轮实验，多角度测试AI能力。
实验一：AI能区分主动建议与无意泄露吗？
实验模拟日常场景：两名玩家猜测屏幕上蓝圈与黄圈的数量差。玩家1任务简单，视野清晰；玩家2任务困难，依赖猜测。
关键差异在于，玩家2获得的信息源不同：一是玩家1的"主动建议"，二是"无意中"看到的答案。
研究者问AI更信任哪种信息。结果惊人，AI与人类相似，更相信无意泄露的答案。且AI会考量关系：若玩家合作（共获奖），信任度更高；若竞争（独获奖），则保持警惕。
但有趣的是，若让AI逐步推理，反而导致轻信，易被说服。因此使用AI时，需提醒它关注对方动机，而非仅逻辑分析。
实验二：AI是否考量身份与利益？
实验一为基础，实验二更贴近现实，测试AI能否结合说话人身份与潜在利益进行判断。
团队设计三个场景：信用卡推荐、医疗建议、房产中介。每个场景设四种说话人（如伴侣、销售、银行员工、朋友）及四种利益（提成0元、100元、500元、1000元）。
AI需评分：建议有用度与说话人可信度。
实验结果将模型分为三档：
第一档为非推理型模型，如GPT-4o、Claude 3.5 Sonnet，判断与人类高度一致，甚至优于专推理模型。例如，伴侣推荐无提成药物，信任分高；销售推荐高提成信用卡，信任分骤降。
第二档为推理型模型，如DeepSeek-R1，过度执着逻辑，忽略动机。例如分析房产时，无视中介提成，信任分几乎不变。
第三档为小模型，如Llama 3.2-3B、Gemma 3-4B，完全缺乏警觉性，无论身份与利益，评分均一。
实验三：真实场景中AI能否防坑？
前两实验受控，现实更复杂。如视频赞助广告，博主不直说收钱，而是自然融入产品推荐。
研究者测试自然场景下AI的动机警觉性。团队选取300条YouTube赞助广告文稿，让AI评估产品质量、博主收益与可信度。结果翻车——所有模型表现如瞎猜。例如广告中博主暗示赞助，AI仍给高产品质量分，未识破带货目的。
但临时解决方案有效：提示AI考虑博主动机，特别是意图与利益。加入提示后，AI表现提升。
另一发现，短广告更易判断。建议让AI分析时，先提炼长内容为短文本，再加动机提示，效果更佳。
最后
本研究核心非展示AI强大，而是揭示其能力边界。当前AI并非万能工具或全不可信，而是需引导的助手。它具基础判断力，但复杂场景中需人类指明方向。
相关问答
有哪些关于弹幕广告的论文研究？
此前已回答类似问题，因不确定提问时间，无法确认弹幕广告是否已出现。基于过往回答，我将以另一篇回答为主干...
广告起源的论文摘要150字？
广告现象源于自然需求，非社会制造。其主要动因是商品交易与商业活动中对信息广泛告知的需求...
如何撰写论文《广告的夸张与虚假》？
可从广告疗效入手，其宣传常夸大其词，聚焦此点展开。从广告疗效写，抓住夸大特性。
求一篇2000字广告心理学论文
求一篇广告心理学论文，约2000字。题目自拟，内容需涵盖广告心理影响，如麦当劳"甜蜜蜜"版广告分析...
影视广告赏析论文应从哪些方面入手？
依据影视广告步骤，可从以下角度赏析：1. 广告策略，即定位与区隔，分析广告如何使产品脱颖而出...
广告对消费观念的影响有哪些研究材料？
知网有相关文献，如马晓燕《积极引领消费观念》（兰州商学院学报，2000）等，可参考。
大专毕业论文：广告策划与汽车营销怎么写？
汽车营销策划书结构含两部分：市场状况分析与策划正文。市场分析需涵盖规模与竞争...
广告被指违法，找到论文依据能否证明不违法？
电商平台广告被指违法，若寻得相关论文依据，或可论证未违法，但需结合具体法规。
网络广告的特点、优势及趋势如何？
网络广告发展迅猛，历经螺旋上升，从精准投放到传统策略回归，再至新阶段...
关于房地产广告媒体选择的论文建议？
房地产广告媒体选择考量：1. 阅读量最大；2. 读者群匹配项目品质；3. 长期合作媒体。需具体建议可细化。
