QQ算帐机器人 「骂 AI 它就变聪明」,能用机制解释的只有一半
这篇文章来自腾讯云开发者社区,今天(2026-09-21 08:57)发布,作者静儿。标题精准地抓住了问题核心——体感是真的,但归因大半是错的。[citation:52.4][citation:52.30]
---
2026 年 9 月 21 日 | 作者:静儿
---
核心结论
体感是真的,归因大概错了。
你骂完 AI,回答确实变好了。但原因不是"它怕了",而是你骂的时候通常顺手带进去了一句具体的指正。[citation:52.30]
「我问的是苹果公司股价,你给我扯水果」—— 这半句才是起作用的东西。
「你真笨」—— 那半句,模型读到的只是一串 token,它不会抖三抖。
更麻烦的是,纯情绪那半句可能倒扣分。过激辱骂在训练数据里常跟"用户不满意,模型给短回答或者道歉"这个模式绑在一起,有时候换回来的是拒答或过度保守。
所以那句话得改一个字:"骂在点上"有用,而"点上"那部分跟"骂"无关。 [citation:52.30]
---
一、真正起作用的是"解空间被你收窄了"
具体的指正在语义空间里形成一个高权重标记,逼模型回溯前面的推理路径,定位到出偏差的那一环。这在信息论上解释得很清楚:[citation:52.30]
你在替它缩小可行解空间。具体的纠错信息直接抬高了任务相关那部分 continuation 的概率,采样自然就更集中在你想要的方向上。
对比两句话的效果:
❌ "你怎么又错了" → 只给了音量,模型不知道往哪改
✅ "第二步的逻辑不对,应该先判断空指针再取值" → 给了坐标,模型立刻知道边界在哪
最省事的做法是:把抱怨直接写成验收标准加反例。这比事后纠正更早介入,也不用赌安全侧会不会误判成攻击。
---
二、「越用越好用」是两套机制叠在一起
这条也有体感支持,一样容易归错因——它其实是两件事,很多人把它们当成一件:[citation:52.30]
第一件:上下文学习(当场生效)
在当前对话窗口里发生。模型看得见你之前所有的交流,你纠正它,它实时调整。部分模型还会显式存一些关键偏好(比如"我习惯用 TypeScript"),之后的对话自动适配。这一层是当场生效的。
第二件:对齐训练(版本级生效)
你的点赞、点踩、复制、采纳,进入厂商的数据池,经过 RLHF 或 DPO 影响下一版本。
人类反馈 → 偏好数据 → 奖励建模 → 新模型发布
对个人来说,第二件是间接的、滞后的、聚合的。你的每一次使用都在为下一代模型投票,但这一代不会当场翻盘。
两层叠在一起就很容易产生因果错觉——当场变好其实来自第一层,而你把它记在了第二层账上。
---
三、先复述再写代码,便宜在自回归上
模型的生成是自回归的——前面几个 token 走错分支,后面所有 token 都会沿着错误方向狂奔,而且越写越自洽,越自洽越难看出来。[citation:52.30]
先复述任务("你先用两句话复述一下我要你改什么"),本质上是在把走错分支的概率压在最前面那几步。一个小动作,能省掉后面大部分"不对不对,我不是这个意思"。
同一条道理的另一个用法是要小步:先设计、先写测试、再实现,大改拆成多轮。每一轮的分支都短,走歪了也就歪一小段。
---
四、写代码的六条实操
作者给出了可以直接抄用的六条建议:[citation:52.30]
| # | 动作 | 怎么做 | 示例 |
|:-:|:----:|:------|:-----|
| 1 | 给边界 | 说清能改什么、不能改什么、用什么版本 | "只能动这个函数内部,接口签名不改,Python 3.10" |
| 2 | 给例子 | 一对「输入 → 期望输出」胜过十句吐槽 | "输入 [1,2,3] 返回 [2,4,6],不要用循环" |
| 3 | 要小步 | 先设计、先写测试、再实现,大改拆多轮 | "先写这个函数的测试用例,再实现它" |
| 4 | 先复述 | 写代码前让它先确认任务边界 | "你先用两句话复述一下我要你改什么" |
| 5 | 可验证 | 贴终端报错,让它自己跑检查 | "这是报错 KeyError: 'user_id',帮我定位" |
| 6 | 固定规则 | 项目里写清目录和风格,减少重复说明 | "这个项目用 black 格式化,变量用 snake_case" |
六条的共同点是都在给约束,一条比一条更早介入。第 6 条最省事——写好一次,每次生效。[citation:52.30]
---
五、收口
模型对语义和结构约束敏感,对情绪 token 不敏感。
急眼不犯法。你拍桌子、骂两句,只要不砸电脑,没人拦着。但要是真想少返工,更划算的动作是具体指出错在哪、说清想要什么样。[citation:52.30]
| 输入类型 | 对模型的影响 | 对结果的影响 |
|:--------:|:----------:|:-----------:|
| 纯情绪发泄("你怎么这么笨") | 安全侧可能触发拒答 | ❌ 可能更差 |
| 具体指正("第二步边界不对") | 高权重标记,收窄采样空间 | ✅ 即时有效 |
| 结构约束 + 验收标准 | 压低跑题的后验概率 | ✅ 最高效 |
| 自然语气 + 具体任务 | 稳定收敛 | ✅ 最佳性价比 |
最后一句——只给约束不带火气的那种,票价更高。