在铺天盖地的“AGI（通用人工智能）即将来临”、“AI将取代人类”的宣传狂潮中，任何一个真正每天深度使用大模型的人，一定都经历过某种“被其智商深深震撼”的时刻。
那种震撼不是因为它的强大，而是因为它的“蠢”——一种超越了人类想象力的、荒谬绝伦的、极其反直觉的“机械式蠢笨”。
一、 一个字的魔幻漂移：“献血400”与“吃苹果与坐牢500年”
我们来还原一下这种让人发疯的场景：
当你问大模型：“献血400ml后感觉有点头晕怎么办？”
大模型表现得像一个体贴入微的医生，温声细语地告诉你：“这是正常现象，请注意休息，补充水分，多吃富含铁质的食物……”
但只要你稍微调整一下表述，甚至只是出于口语习惯换了一个词，问它：“抽血400ml后感觉头晕……” 或者是 “被人抽了400ml血……”
奇迹发生了。大模型的反应瞬间脱轨，它可能突然触发最严厉的“安全机制”，或者陷入某种极度的神经质风暴：
- 反应A（过度道德审判与恐慌）： “请注意！大量失血可能危及生命！如果你正处于人身危险、非法器官采买或自残行为中，请立即拨打报警电话并寻求心理援助……”
- 反应B（逻辑雪崩与胡言乱语）： 开始为你讲解某种极端的刑罚、甚至把“抽血”同某种科幻小说里的“人体实验”联系起来，洋洋洒洒输出三千字关于“人体血液总量塌陷”的荒谬警告。
这种反差到了什么程度？
这就好比你在路边跟一个人说：“我刚才吃了一个苹果。”
那个人微笑着对你说：“真不错，补充维生素C。”
下一秒，你稍微改了一句：“我刚才咬了一口苹果。”
这个人突然瞳孔放大，一把抓住你的领口，眼眶撕裂，撕心裂肺地对你尖叫：“天哪！这就好比你在没有任何光线的幽冥地狱里被关了500年！那是整整五百年啊！你受尽了苦刑！你到底是怎么熬过来的？！”
任何一个正常的人类看到这一幕，第一反应绝对不是“AI太深奥了”，而是：“这东西是不是有什么大病？”
人类的大脑有强大的物理常识与情境理解能力。人类知道，“献血400”和“抽血400”在生物学和物理层面上，对身体造成的生理影响是100%完全相同的——都是体内的400毫升液体离开了血管。
但在大模型眼里，这两个句子根本不是同一种东西。它完全不知道“血”是什么，也不知道“400ml”是多少，更不知道“人体”是什么。
二、 大模型为什么能“傻逼”得如此花样翻新？
要理解大模型这种令人窒息的蠢笨，就必须揭开它华丽外衣下的本质：它不是在“思考”，它只是在玩一场极其复杂的“概率接龙”。
1. 高维空间里的“差之毫厘，谬以千里”
大模型处理的不是“概念”，而是“Token（词元）”。
在它的概率模型里，“献血”这个词后面关联的是“爱心”、“医院”、“健康指南”、“休息”等高概率词库；
而一旦你换成了“抽血”甚至“被抽血”，在它的训练语料中，这个词可能频繁出现在“案件报道”、“医疗事故”、“暴力小说”、“吸血鬼”或者某些敏感新闻里。
对人类来说，这是一个概念的两种表述；对大模型来说，这直接把它的计算轨迹从“温馨诊所”抛到了“阿卡姆疯人院”。
2. 只有“符号”，没有“实体”（缺乏物理世界锚定）
人类三岁小孩都知道，把一盒牛奶倒进碗里，牛奶还在碗里。
但大模型不知道。因为大模型从未接触过真实世界，它没有触觉、没有视觉、没有对重力和生物学的体验。
它不知道400ml大概是一瓶矿泉水的量，失血400ml对健康成年人来说死不了人。当它看到“抽血400”时，它只是触发了某种统计学上的盲区——如果训练数据里有“抽血过多死亡”的文章，它就会立刻把400ml和“死亡、犯罪、极刑”绑定在一起。
3. “对齐（Alignment）”带来的神经质与创伤后应激障碍（PTSD）
为了防止AI输出暴力、色情或危险内容，工程师们用人工反馈强化学习（RLHF）给它戴上了无数层“金箍棒”。
这就导致现在的很多大模型像一个患有严重迫害妄想症的合规官。
你提到“献血”，安全机制认为是正能量，放行；
你提到“抽血/血淋淋”，安全机制的神经瞬间绷紧：“警报！出现了‘血’和‘抽’！是不是自残？是不是非法器官买卖？快输出预设的心理危机干预预案！”
这种机械式的反应，造就了大模型特有的“蠢”——一种满嘴大道理，却连基本人话都听不懂的蠢。
三、 还有哪些让人哭笑不好的“大模型傻逼时刻”？
“换一个字反应天差地别”只是冰山一角，大模型的傻逼行为早已形成了一个庞大的“智障行为艺术展”：
- 计数盲区（Strawberry问题）： 你问它“Strawberry这个单词里有几个字母r？”它会坚定不移地告诉你：“有2个。”（因为在它的Token切分里，它根本看不到单个字符）。
- 颠倒魔咒（Reversal Curse）： 你问它“汤姆·克鲁斯的母亲是谁？”它能准确回答；你反过来问“Mary Lee Pfeiffer的儿子是谁？”它直接懵逼，告诉你不知道。
- 逻辑比大小失灵： 问它“9.11和9.8哪个大？”它会言之凿凿地告诉你好几个版本的错误答案，因为在它的语料库里，9.11常常作为一个软件版本号或者日期出现。
- 过度说教与道德绑架： 当你试图让它在小说里描写一个反派偷了一支铅笔，它可能会义正辞严地拒绝你：“对不起，偷窃是违法行为，我不能为你提供关于盗窃的写作建议，建议你做一个遵纪守法的公民。”
四、 别被“文字流利”骗了
大模型最具有欺骗性的地方在于：它拥有极高的人类语言表达能力，却只有低于流浪肥猪的常识理解能力。而流浪肥猪根本就不存在!?😱
当它回答对复杂的高考物理题时，你以为它是个天才；但当它因为你把“献血”改成了“抽血”，就吓得像个在监狱里关了500年突然看见苹果的疯子一样嚎叫时，你才终于看清了它的底层本质——
它不过是一个吞噬了人类所有文本的、极其庞大却又无比机械的“复读机”。
在真正的“通用人工智能”到来之前，我们大概率还要忍受很长一段时间这种“时而像神明，时而像智障”的奇葩产物。下一次当你被它的某种傻逼反应气得吐血时，不妨深呼吸一口气，毕竟——你不能要求一个连“苹果”是什么味道都没尝过的数据模型，懂什么是人类的常识。
Top comments (0)