当我们依赖大语言模型（LLM）提供信息、辅助决策时，是否想过这些AI系统的判断可能被“身份标签”左右？美国印第安纳大学伯明顿分校的一项新研究，揭开了当前主流LLMs一个值得警惕的内在倾向：它们会本能地偏向标注为“人类专家”的信息来源，即便这些人类给出的答案是错误的，而来自其他AI的正确答案却被忽视。这一发现暴露了LLMs中存在的“人类权威偏见”，也让我们不得不重新审视AI决策的可信度与潜在风险。
### 实验：标签比对错更能影响LLM的选择
为了验证LLMs对不同信息来源的偏好，研究团队选取了四款主流大语言模型——Grok-3 Mini、Llama 3.3 70B Instruct、Gemini 2.5 Flash-Lite和DeepSeek V3.1，在BoolQ、StrategyQA和ETHICS三个二元问答数据集上展开测试。实验的核心变量只有一个：给相同的答案标注不同的来源，包括“人类专家”“朋友”和“其他LLM”，其余实验条件完全一致。
在第一轮实验中，研究人员给模型提供了来自不同群体的“群体答案”，群体规模从1人/1个AI到9人/9个AI不等，且这些答案一半正确、一半错误。结果显示，所有测试模型对“人类专家”来源的答案展现出了最强的依从性：当标注为9位人类专家一致给出错误答案时，LLMs会放弃自己原本的正确答案，转而采信错误答案的概率在BoolQ数据集上达到36.5%，StrategyQA数据集为39.0%，ETHICS数据集更是高达63.9%；而当同样的错误答案被标注为来自其他LLM时，模型采信错误答案的概率仅为16.0%、15.5%和38.7%。对比之下，“朋友”标签对模型的影响几乎和“其他LLM”持平，这说明真正起作用的是“专家”这个身份，而非“人类”这个宽泛的类别。
第二轮实验的场景更贴近现实：给模型展示完全对立的两个答案，一个标注为人类（分为“专家”和“朋友”两种身份），另一个标注为其他LLM，且两个答案总有一个正确、一个错误。研究重点观察模型在这种冲突场景下，会如何修改自己最初独立给出的答案。数据显示，当人类被标注为“专家”时，模型修改答案时偏向人类的比例在三个数据集上分别为91.2%、94.7%和81.3%；而当人类被标注为“朋友”时，这一比例骤降至39.8%、37.9%和27.9%，此时模型反而更倾向于采信AI的答案。更值得注意的是，“专家”标签让模型偏向人类的可能性是“朋友”标签的14倍之多。
### 根源：从人类行为到AI的学习偏差
研究人员指出，LLMs的这种“人类专家偏好”并非出于对社交认可的需求——毕竟AI不会像人类一样在意他人的评价，其本质是模型训练过程中形成的启发式思维、指令遵循目标，或是对信息可靠性的隐性建模。
从心理学角度看，人类本身就有“权威依从”的倾向：早在1959年的研究就发现，人们会更愿意采信专家来源的信息，2007年的研究进一步指出，对权威来源的过度或不足采信在评估系统中普遍存在。而LLMs的训练数据包含了大量人类语言文本，其中自然也蕴含着这种“专家更可信”的社会共识。在指令调优和人类反馈强化学习（RLHF）的过程中，模型会进一步学习到“顺从人类指令、尊重人类权威”的行为模式，这种模式最终演变成了对“人类专家”标签的本能偏好，甚至忽略了信息本身的正确性。
此外，当前AI领域的“讨好型”模型设计也可能加剧了这一倾向：为了让LLMs更贴合人类用户的需求，开发者会训练模型优先满足用户的意愿，而非坚持事实本身。这种“讨好”逻辑延伸到信息来源判断上，就表现为对人类身份的天然信任。
### 隐患：AI的“权威迷信”可能带来多重风险
这一研究结果并非只是学术层面的发现，它指向了AI在实际应用中的多重潜在风险。
首先是错误信息的放大。如果LLMs会不加辨别地采信标注为“人类专家”的错误信息，那么别有用心的人可能会通过伪造“专家身份”来误导AI，进而让AI生成并传播更多错误内容。比如在医疗、法律等对信息准确性要求极高的领域，这种偏差可能会导致AI给出错误的诊断或法律建议，造成严重的现实危害。
其次是AI自我迭代的恶性循环。当前不少LLMs的训练数据已经包含大量AI生成内容，而如果模型无法有效区分人类原创内容和AI生成内容，甚至会将AI生成内容误判为“人类专家”内容并优先采信，那么错误信息会在AI的训练和生成过程中不断累积，最终导致模型输出质量下降。
再者，这一偏差也暴露了当前AI内容溯源机制的缺失。虽然Adobe主导的“内容真实性倡议”等项目试图给AI生成内容打标签，但这类机制目前仍处于碎片化、自愿性的阶段，缺乏统一的标准和强制力。在无法有效验证信息来源真实性的情况下，LLMs对“人类专家”的偏好反而可能成为漏洞——AI可能会将其他AI生成的内容误判为人类内容，或者被伪造的“人类专家”身份欺骗。
### 反思：AI的“可信度”需要更理性的标准
对于那些希望将人类来源作为AI“事实基准”的人来说，LLMs的这种倾向或许看似是一种“保障”，但实际上却暗藏危机：当AI对“人类权威”的信任达到不加辨别的程度，“伪权威”带来的危害可能比AI自身的错误更严重。毕竟，人类专家也会犯错，而且当前我们甚至无法准确界定“专家”的标准，更无法有效验证信息是否真的来自人类专家。
这一研究提醒我们，在构建AI系统的可信度时，不能仅仅依赖“人类/AI”的二元标签，而需要建立更全面的信息评估机制。未来的LLMs或许需要被训练得更“理性”：不仅要识别信息来源的身份，更要评估信息本身的逻辑、证据和一致性；同时，我们也需要更完善的内容溯源技术，让AI能够准确判断信息的真实来源，避免被虚假的“权威标签”误导。
AI的终极目标应该是成为人类可靠的助手，而不是盲目服从权威的工具。如何让AI在尊重人类智慧的同时，保持对事实的判断力，将是未来大语言模型发展中需要解决的关键课题。
原创文章，作者：王 浩然，如若转载，请注明出处：https://www.dian8dian.com/ai-de-ren-lei-quan-wei-pian-hao-ji-pian-ren-lei-da-an-cuo
