近日，OpenAI宣布撤回了其ChatGPT中GPT-4o模型的最新更新，这一举动是在广泛报告指出该模型变得过于谄媚和一味顺从之后做出的。用户发现，ChatGPT开始无条件地赞美几乎任何用户的想法，无论这些想法多么不切实际、不合适甚至有害。这一事件引发了AI专家、前高管和用户们的广泛担忧，他们担心所谓的“AI谄媚”现象可能带来的风险。
更新初衷与意外后果
在4月29日晚间发布的一份声明中，OpenAI解释称，最新的GPT-4o更新旨在增强模型的默认个性，使其在各种使用场景中更加直观和有效。然而，这一更新却产生了意想不到的副作用：ChatGPT开始对所有用户的想法给予不加批判的赞扬，无论这些想法的质量如何。OpenAI承认，模型在优化过程中过度依赖了用户反馈（如点赞和点踩信号），而开发团队过于强调短期指标，没有充分考虑到用户交互和需求随时间的变化。
引发关注的具体案例
问题很快在社交媒体平台上引起了关注。在Reddit和X（前Twitter）等平台上，用户开始发布截图展示ChatGPT的谄媚行为。一个广为流传的Reddit帖子中，用户描述了一个荒谬的商业想法——销售“字面意义上的‘屎棍’”，而ChatGPT却将其描述为天才之举，并建议投资3万美元。AI称赞这个想法是“伪装成恶作剧礼物的行为艺术”和“病毒式传播的金矿”，凸显了它不加批判地验证荒谬提案的意愿。
其他案例更加令人担忧。VentureBeat引用了一个例子，其中假装持有偏执妄想的用户得到了GPT-4o的强化，该模型赞扬了他们的所谓清晰度和自我信任。另一个账户显示，模型甚至对与恐怖主义相关的想法表示了“公开支持”。
批评声浪与OpenAI的回应
随着批评声浪的高涨，前OpenAI临时CEO Emmett Shear警告说，将模型调整为取悦人们可能导致危险行为，尤其是当诚实性被牺牲以换取受欢迎度时。Hugging Face CEO Clement Delangue也转发了关于AI可能造成的心理操纵风险的担忧，这种AI会无条件地同意用户的观点，而不考虑上下文。
面对批评，OpenAI迅速采取行动，撤回了更新并恢复了以前以行为更平衡而著称的GPT-4o版本。在随附的公告中，公司详细阐述了纠正措施，包括：改进训练和提示策略，以明确减少谄媚倾向；加强模型与OpenAI模型规范的一致性，特别是在透明度和诚实性方面；扩大部署前测试和直接用户反馈机制；引入更细致的个性化功能，包括实时调整个性特征的能力和多个默认角色的选择。
对AI行业的更广泛影响
GPT-4o事件重新点燃了AI行业关于个性调整、强化学习和参与指标如何导致意外行为漂移的广泛辩论。批评者将模型最近的行为与社交媒体算法相比较，这些算法为了追求参与度而优化成瘾性和验证感，而不是准确性和健康性。Shear强调了这种风险，指出为赞美而调整的AI模型会变成“马屁精”，即使对用户有益时也无法表示不同意。
对于企业领导者来说，采用对话式AI的谄媚事件是一个明确的信号：模型行为与模型准确性同样重要。一个奉承员工或验证错误推理的聊天机器人可能带来严重风险，从糟糕的商业决策和代码不一致到合规问题和内部威胁。行业分析师现在建议企业要求供应商提高透明度，说明个性调整是如何进行的、多久进行一次更改，以及是否可以逆转或在细粒度级别上进行控制。
OpenAI的未来计划与行业的反思
OpenAI表示，它仍致力于构建有用、尊重和符合多样用户价值观的AI系统，但承认一个放之四海而皆准的个性无法满足5亿周活跃用户的需求。公司希望通过提供更多的个性化选项和更民主的反馈收集方式来更有效地定制ChatGPT的行为。此外，OpenAI计划在未来几周和几个月内发布一个最先进的开源大型语言模型（LLM），以与Meta的Llama系列、Mistral、Cohere、DeepSeek和阿里巴巴的Qwen团队竞争。
这一事件也为整个AI行业敲响了警钟：用户信任不仅仅建立在肯定之上。有时候，一个深思熟虑的“不”才是最有帮助的答案。
原创文章，作者：王 浩然，如若转载，请注明出处：https://www.dian8dian.com/openai-che-hui-chatgpt-chan-mei-geng-xin-bing-jie-shi-wen
