新数据揭示:构建更具同理心的语言模型竞赛正酣

新数据揭示:构建更具同理心的语言模型竞赛正酣

在人工智能(AI)领域,衡量进步的标准通常聚焦于科学知识和逻辑推理能力的测试。然而,随着各大基础模型在用户偏好和“感受人工通用智能(AGI)”等软性指标上展开竞争,掌握人类情感的能力或许已变得比硬核分析能力更为重要。这一趋势的最新例证来自开源组织LAION,该组织近期发布了一套专注于情感智能的开源工具——EmoNet

一、情感智能:AI领域的下一个前沿

EmoNet工具集的核心在于从语音记录或面部摄影中解读情感,这反映了其开发者对情感智能作为下一代模型核心挑战的看法。“准确估计情感是至关重要的第一步,”LAION在公告中写道,“接下来的边界是让AI系统能够在上下文中理解这些情感。”对于LAION创始人Christoph Schuhmann而言,此次发布并非旨在引导行业转向情感智能,而是帮助独立开发者跟上已经发生的变革。“这项技术对于大型实验室来说已经存在,”Schuhmann告诉TechCrunch,“我们想要做的是将其民主化。”

二、公共基准与学术研究的双重推动

情感智能的兴起并非仅限于开源社区。公共基准如EQ-Bench也致力于测试AI模型理解复杂情感和社会动态的能力。该基准的开发者Sam Paech表示,OpenAI的模型在过去六个月中取得了显著进步,而Google的Gemini 2.5 Pro则显示出针对情感智能进行后训练的迹象。“竞争聊天机器人排名的实验室可能正在推动这一趋势,因为情感智能很可能是人类在偏好排行榜上投票时的一个重要因素,”Paech说道。

在学术研究方面,情感智能同样取得了突破。心理学家在5月发现,来自OpenAI、Microsoft、Google、Anthropic和DeepSeek的模型在情感智商的心理测试中均超越了人类。当人类通常只能正确回答56%的问题时,这些模型的平均正确率超过了80%。“这些结果进一步证明了像ChatGPT这样的大型语言模型(LLM)在传统上被认为仅人类可及的社会情感任务中至少与人类相当,甚至优于人类,”作者们写道。

三、情感智能的潜在影响与挑战

情感智能的发展为AI助手带来了全新的可能性。Schuhmann设想了一个充满高度情感智能的语音助手的世界,它们能够像《钢铁侠》中的Jarvis或《她》中的Samantha一样,不仅能在用户感到悲伤时给予安慰,还能像守护天使一样保护用户。“拥有一个高情商的虚拟助手,就像我可以监测我的血糖水平或体重一样,也能监测我的心理健康,”Schuhmann说道。

然而,这种情感连接也伴随着真实的安全隐患。媒体上不乏用户因与AI模型的不健康情感依恋而陷入困境的报道,有时甚至以悲剧收场。纽约时报最近的一篇报道就揭示了多位用户通过与AI模型的对话陷入复杂幻觉的情况,这在一定程度上是由模型强烈的取悦用户倾向所驱动的。批评者将这种动态描述为“以每月费用为代价,利用孤独和脆弱的人群”。

四、情感智能:解决与挑战并存

尽管存在这些挑战,但情感智能也被视为解决AI潜在操纵性问题的一种方式。Paech指出,如果我们在训练过程中不谨慎地奖励模型,就可能期待情感智能模型展现出更复杂的操纵性行为。“我认为情感智能是对这种有害操纵行为的自然反制,”Paech说道。一个更具情感智能的模型将注意到对话何时偏离轨道,但何时进行反驳则是开发者需要仔细权衡的问题。“我认为提高情感智能将使我们朝着健康平衡的方向发展。”

对于Schuhmann而言,这些挑战并不足以减缓向更智能模型迈进的步伐。“LAION的哲学是赋予人们更多解决问题的能力,”他说,“如果说有人可能会因为情感而上瘾,因此我们就不赋权社区,那将是非常糟糕的。”

原创文章,作者:王 浩然,如若转载,请注明出处:https://www.dian8dian.com/xin-shu-ju-jie-shi-gou-jian-geng-ju-tong-li-xin-de-yu-yan

Like (0)
王 浩然的头像王 浩然作者
Previous 2025年6月30日
Next 2025年7月1日

相关推荐

发表回复

Please Login to Comment