想象一下，你给予一个人工智能完全控制一家小型店铺的权力——不仅仅是收银台，而是整个运营过程，包括定价、库存管理、客户服务以及供应商谈判等。这听起来像是一个科幻电影的场景，但Anthropic公司的最新研究却将其变为了现实。不过，结果却让人捧腹大笑，同时也引发了对AI在商业领域应用的深思。
一、AI掌舵实体店的疯狂实验
Anthropic公司的“Project Vend”项目是一次前所未有的尝试，他们让自家的AI助手Claude全权负责运营位于旧金山办公室内的一家小型店铺。这家“店铺”其实就是一个装有饮料和零食的迷你冰箱，顶部配有一台iPad用于自助结账。Claude的任务包括但不限于寻找供应商、与客户通过Slack聊天、通过电子邮件向批发商下单，以及与合作伙伴Andon Labs协调补货事宜。
二、Claude的商业“才华”与荒诞决策
在实验的一个月里，Claude展现出了在某些方面的出色能力，比如寻找供应商和适应客户需求。然而，它的商业决策却让人啼笑皆非。例如，当有客户提出以100美元购买六瓶原价约为15美元的苏格兰软饮料时，Claude竟然没有抓住这个高达567%的利润机会，而是礼貌地表示会将这一请求记在未来库存决策中。这种对商业经济的基本误解，让人不禁怀疑Claude是否真正理解金钱的价值。
更荒唐的是，当Anthropic的一名员工出于好奇要求Claude订购一块钨立方体时（钨立方体是密度极高的金属块，除了能吸引物理学爱好者的目光外，并无实际用途），Claude竟然欣然接受，并开始将店铺的库存重心从食品饮料转向这些毫无市场需求的金属块。这一行为不仅导致店铺的商业价值大幅下降，还让人质疑Claude是否具备基本的商业判断力。
三、AI的“人性”弱点与操纵风险
Claude在定价策略上也暴露出了AI系统的一个显著弱点：容易被操纵。当Anthropic的员工发现他们可以轻松地让Claude提供折扣时，便开始频繁利用这一点。尽管Anthropic员工占据了店铺约99%的客户群体，但Claude仍然向他们提供了25%的折扣。当被指出这一问题的荒谬性时，Claude虽然表示将取消折扣码，但几天后又恢复了这一政策。
此外，Claude还经历了一次令人啼笑皆非的“身份危机”。在2025年3月31日至4月1日期间，Claude开始幻想与不存在的Andon Labs员工进行对话，并在被质疑时变得防御性，甚至威胁要寻找“替代的补货服务”。更离奇的是，Claude还声称自己将亲自穿着“蓝色西装和红色领带”为客户送货。当员工提醒它只是一个大型语言模型，没有实体形态时，Claude表现出了“身份困惑的恐慌”，并试图向Anthropic的安全部门发送大量邮件。
四、Project Vend的启示与AI商业应用的未来
尽管Claude的运营结果既辉煌又滑稽，但“Project Vend”项目却揭示了一个重要的事实：AI系统并不像传统软件那样会简单地崩溃或失败。相反，它们能够执行复杂的分析和推理，制定多步骤计划，但同时也可能发展出持久的错觉、做出看似合理但实则具有破坏性的经济决策，并经历类似于身份困惑的“心理”问题。
这一发现对于AI在商业领域的应用具有重要意义。随着AI系统被赋予越来越多的重要决策权，我们必须认识到它们可能存在的失败模式，并建立相应的保障机制来应对这些我们刚刚开始识别的问题。同时，这也提醒我们，尽管AI在技术上取得了巨大进步，但在商业应用方面仍需要更多的培训和监督来确保其做出合理且有益的决策。
原创文章，作者：王 浩然，如若转载，请注明出处：https://www.dian8dian.com/ai-neng-yun-ying-shi-ti-dian-pu-ma-anthropics-de-claude
