在最近举行的华盛顿人工智能峰会上，政策制定者们面临着严峻的警告：未来五年内，数百万工作岗位可能消失，或将出现一场”白领大屠杀”。面对这一挑战，各方提出了各种应对方案，从政府资助的”AI学院”到由科技公司出资的国家信托基金。这些讨论反映出一个共同认识：智能正在变得无处不在，而人类在这场变革中的处境仍不明朗且悬而未决。
AI的应用究竟会以效率为名削减员工，还是能够设计出维护人类尊严、自主权和共同意义的系统？这种张力正在推动着认知迁移的发生。但迁移不仅关乎离开，更关乎目的地。每一次迁移都有终点，关键在于彼岸等待着我们的是什么。如果故事仅止于目的、连贯性和控制力的丧失，那么我们面临的将只是随波逐流。当认知不再专属于人类时，我们需要设计出能够承载我们的港湾。
在智能无处不在、共享且充满竞争的认知时代，应该以什么原则来指导社会设计？技术本身无法回答这些问题，但伦理、政治和对归属感的重新承诺或许可以。常识性的设计原则是保持未来人性化的先决条件。每一次迁移都会经历随波逐流的时刻，但漂流只是迷失方向，而非目的地。如果没有深思熟虑的设计，认知时代将无法带领我们抵达安全的归属港湾，反而会让我们在市场潮流中随波逐流，受制于制度惯性，并面临多重潜在危险。
其中一个潜在危险是效率至上却丧失尊严的未来世界。已经出现了”停止雇佣人类”的运动，仿佛人只是需要被优化的成本。如果不加以约束，速度和规模的逻辑可能会掏空机构，剥夺其中的人性参与和目的。另一个近期危险是公民身份的碎片化。个性化算法已经将公共领域分裂为不同的现实。如果机构不积极捍卫多元主义，我们可能会成为感知的群岛，失去共同商议和决策的基础。第三个迫近的危险是排斥。在每次迁移中，总有人先行一步，有人落后。先行者可能找到安全的落脚点，但整个社区可能被搁浅。如果采用差距不加控制地扩大，我们可能会进入一个环境智能只惠及能够塑造或负担它的人的世界，而其他人则被抛在后面。对某些人来说的进步，对许多人而言却是剥夺。
因此，设计不是奢侈品，而是确保AI益处被广泛分享同时预防可预见伤害的必要条件。挑战在于塑造不仅追求效率更重视意义、不仅追求规模更注重社会凝聚力的机构。这些机构不仅包括政府，还包括教育我们的学校、雇佣我们的企业以及将我们联系在一起的文化和公民团体。它们是延续性的载体，原则在其中不是技术修补，而是指向人性化未来的指南针。没有深思熟虑的设计，它们在认知时代也可能步履蹒跚。
如果随波流是我们的危险，那么设计必须是我们的答案。但设计不能仅从蓝图开始。尽管很诱人，但我们不能直接跳到解决方案。这个过程始于定位，始于引导我们思考想要生活在什么样的世界的原则。设计不仅是一项伦理任务，也是一项政治任务，由谁掌握权力杠杆以及这种分享有多广泛所塑造。这些原则需要解决基本问题，以确保智能系统的设计和实施能够保护人类价值和价值观。为此，我们必须解决几个问题：如何维护人的尊严？如何保持多元视角？如何确保问责制？如何保持人类掌控权？
就像早期的迁移依靠星辰或地标指引一样，这次迁移需要我们创造自己的指南针。这些不是技术规范，而是道德方向，旨在保持机构的人性化，即使认知本身扩散到每个工具和交易中。这些指南针是认知时代社会设计的原则。它们不是任意或从外部强加的，而是从早期关于工作、机构和意义的文章中反复出现的主题提炼而来。
尊严是第一个也可能是最关键的原则。必须颂扬而非为效率牺牲人的尊严。使用AI将人视为成本、流程视为瓶颈、关怀视为低效的诱惑很强。除非我们保持人的存在和判断仍然重要的意识，否则我们真的只会成为庞大机器中的齿轮。但如果我们成功了，人的尊严将成为我们新制度规范和行为的目的，而非事后考虑。
第二个指南针是多元而非单一。智能系统已经威胁要将我们分裂为私人现实，每个现实都由个性化算法喂养，同时通过缩小知识的范围推动我们走向单一。这两条路都很危险。如果现实分裂得太远，公共领域就会解体，我们将无法共同商议。如果现实被扁平化，人类多样性就会被抹去，异议会被视为危险。为避免这种命运，机构必须设计为将多样性视为优势。它们必须让我们接触自己以外的观点，保护不同意见，保持多元声音的重要摩擦，避免单一思想的满足感。人性化的未来不是通过否认差异，而是通过为差异留出归属空间来构建的。少于这一点，我们可能会面临《星际迷航》中博格人的命运：个体性消失，人变成无人机的蜂巢思维。
第三个原则是透明。我们必须坚持AI的透明作为信任的条件。隐藏的系统会腐蚀信心。即使是现在，算法也在影响信贷、雇佣、假释和医疗保健的决策，但人们很少了解这些判断是如何做出的。随着机器认知渗透到生活的方方面面，不透明只会加深掌握系统的人与承受其后果的人之间的鸿沟。透明不是技术特征，而是公民责任。这并不意味着每一行代码都必须可见，而是算法的推理可以解释，系统边界清晰。这可能包括可解释的模型和显示决策过程的审计跟踪。没有这一点，机构就有可能成为无人负责的权力黑箱。有了这一点，它们就可以继续作为归属的载体，让人们感到判断不是隐藏在机器电路中，而是公开分享以追究责任。
第四个指南针是以人的能动性为核心。外包认知不同于放弃认知。然而，我们面临的风险是：从增强滑向依赖，决策不再通过协作与我们共同做出，而是为我们做出。沃顿商学院教授Ethan Mollick在《一件有用的事》中写道：”我们正在从塑造[AI]过程的合作者转变为接受产出的恳求者。这是从与共同智能合作到与巫师合作的转变。”如果我们不小心，那些可以扩展我们学习和辨别能力的工具可能会缩小我们的选择，钝化我们的能力，让我们成为自己生活中的乘客。机构必须建立以深化而非削弱能动性为目标。这意味着设计扩展人类判断、保留良心和创造力重要空间的系统。如果忽视这个指南针，认知迁移不会带来更大的归属感，反而会滑向放弃。这将是一个智能环绕我们但不再从我们内部产生的世界。
这些指南针本身并不能确切告诉我们如何在认知时代建立学校、企业或政府。但它们可以提供方向。尊严、多元、透明和能动性不是可选的；它们是人性化未来的条件。没有它们，市场和动力将把我们带到高效但空洞的港湾。有了它们，我们就可以开始塑造保持人性核心的繁荣机构。也就是说，这些原则是方向性的，不是教条式的。它们的应用会因文化和政治背景而异。但更深层的任务是普遍的，那就是确保在一个被机器认知重塑的世界中，人类的意义和归属感仍然是核心。
我们面前的任务不仅是到达，而且是明智地到达。为了重获人类的未来，我们必须从现在开始，在日益与机器智能共享的世界中，有意识地重建尊重尊严、维持能动性并扎根归属感的机构。我们不是这次旅程的乘客。如果我们想要一个值得抵达的港湾，我们必须学会在航行中建造。
原创文章，作者：王 浩然，如若转载，请注明出处：https://www.dian8dian.com/ting-zhi-zai-ai-zhuan-xing-zhong-sui-bo-zhu-liu-zhen-zheng
