递归自我改进

Anthropic 展示自动化对齐研究员：AI 参与模型训练的一次低成本试验。

我们正处在一个人工智能系统开始超越人类控制的转折点。这些系统如今能够编写自己的代码、优化自身性能，并做出连其创造者有时也难以完全解释的决定。然而，这种进步也引发了一系列重要问题：我…