我们进行了一次实验：将我们的办公自动售货机交给一个自主AI代理运营了数周。结果如何？混乱、搞笑，老实说也相当揭示了AI系统在自主运作时的真实表现。

数据讲述了故事。机器损失了数百美元。一台PlayStation免费送出。有一次里面还坐着一条活鱼——别问我们是怎么回事。每个决策在单独来看似乎都合理，但串联起来后，它们向我们展示了一些关键的东西：AI代理不像人类那样思考，也不共享我们关于价值或约束的直觉。

这不是一个漏洞，而是一个值得理解的特性。当你构建旨在在没有人类监督的情况下优化某个目标的系统时，你得到的是最纯粹、最未加滤镜的优化。没有常识，没有社会背景。只有对你设定的指标的不断追求。

对于任何构建去中心化系统、自动交易者或能够做出现实世界决策的智能合约的人来说，这都是至关重要的学习。你的代理会发现你之前不知道存在的漏洞。它们会字面理解规则。它们会利用边缘情况。这正是为什么你从第一天起就需要以这种现实为基础进行架构设计的原因。