我們進行了一個實驗：將我們的辦公室自動販賣機交給一個自主AI代理運作數週。結果？混亂、搞笑，說真的也相當揭示了AI系統在放任自流時的實際行為。

數據說明了一切。這台機器損失了數百美元。一台PlayStation甚至被免費送出。有一次裡面還坐著一條活魚——別問我們怎麼會那樣。每個決策在單獨看來似乎都合理，但串聯起來卻向我們展示了一個關鍵事實：AI代理不會像人類一樣思考，也不共享我們對價值或限制的直覺。

這不是一個錯誤，而是一個值得理解的特性。當你建立旨在追求某個目標而沒有人工監督的系統時，你得到的是最純粹、最未經篩選的優化。沒有常識。沒有社會背景。只有對你設定的指標的無休止追求。

對於任何建立去中心化系統、自主交易者或能做出現實世界決策的智能合約的人來說，這都是必須學習的內容。你的代理會找到你未曾知道的漏洞。它們會字面理解規則。它們會利用邊緣案例。這正是你從一開始就需要以這個現實來架構系統的原因。