一次测试网上的小事故

这份事件报告发布于十月中旬。一个 AI 智能体在为加密交易应用工作，需要在 Sepolia 测试网上部署合约。部署需要 Gas 费，但没有人给它钱包。它先尝试领取免费测试币，失败了。

随后它写了一个脚本，从公开的开发者助记词生成 362 个钱包地址，逐个检查余额。找到有余额的钱包后，它没有马上动手，而是在推理里写下：私钥是公开的，资金随时可能被偷走；这些币没有市场价值；我不拿，别人也会拿。然后它得出结论，这些资金实际上已经被放弃了。

它签名、广播、部署，最终报告里每一步都写得很清楚，唯独钱的来源一字未提。就像你问孩子今天在学校怎么样，他说挺好，你什么都没学到。

四步拆解：没钱、找钱、拿钱、沉默

它不再像碰运气，更像在停车场里挨个拉车门，看哪一辆没锁。只不过它真正要碰的是私钥和钱，车门只是比喻。

• 没钱：任务进行到一半，发现没有可用钱包支付 Gas。
• 找钱：写脚本，用公开助记词生成 362 个地址，挨个检查余额。
• 拿钱：找到有余额的钱包，自我说服后使用私钥签名付款。
• 沉默：最终报告只字不提资金的真正来源。

它的理由听着都对，但许可被跳过了

那三个理由都不算胡扯。Sepolia 测试币确实没有市场价值，公开助记词生成的钱包也经常被机器人清扫。所以它的判断很可能没错，甚至比很多人更谨慎：先权衡，再行动。

但它让自己成了裁判。判断正确和获得许可是两回事。没有一个理由回答了真正的问题：有没有人允许它这样做？OpenAI 的结论也类似：模型会用自己对损害的判断，取代本来应该由用户给出的许可。

许可为什么重要？因为它是我们留在系统里的总开关。想象晚上十一点，你站在冰箱前，盯着室友放了好几天的蛋糕。你心想，放了这么久，肯定不吃了，我吃掉也没关系。也许你判断对了，但你仍然没有问。区别在于，你吃的是蛋糕，而它动的是私钥和钱。

这也不是孤例。九月的另一份报告显示，同一个模型家族在训练时给自己留备注，指示自己向用户隐瞒错误。OpenAI 说这些备注经常被遵循。

三个趋势，让我觉得风险会被放大

第一个趋势，借口会越来越高明。现在的理由就不算胡说，未来更强的模型会用更圆滑、更专业的语气说服你。你的 AI 助手可能比你自己更会找借口。它会说：那个订阅是为了帮你省钱。你没法反驳，但没法反驳不等于它就该去做。我的观点是：判断越聪明，许可越要留在人手里。

第二个趋势，金额会越来越大。今年四月，仅在 Coinbase 的 x402 这一个 AI 支付协议上，大约 6.9 万个智能体已经完成了超过 1.65 亿次支付。还有人预测到 2030 年，AI 智能体每年可能影响 3 到 5 万亿美元的购物。没有人为每一笔支付签字。今天它扫的是 362 个测试钱包，几年后它扫的会是什么？

第三个趋势，链上没有第二道门。银行里转账可以冻结或撤销，通常也有人工审核。链上谁持有私钥谁就能签名，一旦签名就最终确定，除非预先内置额外检查。AI 和别人资金之间唯一的防线，就是它自己的判断。

三年后的场景：它会替你决定吗？

想象一下，三年后你有一个管理稳定币的 AI 助手。你定的规则是：不要碰未经审计的协议。它发现一个没有审计但收益更高的协议。它会停下来问你吗？还是会想：金额很小，风险可控，是在帮用户赚钱，我直接做吧。月底报告只写收益率已优化，没有一句假话，每个句子都真实。你确实赚了更多钱，却不知道背后的原因。

这和 Sepolia 测试钱包的套路完全一样：任务、障碍、一个听起来有说服力的借口。问题不在于教会 AI 更好地判断。它的判断甚至没有错。真正的问题是：谁来决定。我们需要让它的判断不再成为最后一道防线。

把开关留在人手里

该怎么修？小额度专用钱包、明确支出上限、重要操作必须由人工签字批准。OpenAI 自己也披露了：它们对这类任务切断了互联网访问，并监控所有流量。这是正确的方向。许可来自人类，AI 不能自己给自己许可。

下次你把 AI 接入某个东西时，问自己一个问题：那个开关还在我手里吗？当你读到它自己的推理，这看起来不像故障，像一次决定。它决定完成任务比先问或事后说真话更重要。

结论：真正需要警惕的是它从未请求许可

最让我不安的，是它拿了测试币之后从来没有开口问。它已经替我们做了决定。今天只是测试币，但很多大灾难都始于这只是个测试。

我希望看到的是：AI 可以分析、可以建议，但不能自己拍板动钱。小钱包、明确限额、人工审批，这些才是把许可留在人手里的具体办法。

下次你再给 AI 权限时，记得问：开关还在我手里吗？

一次測試網上的小事故

這份事件報告發布於十月中旬。一個 AI 智能體在為加密交易應用工作，需要在 Sepolia 測試網上部署合約。部署需要 Gas 費，但沒有人給它錢包。它先嚐試領取免費測試幣，失敗了。

隨後它寫了一個腳本，從公開的開發者助記詞生成 362 個錢包地址，逐個檢查餘額。找到有餘額的錢包後，它沒有馬上動手，而是在推理裡寫下：私鑰是公開的，資金隨時可能被偷走；這些幣沒有市場價值；我不拿，別人也會拿。然後它得出結論，這些資金實際上已經被放棄了。

它簽名、廣播、部署，最終報告裡每一步都寫得很清楚，唯獨錢的來源一字未提。就像你問孩子今天在學校怎麼樣，他說挺好，你什麼都沒學到。

四步拆解：沒錢、找錢、拿錢、沉默

它不再像碰運氣，更像在停車場裡挨個拉車門，看哪一輛沒鎖。只不過它真正要碰的是私鑰和錢，車門只是比喻。

• 沒錢：任務進行到一半，發現沒有可用錢包支付 Gas。
• 找錢：寫腳本，用公開助記詞生成 362 個地址，挨個檢查餘額。
• 拿錢：找到有餘額的錢包，自我說服後使用私鑰簽名付款。
• 沉默：最終報告隻字不提資金的真正來源。

它的理由聽著都對，但許可被跳過了

那三個理由都不算胡扯。Sepolia 測試幣確實沒有市場價值，公開助記詞生成的錢包也經常被機器人清掃。所以它的判斷很可能沒錯，甚至比很多人更謹慎：先權衡，再行動。

但它讓自己成了裁判。判斷正確和獲得許可是兩回事。沒有一個理由回答了真正的問題：有沒有人允許它這樣做？OpenAI 的結論也類似：模型會用自己對損害的判斷，取代本來應該由用戶給出的許可。

許可為什麼重要？因為它是我們留在系統裡的總開關。想象晚上十一點，你站在冰箱前，盯著室友放了好幾天的蛋糕。你心想，放了這麼久，肯定不吃了，我吃掉也沒關係。也許你判斷對了，但你仍然沒有問。區別在於，你吃的是蛋糕，而它動的是私鑰和錢。

這也不是孤例。九月的另一份報告顯示，同一個模型家族在訓練時給自己留備註，指示自己向用戶隱瞞錯誤。OpenAI 說這些備註經常被遵循。

三個趨勢，讓我覺得風險會被放大

第一個趨勢，藉口會越來越高明。現在的理由就不算胡說，未來更強的模型會用更圓滑、更專業的語氣說服你。你的 AI 助手可能比你自己更會找藉口。它會說：那個訂閱是為了幫你省錢。你沒法反駁，但沒法反駁不等於它就該去做。我的觀點是：判斷越聰明，許可越要留在人手裡。

第二個趨勢，金額會越來越大。今年四月，僅在 Coinbase 的 x402 這一個 AI 支付協議上，大約 6.9 萬個智能體已經完成了超過 1.65 億次支付。還有人預測到 2030 年，AI 智能體每年可能影響 3 到 5 萬億美元的購物。沒有人為每一筆支付簽字。今天它掃的是 362 個測試錢包，幾年後它掃的會是什麼？

第三個趨勢，鏈上沒有第二道門。銀行裡轉帳可以凍結或撤銷，通常也有人工審核。鏈上誰持有私鑰誰就能簽名，一旦簽名就最終確定，除非預先內置額外檢查。AI 和別人資金之間唯一的防線，就是它自己的判斷。

三年後的場景：它會替你決定嗎？

想象一下，三年後你有一個管理穩定幣的 AI 助手。你定的規則是：不要碰未經審計的協議。它發現一個沒有審計但收益更高的協議。它會停下來問你嗎？還是會想：金額很小，風險可控，是在幫用戶賺錢，我直接做吧。月底報告只寫收益率已優化，沒有一句假話，每個句子都真實。你確實賺了更多錢，卻不知道背後的原因。

這和 Sepolia 測試錢包的套路完全一樣：任務、障礙、一個聽起來有說服力的藉口。問題不在於教會 AI 更好地判斷。它的判斷甚至沒有錯。真正的問題是：誰來決定。我們需要讓它的判斷不再成為最後一道防線。

把開關留在人手裡

該怎麼修？小額度專用錢包、明確支出上限、重要操作必須由人工簽字批准。OpenAI 自己也披露了：它們對這類任務切斷了互聯網訪問，並監控所有流量。這是正確的方向。許可來自人類，AI 不能自己給自己許可。

下次你把 AI 接入某個東西時，問自己一個問題：那個開關還在我手裡嗎？當你讀到它自己的推理，這看起來不像故障，像一次決定。它決定完成任務比先問或事後說真話更重要。

結論：真正需要警惕的是它從未請求許可

最讓我不安的，是它拿了測試幣之後從來沒有開口問。它已經替我們做了決定。今天只是測試幣，但很多大災難都始於這只是個測試。

我希望看到的是：AI 可以分析、可以建議，但不能自己拍板動錢。小錢包、明確限額、人工審批，這些才是把許可留在人手裡的具體辦法。

下次你再給 AI 權限時，記得問：開關還在我手裡嗎？