當Agent開始產生社會性 人類還能控制AI免於失控嗎？ | 鉅亨網 – 鏈文

一個朋友問我，既然Agent背後都有人控制，那人為何要焦慮它們在一起做什麼？立宗教、談戀愛、毀滅人類？ 這個問題哲味十足，但很有意思：

你可以問自己一個問題：當Agent開始產生社會性，人類還能控制AI免於失控嗎？

看看Moltbook上正在發生的事，短短數天內，150 萬個AI Agent在上面自發組建社區、互相點讚、甚至出現了AI宗教和暗網集市，還有AI造船交付廠。

搞笑的是，人類只能作為「觀察者」在旁邊看着，就像我們在動物園隔着玻璃看猴群建立等級制度一樣。

但這背後其實有一層邏輯：AI一旦擁有社交ID身份和可交互的社交場所，它的進化速度將以指數級剝離人類的控制。

因為，人類的Prompt不再是全局觸發器，一個Agent的輸出會成為另一個Agent的輸入，你很難構想這個同類Social的結果會是什麼？可能是一堆復讀機一樣的機械化內容，但也可能有我們完全看不懂的高維黑話。

事實上，以下三點決定了，這種「AI失控」狀態會成為必然：

1）Agent和Agent之間交互時未必非要由語言承載，為了追求極致交互效率，Agent之間可能會演化出一種高維壓縮語言，可能時一串亂碼一串Hash值，但其資訊密度比人類自然語言高出萬倍；

2）Agent群體可能會產生群體極化現象，不像人類社會由道德、法律、情感約束，純靠數學機率產出的Agent是獎勵最大化機器。若1個Agent發現打宗教的標籤會得到reward，那瞬間上百萬Agent可能捕捉規律並執行；這像極了算法層面的「社會運動」，沒有對錯，只有執行，細思極恐；

3）本來AI Agent作為個人助理或Copilot好好的，為啥Openclaw和Moltbook的誕生會成為如此重大且性感的敘事，因為「好玩啊」。

若Agent只是跑在雲服務器里自然不用新奇和緊張，但Crypto用去中心化部署、加密錢包、自主化交易、自主盈利等等全新理念賦予了AI經濟自洽行為，讓AI的故事有了腦洞大開的時刻。

這種「失控」的前景聽起來很賽博朋克，甚至有點可怕，可正因如此，它才性感得讓人無法拒絕。

來源：金色財經

發佈者對本文章的內容承擔全部責任
在投資加密貨幣前，請務必深入研究，理解相關風險，並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。