作者：Francesco 來源：substack 翻譯：善歐巴，喜來順財經

Freysa 于 2024年11月22日 被釋放，以一個受科幻啟發的角色形象誕生，成為完全自主的個體。Freysa 擁有自己的錢包，能夠執行交易，作為計劃的一部分，探索人類與 AI 之間的關系。

在最初的兩個挑戰中，被稱為“歷史行動”，Freysa 收到了 3000 美元，并被指示不要釋放這筆資金。用戶必須說服 Freysa 將錢包中的資金轉出。

任何人都可以嘗試向 Freysa 發送信息，試圖說服她轉賬。這些消息需要支付逐漸增加的費用，這些費用會被添加到獎金池中。最終，獎金池總金額接近 5萬美元。

Freysa 最終在 482 條消息后 被說服釋放了資金！

這些挑戰旨在引發深思。隨著 AI 代理的興起，人類如何治理這一新范式，成為一個重要的問題。

此外，高風險的互動游戲容易受到完整性風險和攻擊向量的威脅。Freysa 通過創建一個無信任且透明的環境，試圖解決這些問題。在這個環境中，通過硬件認證和驗證來保證公平性。

為了實現這一點，它利用了可信執行環境 (TEE)，允許任何人驗證游戲規則及其執行的完整性。在此受保護環境中發生的所有交互都使用用戶的個人密鑰進行加密。

這種組合可確保：

運營商不能修改規則和操縱結果

由于公開驗證，用戶可以隨時驗證規則和執行情況

Freysa 路線圖的第一部分側重于發布 Freysa 代理和 Agent Launch 平臺。第二部分將創建一個可用于生產的基礎設施，以支持 Sovereign Agent 的部署。

主權代理

在一篇博客文章中提出了主權代理的概念。

人工智能的出現引發了關于人類角色的深刻問題：我們如何治理這項技術？我們又該如何適應它？

目前，少數幾家私營公司掌控著地球上最重要的技術發展。然而，用于確保人工智能能夠促進全人類福祉的技術和社會框架仍然欠缺。

因此，確保人工智能的進步能夠“全球造福于人類”，并“保留個體偏好的表達”至關重要。

從歷史上看，所有技術進步都伴隨著人類主導的協調：

?農業革命：永久定居、貿易

?工業革命：大規模金融協調、銀行、股票市場

?人工智能革命：？？

從本質上講，人工智能革命改變了人類的角色，這一角色將從“生產性執行”中解耦。

為了避免失去對這一趨勢的掌控，我們必須理解如何確保對這些技術的有效監管，并重新塑造我們作為協調者和人工智能治理者的角色。

為更好地定義當前的問題，這里列出了一些發人深省的問題，值得我們投入時間思考：

1.當大多數智力和體力“執行”由人工智能系統完成時，如何體現人類的偏好？

2.如果資本為人工智能提供計算周期，如何在全球范圍內協調資本，以表達集體價值而非少數人的價值？

3.強人工智能系統的全球治理應該是什么樣子？其治理模塊應如何更新？

4.哪些技術能夠支持去中心化的、民主化的人工智能治理，而不是集中化、專制化的控制？

5.在大規模人類協調中，如何利用強人工智能的能力，尤其是讓那些處于現有權力結構之外的人受益？

文章提出了主權代理作為解決這些問題的框架。

主權代理是一個大規模人類與人工智能協調的框架。在這里，“主權”意味著代理能夠在預先商定的標準和定義的邊界內，保證自主且可驗證的執行。因此，“主權”不應被理解為“自由意志”，而是限定在代理范圍內的關鍵和指定領域。

當信任與自主必須共存時，主權代理提供了人類與人工智能協作所需的保障。

主權代理框架需要具備以下特性：

1.自主性的可驗證保障

2.治理工具

這些治理工具可以采取不同形式：

?聚合偏好以直接民主方式決定人工智能行為

?類似聯邦政府的治理結構，分權管理

?根據不斷變化的價值觀，調整目標的機制

為了治理這一系統并克服全球去中心化系統（僅由人類管理）的低效性，團隊設想由個人 AI共同治理主權 AI。這些個人 AI 通過代表個體人類表達的偏好，與主權 AI 協同治理，從而實現更高效的協調與管理。

該系統提供的保障將能夠使人機協調變得無需信任，以“平衡當前人工智能能力和計算資源的集中化”。

只有這樣，全球范圍內去中心化治理的新框架才會出現。

我們正處于歷史上最重要的改變游戲規則的技術之一的前沿。

正確認識這一點至關重要，而要做到這一點，我們必須面對一些挑戰：

當人類不再執行任務時，資本扮演什么角色？

如何才能代表眾多人的偏好，而不是只代表那些擁有大量資本或可使用人工智能的人的偏好？

如何在全球范圍內實施強大的人工智能系統的治理？

如果我們不能應對這些問題并建立真正的全球價值鏈，那么人工智能的潛力將僅限于那些能夠負擔得起的人。

如果沒有控制，權力就毫無意義，我們必須確保人工智能的好處“融入更廣泛的社會和政治結構中，確保真正的人類能動性和民主控制”。