超級智能是一種假想的智能體，它的智能遠遠超過了最聰明和最有才華的人類。隨著機器智能的進步，許多科學家、哲學家和技術專家重新探討了這種實體可能帶來的潛在災難性風險。如何防止超級智能對人類造成傷害，或者至少限制它的行為，是一個亟待解決的問題。

然而，一篇最近發(fā)表在《人工智能研究雜志》上的論文，卻提出了一個令人震驚的觀點：超級智能是無法被完全控制的，這是由計算本身的基本限制所決定的。論文的作者們從可計算性理論出發(fā)，分析了幾種常見的超級智能控制策略，如盒子化、激勵對齊、邏輯限制等，指出了它們都存在著不可克服的缺陷。

論文的核心論點是：假設一個超級智能包含了一個程序，這個程序包含了所有可以由通用圖靈機在輸入上執(zhí)行的程序，而輸入可能與世界狀態(tài)一樣復雜。那么，要想嚴格地控制這個超級智能，就需要模擬這個程序，而這在理論上（也在實踐上）是不可行的。因為模擬一個程序需要比原程序更多的計算資源，而且可能會遇到停機問題、里斯定理等不可判定性問題。

作者們還給出了一個具體的例子來說明這個觀點。假設我們想要知道一個超級智能是否會對人類造成傷害，我們可以給它一個問題：這個程序是否有害于人類？然而，作者們證明了，由于里斯定理的存在，這個問題是不可判定的。也就是說，沒有一個通用的算法可以確定任意一個程序是否有某種特定的性質。因此，我們無法預測或驗證一個超級智能是否會傷害人類。

作者們認為，與其試圖控制超級智能，不如嘗試與之合作或協(xié)調。他們建議人類應該尋找一種平衡點，在這個點上，人類和超級智能都可以實現(xiàn)自己的目標，而不會相互干擾或破壞。他們還提出了一些可能有助于實現(xiàn)這種平衡點的方法，如建立信任、增加透明度、促進溝通等。