【文/閆錦鋒】
本文是
“#揭開AI神秘面紗”
系列文章的一部分，該系列文章（試圖）消除圍繞人工智慧的術語和流言的歧義。
在一個機器人智勝人類的世界裡，人類將何去何從？
這是思想領袖和科技億萬富翁之間激烈辯論的焦點。
一些人認為，我們正在穩步走向人工智慧的末日，人類要麼被機器人消滅，要麼被機器人奴役，我們必須迅速採取行動防止這種情況發生。其他人會告訴你，人工智慧永遠是人類最好的朋友，即使它智勝了它的創造者，我們也應該全速前進發展人工智慧。
每一次工業革命，都有一個反烏托邦和烏托邦的未來願景。毫無疑問，我們正處於人類歷史上最大的技術革命的門口，或者正處於其中。
一切都與網際網路相連，資料豐富，人工智慧演算法滲透到每個領域。
最終會發生什麼還很難說。未來總會有驚喜，無論是最好的還是最壞的情況。
WALL-E：人工智慧烏托邦
人工智慧烏托邦陣營有一些非常強大的支持者，包括DeepMind的德米斯·哈薩比斯（Demis Hassabis）和谷歌的彼得·諾維格（Peter Norvig）。諾維格提出了人工智慧辯論的核心概念之一：
通用人工智慧和超級人工智慧，即人工智慧的推理和決策能力成為人類的競爭對手或超越人類的能力。
這是一個既令人興奮又令人恐懼的發展。一些人曾經認為這將在世紀之交之前發生。有些人，比如諾維格，認為我們甚至不應該討論這個問題。
他在接受《福布斯》採訪時說：“我們知道如何構建真正的智慧——我和妻子做到了兩次，儘管她做的工作更多。”“我們不需要複製人類。這就是為什麼我專注於擁有工具來幫助我們，而不是複製我們已經知道如何做的事情。我們希望人類和機器合作，做一些他們自己無法完成的事情。”
以下是人工智慧烏托邦將如何發展的假設：
隨著人工智慧擴充套件到每個行業，越來越多以前需要人類努力和思考的任務將變得半自動化或完全自動化。
多虧了人工智慧驅動的工具，人類將變得更有效率，能夠以更少的努力和教育完成大量複雜的任務。
隨著人工智慧變得越來越聰明和高效，人類的作用將越來越不重要，最終將被人工智慧演算法完全取代。
隨著人類的消失，成本將逐漸下降，（但願）價格也會隨之下降。例如，維護一輛自動駕駛出租車的成本遠遠低於支付給出租車司機的工資。
在某一時刻，當我們實現了一個完全自動化和自我維持的經濟，很少或根本不涉及人力，成本將完全消失。那麼，
金錢的價值和意義將永遠改變，因為人們將根本不需要工作或賺錢來謀生。
那時人類會怎麼做？迪士尼動畫片《機器人總動員》（WALL-E）描繪了人類被機器人寵愛的人工智慧烏托邦。這可能有點極端。DeepMind的科學家德米斯·哈薩比斯（Demis Hassabis）認為，人工智慧將回答這個問題。哈薩比斯在發表於《金融時報》的一篇專欄文章中寫道：“總有一天，我們可以更好地理解是什麼讓我們與眾不同，包括揭示夢、創造力、甚至意識等關於大腦的經久不衰的謎團。”
通往人工智慧烏托邦的道路並不平坦。
人工智慧的進步將對就業格局造成重大破壞，將對全球經濟執行的基礎構成挑戰。在金錢成為歷史的那一天到來之前，那些即將失業的人，計程車和卡車司機，會計師，律師（也許還有總統？）等人的需求都必須得到解決，以免我們走向災難場景。
《駭客帝國》和《終結者》：人工智慧反烏托邦
人工智慧反烏托邦陣營也有一些重量級的支持者，甚至在科技行業，包括埃隆·馬斯克、比爾·蓋茨和斯蒂芬·霍金等人。
在一次美國州長聚會上，馬斯克強調，
政府需要在人工智慧失控之前對其進行監管。
馬斯克說：“我一直在敲響警鐘，但直到人們看到機器人在街上殺人，他們才知道該如何反應，因為這看起來太虛無縹緲了。”
霍金某次在劍橋大學發表演講時警告說，雖然人工智慧可以解決疾病和貧困等問題，但如果管理不當，它也可能成為人類歷史上最大的災難。
關於人工智慧反烏托邦將如何發展，有各種各樣的預測，但這裡有一個場景，你可能會讀到很多：
人工智慧：現代方法（第4版）（上下冊）（非同步圖書出品）
¥
172。3
京東
購買
就目前而言，人工智慧的進步仍然依賴於人類科學家和工程師。但總有一天，人類將破解通用人工智慧的密碼，這種具有自我意識的人工智慧將能夠在沒有人類幫助的情況下自我發展和進步。
AGI將開發人工超級智慧，這種人工智慧比人腦強幾個數量級，能力也更強。屆時，人類可能會成為人工智慧的麻煩，要麼像電影《駭客帝國》（Matrix）一樣成為人工智慧的奴隸，要麼像電影《終結者》（Terminator）一樣成為人工智慧的敵人。
事實上，馬斯克已經在為人類再也不能與機器人生活在一起的那一天做準備了。
這有點太誇張了，但
人工智慧還可以以更現實的方式導致世界末日。
其一是
人工智慧正在分化社會階層。
隨著人工智慧演算法產生更多收入，征服更多工作崗位，讓更多人失業，有限數量的人，即那些經營大型科技公司的人，將變得更加富有，而其餘人的生活將陷入貧困。這最終將導致超級富豪們所擔心的世界末日場景，當乾草叉來敲他們的門時。
另一個是
人工智慧的政治武器化，這比其軍事用途危險得多。
我們正在走向一個人工智慧演算法和規定性分析可以影響你的每一個行動和決定的時代。我們已經看到，決定社交媒體反饋和搜尋結果顯示內容的演算法正在影響公眾輿論。如果一個惡意的行為者，比如一個專制政權，決定採用“大資料助推”，並將所有這些演算法改變為對自己有利的方式，該怎麼辦？這樣，它就可以在不使用武力和煽動叛亂的情況下操縱群眾。
反烏托邦的場景不勝列舉。
具有諷刺意味的是，人工智慧出錯的方式太多，而正確的方式太少。我個人的觀點是：
未來會與我們所期望的大不相同，但我傾向於積極的一面，並期待最好的結果。你認為事情會如何發展?
往期精華：
什麼是狹義人工智慧、一般人工智慧和超級人工智慧
想了解更多精彩內容，快來關注科技創造財富