人工智能未來如何， 它對于人類又意味著什么都是當下的熱門話題。關于人工智能未來對工作市場的影響；達到人類水平的人工智能是否以及何時會出現；這又會不會引發智能大爆發；對于這樣的未來我們是應該積極擁抱還是感到害怕等諸如此類的問題，世界頂級專家之間一直存在爭議。但是也有一些煩人的偽爭議是由于人們理解錯誤和總是彼此討論不休引起的。為了幫助我們把精力集中在有趣的爭議和公開的問題而不是誤解上，就讓我們一起來破解最常見的神話（注：本文所說的「神話」和傳說中的「神」無關（如果人工智能不會成為我們的神的話），而是指毫無根據的猜測和論斷）。
時間表的神話
關于時間表的第一個神話：機器極大超越人類水平智能需要花多長時間？關于這個問題的一個常見錯誤概念是，我們認為機器超過人類智能是毋庸置疑的。
我們知道的一個流行的神話是本世紀內會有超人類人工智能出現。事實上，歷史充滿了技術的過度炒作。那些對我們許下承諾的現在會有的飛行汽車和聚變電站在哪里呢？過去人工智能也是被反復夸大，甚至該領域的一些創始人也在夸大。例如，John MaCarthy （他造出了「人工智能」這個詞）、Marvin Minsky、Nathaniel Rochester 和 Claude Shannon 寫過一個過于樂觀的預測：「我們提出一個達特茅斯學院在1956 年夏季做出的兩個月，十個人的人工智能研究[...]，我們需要作出嘗試，找到如何讓機器使用語言形成抽象和概念以解決目前只有人類才能解決的問題的方法，并讓機器能自我改進。我們認為如果能精心挑選出一個科學家團隊，合作一個夏天，這個問題就能有重大突破。」
另一方面，一個流行的反神話是我們知道本世紀內不會出現超人類的人工智能。研究者們已經從各個方面估算了超人類人工智能離我們還有多遠，但是由于技術懷疑論者之前很多關于技術的悲觀語言都沒有實現，所以我們還是無法斷定本世紀內不會有超人類人工智能。例如，Ernest Rutherford（可以說是這個時代最偉大的核物理學家）在 1933 年曾說過———在西拉德發明的核反應鏈前的 24 小時內—— 所謂核能就是「鏡中花水中月」。還有在1956年時，皇家天文學家（ Astronomer Royal ）Richard Woolley 把星際航行稱為「完全是胡扯」。這種神話最極端的形式是超人類智能永遠不會出現，因為它在物理學上是不可能的。然而，物理學家知道大腦由夸克和電子排列構成，運作起來就像一個強大的計算機。也知道沒有物理定律可以阻止我們建立更智能的夸克斑點（quark blobs）。
還有一些調查問了研究者們按至少 50 % 的概率算，人類水平的人工智能距離我們還多少年。所有的這些調查都有同樣的結論：世界頂級專家們的意見不一致，所以我們根本不知道答案。例如，在 2015 波多黎各人工智能大會（2015 Puerto Rico AI conference）上的一次人工智能研究者意向調查中 ，平均（中位數）的答案是 2045 年，但一些研究人員猜測需要幾百年或更長時間。
還有一個神話是，擔心人工智能的人認為要不了幾年，上述預言都能實現。但事實上，根據記錄大多數擔心超人類人工智能的人認為至少還需要幾十年才能實現這些預言。但是這些人強調只要我們不是 100% 肯定本世紀不會出現超人類人工智能，最好還是要為意外啟動安全研究。很多涉及人類水平人工智能的安全問題都很棘手，需要幾十年才能解決。所以，現在就要開始研究安全技術，而不是等到一些程序員灌了幾瓶紅牛決定開啟這些可能對人造成巨大傷害的人工智能的前一晚才開始著手研究安全措施。
爭議的神話
另一個常見的錯誤概念是擔心人工智能并擁護人工智能安全研究的人都是那些對人工智能不甚了解的盧德派。當標準人工智能教科書（人工智能：一個現代化的方法， Artificial Intelligence: A Modern Approach）作者 Stuart Russell 在波多黎各人工智能大會演講中提到這個觀點時，引來了下面觀眾的放聲大笑。支持人工智能安全研究本身就有巨大爭議。事實上，為了支持一個適度投資人工智能安全研究，不需要讓人們相信人工智能會帶來高風險，只要讓他們知道安全研究不是可忽略的就行了。就像如果你想讓一戶家庭購買家庭保險，只要向他們證明房屋火災不是不可能發生的就行了。
也許是媒體讓人工智能安全 爭論看起來比現實更加具有爭議。畢竟，恐懼是可以賣錢的，用斷章取義的引用來宣告厄運迫在眉睫的文章能產生比平衡各方觀點的客觀性言論更多的點擊。結果是，從媒體文章的引用中獲取觀點的兩個人只知道對方的觀點很可能是想法上的分歧比較多。比如，一個技術懷疑論者只看了英國某小報報道的比爾蓋茨的某些觀點就錯誤的認為蓋茨相信超級智能迫在眉睫。類似的還有，支持有益的人工智能運動的人可能就只知道吳恩達說過自己不擔心人工智能就像不擔心火星人口過剩，這樣的人或許會錯誤地認為吳恩達毫不關心人工智能安全問題，但是事實是，吳恩達關心這個問題。問題的癥結在于因為吳恩達的時間表估算的太長了，所以相較于長期問題，他很自然地傾向于優先考慮短期內人工智能面臨的挑戰。
關于超人類人工智能風險的神話
「Stephen Hawking 警告機器人的崛起可能是人類的災難。」看到這樣的標題，很多人工智能研究者都會翻白眼。很多人都記不清看過多少類似的文章了。通常來說，這些文章都都會描述到一個拿著武器面目可憎的機器人，并建議我們要擔心機器人崛起后會殺了人類，因為它們開始有了意識變得邪惡起來。樂觀點說，這類文章著實讓人印象深刻，因為他們簡明扼要地總結了人工智能研究者不會擔心的情景，這個情景結合了三個獨立的錯誤概念：對意識、邪惡和機器人的憂慮。
如果你沿路開著車，你會有一個關于顏色、聲音等的主觀經驗。但是一輛自動駕駛汽車會有主觀經驗嗎？它的感受就是一個自動駕駛汽車的感受嗎？即便關于意識在自我權利的神秘非常有趣，它也與人工智能風險沒有多大關系。如果你被一輛無人駕駛車撞了，那么它是否有主觀意識對你來說意義也不大。同樣地，會影響我們人類的是超級智能人工智能會做什么，而不是它的主觀感受如何。
害怕機器會變成魔鬼是另一種不相干的憂慮。真正需要擔心的不是它的惡意，而是能力。定義中的超級智能人工智能擅長達到任何目標，所以我們需要確保的是讓它的目標始終與我們的目標一致。人類一般不討厭螞蟻，但是我們比它們聰明太多，所以如果我們想建一座水電站大壩時有一座蟻山在那里，那就對螞蟻來說太糟了。有益的人工智能運動的目標是避免將人類置于螞蟻的地位。
對意識概念的誤解與機器沒有目標的神話有關。機器顯然能有狹義上的目標——做出目標導向的行為，比如，熱跟蹤導彈被最簡潔地解釋為以擊中目標為目標。如果你感到被一臺目標和你不一致的機器威脅了，而給你帶來的麻煩的正好是狹義上的目標，不是機器是否有意識，也不是它感受到的目標感。如果熱跟蹤導彈正在追蹤你，你大概不會辯解：「我不擔心，因為機器沒有目標！」
我同情 Rodney Brooks 和其他被聳人聽聞的小報妖魔化的機器人先驅，這對他們不公平，因為一些記者看起來總是盯著機器人不放，在文章中把機器人描繪成長著紅色眼睛面目猙獰的金屬怪獸。事實上，有益的人工智能運動主要關心不是機器人而是智能本身：尤其是與我們目標不一致的智能。給我們帶來麻煩與我們目標不一致的超人類人工智能不需要機器人身體，僅僅是一個互聯網連接或許就能智勝金融市場，在發明上超越人類研究員、操縱人類領袖、甚至設計出我們無法理解的武器。即便造不出一個這樣的實體機器人，一個超級智能和超級富有的人工智能也可以很容易地收買或操縱許多人，讓他們在不知不覺中按照它的意思做事。
這個機器人誤解還與機器不能控制人類的神話有關。智能可以實現控制：人類控制老虎不是因為我們更強壯，而是因為我們更聰明。這意味著，如果我們放棄人類作為地球上最聰明物種的地位，我們也就可能放棄了控制權。
有趣的爭議
不要在上述錯誤概念上浪費時間了，讓我們關注那些專家都在爭論的真正的有趣的爭議。你想要什么樣的未來？我們應該發展致命的自動武器嗎？你想在工作自動化中發生什么？你會給今天的孩子們什么樣的職業建議？你喜歡新的工作取代舊的，還是一個沒有工作的社會，每個人都享受休閑和機器生產財富的生活？我們會控制智能機器嗎，還是它們會控制我們？你希望它會是什么樣的，以及我們如何才能讓未來變成你期望的那樣？歡迎一起討論這些問題！
