2017GMIC全球移動網際網路大會昨日在京開幕,本屆大會為期5天,主題為“天·工·開·悟”(New Frontiers of Intelligence)。著名物理學家斯蒂芬·威廉·霍金髮表了《讓人工智慧造福人類及其賴以生存的家遠》主題演講。
霍金錶示:“強大的人工智慧的崛起,要麼是人類歷史上最好的事,要麼是最糟的。對於好壞我們仍無法確定,現在人類只能竭盡所能,確保其未來發展對人類和環境有利,人類別無選擇。”
人工智慧的研究與開發現在正以極快的速度迅速推進,霍金指出:“也許我們所有人都應該暫停片刻,把我們的研究重復從提升人工智慧能力轉移到最大化人工智慧的社會效益上面。”基於這樣的考慮,美國人工智慧協會(AAAI)于2008至2009年,成立了人工智慧長期未來總籌委員會(Presidential Panel on Long-Term AI Futures),他們近期在目的導向的中性技術上投入了大量的關注,確保人工智慧系統須要按照人類的意志工作。
提及聰明的機器將能夠代替人類正在從事的工作,並迅速地消滅數以百萬計的工作崗位。霍金錶示:“文明所提産生的一切都是人類智慧的産物,我相信生物大腦可以達到的和電腦可以達到的,沒有本質區別。因此,它遵循了‘電腦在理論上可以模倣人類智慧,然後超越’這一原則。但我們並不確定,所以我們無法知道我們將無限地得到人工智慧的幫助,還是被藐視並被邊緣化,或者很可能被它毀滅。”
霍金在演講中提到,2015年1月,霍金與和SpaceX太空探索技術公司和特斯拉CE埃隆-馬斯克等其他人工智慧專家簽署的一份關於人工智慧的公開信,目的提倡就人工智慧對社會所造成的影響做認真的調研。在這之前,埃隆·馬斯克就警告過人們:超人類人工智慧可能帶來不可估量的利益,但是如果部署不當,則可能給人類帶來相反的效果。霍金稱這份公開信號召展開可以阻止潛在問題的直接研究,同時也收穫人工智慧帶給人類的潛在利益,同時致力於讓人工智慧的研發人員更關注人工智慧安全。
在過去的20年裏,人工智慧一直專注于圍繞建設智慧代理所産生的問題,也就是在特定環境下可以感知並行動的各種系統。在這種情況下,智慧是一個與統計學和經濟學相關的理性概念。通俗地講,這是一種做出好的決定、計劃和推論的能力。基於這些工作,大量的整合和交叉孕育被應用在人工智慧、機器學習、統計學、控制論、神經科學、以及其他領域。共用理論框架的建立,結合數據的供應和處理能力,在各種細分的領域取得了顯著的成功。例如語音識別、圖像分類、自動駕駛、機器翻譯、步態運動和問答系統。
霍金解釋,隨著這些領域的發展,從實驗室研究到有經濟價值的技術形成良性迴圈。哪怕很小的性能改進,都會帶來巨大的經濟效益,進而鼓勵更長期、更偉大的投入和研究。目前人們廣泛認同,人工智慧的研究正在穩步發展,而它對社會的影響很可能擴大,潛在的好處是巨大的,既然文明所産生的一切,都是人類智慧的産物;我們無法預測我們可能取得什麼成果,當這種智慧是被人工智慧工具放大過的。但是,正如我説過的,根除疾病和貧窮並不是完全不可能,由於人工智慧的巨大潛力,研究如何(從人工智慧)獲益並規避風險是非常重要的。
人工智慧的迅速發展,霍金稱對短期的擔憂在無人駕駛方面、智慧的致命性自主武器、由人工智逐漸可以解讀大量監控數據而引起的隱私和擔憂以及如何管理因人工智慧取代工作崗位帶來的經濟影響,而長期的擔憂則是對人工智慧系統失控的潛在風險,隨著不遵循人類意願行事的超級智慧的崛起,強大的系統是否會威脅到人類。霍金擔憂當前控制人工智慧技術的工具,例如強化學習,還不足以解決上述問題。因此,人類需要進一步研究來找到和確認一個可靠的解決辦法來掌控這些問題。
霍金曾稱人工智慧的全方位發展可能招致人類的滅亡,今年早些時候,還和一些來自世界各國的科學家共同在聯合國會議上支援其對於核武器的禁令,因為他覺得作為科學家,對核武器承擔著特殊的責任,因為正是科學家發明瞭它們,併發現它們的影響比最初預想的更加可怕。而對於人工智慧,霍金同樣覺得可能是人類文明史的終結,除非人類學會如何避免危險。
對於災難的探討並非危言聳聽,霍金希望人類要認清自己在影響當前技術的未來研發中的位置,呼籲國際條約的支援或者簽署呈交給各國政府的公開信,希望科技領袖和科學家極盡所能避免不可控的人工智慧的崛起。
一個事物的好壞都有兩面性,霍金錶達完對人工智慧的擔心後,也表示人工智慧的成功同樣也可能是人類文明史上最大的事件,他稱:“當人類的頭腦被人工智慧放大以後,也許在這種新技術革命的輔助下可以解決一些工業化對自然界造成的損害。關乎到我們生活的各個方面都即將被改變。”為此霍金去年在英國康橋建立了一個新的機構“利弗休姆智慧未來中心”,試圖解決一些在人工智慧研究快速發展中出現的尚無定論的問題。
最後,霍金錶示人類還應該扮演一個角色,確保下一代不僅僅有機會還要有決心,在早期階段充分參與科學研究,以便他們繼續發揮潛力,幫助人類創造一個更加美好的的世界,即學習和教育的重要性時,“我們需要跳出‘事情應該如何’這樣的理論探討,並且採取行動,以確保他們有機會參與進來。我們站在一個美麗新世界的入口。這是一個令人興奮的、同時充滿了不確定性的世界,而你們是先行者。我祝福你們。”
(責任編輯:張潔欣)