新浪科技訊 北京時間3日消息，據國外媒體報道，2015年第一個星期天的下午，埃隆·馬斯克（Elon Musk）在波多黎各的一個度假勝地參加了一場有關“智力爆炸”（intelligence explosion）的閉門會議。這個略顯嚇人的理論詞彙描述的是人工智慧在認知能力上不受控制的飛躍，埃隆·馬斯克和物理學家斯蒂芬·霍金擔憂，有朝一日這將給整個人類帶來滅頂之災。

　　這是一次有關人工智慧倫理的會議，長期以來，這一領域的專家、學者都不怎麼引人注目。會議的主題是“人工智慧的未來：機遇與挑戰”，顯得十分樂觀。牛津大學人工智慧倫理學家尼可·博斯特倫（Nick Bostrom）與商業巨頭，如Skype的創始人揚·塔裏安（Jaan Tallinn）、谷歌公司人工智慧專家謝恩·列格（Shane Legg）都參與了這次會議。

　　埃隆·馬斯克和霍金擔憂“人工智慧天啟”的到來，但目前還存在著更加迫在眉睫的威脅。在過去五年中，人工智慧——特別是被稱為“深層神經網路”的人工智慧演算法分支——的快速發展使人工智慧主導的産品在我們的生活中越來越佔據著中心和前沿的地位。谷歌、Facebook、微軟和百度等公司，都在以前所未有的速度尋找人工智慧研究者，投入數以億計的美元，試圖開發出更好的演算法和更聰明的電腦。

　　幾年之前人們認為似乎無法解決的人工智慧難題如今逐漸被攻克，推動了安卓系統的語音識別，使Skype能像《星際迷航》裏那樣進行即時的翻譯；谷歌公司正在研製自動駕駛汽車，以及可以自動學習如何分辨貓類視頻的電腦系統；機器大狗如今的行走能力也越來越接近現實中的狗了。

　　“電腦視覺已經開始應用；語音識別也開始了應用，人工智慧系統有相當快的發展速度，”參與會議的人工智慧倫理學家、康奈爾大學教授巴特·塞爾曼（Bart Selman）説，“這使得這一議題變得更加緊迫。”

　　鋻於如此快速的發展，埃隆·馬斯克和其他許多人開始向人工智慧産品的開發者發出呼籲：要考慮開發過程中的倫理問題。在這次波多黎各的會議上，代表們簽署了一封公開信，承諾進行目的健康、積極的人工智慧研究，避免誤入歧途。埃隆·馬斯克也在公開信上簽了名，“所有這些最優秀的前沿研究者都認為人工智慧的安全問題非常重要，”他説，“我同意他們的意見。”

　　 谷歌公司的雄心

　　九位來自DeepMind公司的研究者也在公開信上簽了字。DeepMind是一家人工智慧公司，去年被谷歌收購。這個故事要從2011年開始講起。當時，德米斯·哈薩比斯（Demis Hassabis）在一次人工智慧會議上做了演講，之後認識了主動前來自我介紹的揚·塔裏安。哈薩比斯剛剛創立了DeepMind，而塔裏安在創立Skype之後，逐漸成了一個人工智慧安全問題的“布道者”，正在尋找一位志同道合的人。兩個人開始談論起人工智慧，塔裏安很快就投資了DeepMind。去年，谷歌公司花了4億美元收購了這家僅有50人的公司，一舉擁有了世界上最大的深度學習領域人才和專利庫。不過，谷歌還是顯得十分低調，甚至不讓哈薩比斯接受採訪。DeepMind正在進行的研究包括對周圍環境具有更好感知能力的智慧機器人和自動駕駛汽車。

　　不過，這些研究卻讓揚·塔裏安有點擔心。他在此次波多黎各的會議上做了個演講，回憶起哈薩比斯在一個午餐會上向他展示自己所開發的機器學習系統，該機器能玩20世紀80年代流行的街機遊戲《Breakout》。事實上，它不僅會玩，而且非常精通，高效而無情，令塔裏安感到震驚。“儘管作為技術人員的我對這一成就感到驚奇，但另一方面的我想到，我正在見證一個開啟人工智慧災難的玩具模型。一次突然的展示，讓我看到了意想不到的智慧潛力。”塔裏安回憶道。

　　在1975年的阿希洛馬會議（Asilomar Conference）上，分子生物學家們就重組DNA的道德底線問題進行了討論，最終在安全標準上取得了共識，簽名保證不讓人工基因改造的生物對公眾造成威脅。相比波多黎各的這次人工智慧會議，阿希洛馬會議的結果顯然更加具體。

　　在波多黎各的這次會議上，參會者的公開信概述了人工智慧的研究重點，如人工智慧的經濟和法律效應，以及人工智慧系統的安全性。近日，埃隆·馬斯克斥資一千萬美元用於支援這項研究。這些都是防止機器人破壞世界經濟，或防止它們向人類大開殺戒的重要一步。一些公司已經走得更遠。去年，加拿大機器人公司Clearpath Robotics承諾不研製用於軍事的自主機器人。該公司首席技術官瑞恩·加裏皮（Ryan Gariepy）在公司網頁上寫道：“致反對殺人機器人的人們：我們支援你。”

　　承諾不開發“終結者”僅僅是開始。像谷歌這樣的人工智慧公司必須考慮他們的産品，如自動駕駛汽車的安全性和法律責任問題。無論機器人是否會使人類失去工作，人工智慧演算法所導致的意想不到的後果，對人類來説都顯得不是很公平。舉例來説，亞馬遜公司在不同社區出售商品的價格不同，這是否符合倫理？有沒有什麼安全措施，來保障大宗商品市場不被某個交易演算法破壞？在自動駕駛交通工具的時代，從事大巴司機這樣職業的人將何去何從？

　　Binatix是一家從事股票市場交易的深度學習公司，其創始人伊塔馬爾·阿雷爾（Itamar Arel）並沒有參加波多黎各的會議，但他在讀完公開信後馬上簽了名。對他來説，智慧演算法領域的革命，以及價格低廉的智慧機器人需要被人們更好地理解。“是時候要花更多精力去理解人工智慧系統取代藍領工作所帶來的社會影響了，”他説，“這是肯定的，社會無法跟上人工智慧系統發展的速率。這絕對是個問題。”

　　倫敦帝國學院的認知機器人教授穆雷·沙納漢（Murray Shanahan）稱，對破壞性人工智慧超級大腦的預測或許會登上頭版頭條，但在近幾年，這些更加枯燥、平淡的擔憂意見才是更應該見諸媒體的。他説：“很難預測到底會發生什麼，但我們能肯定，它們一定會對社會造成影響。”（任天）