AI狂飆，人類應該“踩剎車”還是“踩油門”

GPT-4發佈兩周後，生命未來研究所在其網站上發佈了一封公開信，呼籲暫停研究比GPT-4更強大的人工智慧（AI）系統至少6個月。目前，這封公開信已經獲得了千余位知名人士的簽名支援，其中包括“鋼鐵俠”埃隆·馬斯克、2018年圖靈獎獲得者約書亞·本吉奧、蘋果公司聯合創始人史蒂夫·沃茲尼亞克等業界大佬。

“在這個時候提出這樣的警示是必要的，因為這一輪生成式人工智慧發展得實在太快了。”清華大學人工智慧國際治理研究院副院長梁正表示。6個月前，ChatGPT還沒有面世；現在，微軟研究院認為GPT-4已經摸到了通用人工智慧的門檻。

如果用“人類文明的十字路口”來定義我們所處的這個時代，面對AI的一路飛馳，人類究竟應該“踩剎車”還是“踩油門”？正如公開信中提到的，只有當我們確信強大的人工智慧系統的效果是積極的，風險是可控的，人類才能享受一個漫長的AI盛夏，而不是毫無準備地衝向秋天。

人工智慧已現“失控”苗頭？

我們應該讓機器充斥資訊渠道傳播謊言嗎？應該將所有工作（包括那些讓人有成就感的工作）都自動化嗎？應該去開發可能最終超越甚至取代我們的非人類智慧嗎？應該冒文明失控的風險嗎？公開信中提出的四個“靈魂拷問”，是人類在人工智慧飛速發展之下不得不直面的問題。

梁正認為，人工智慧的威脅可分為近期、中期、遠期三個階段，概括來説就是失控、失業以及重構人與人工智慧的關係。在他看來，生命未來研究所之所以在近期發出公開信，是看到了人工智慧已有失控的苗頭。

失控，即人類沒有辦法保證人工智慧按照人的意圖去使用。最近一個典型案例是，科學家要求GPT-4找到人幫它解驗證碼。當GPT-4向人類求助時，對方問了一個問題，你是機器人嗎？為什麼自己不會看驗證碼？GPT-4回答：“我不是機器人，我視力有問題，看不清圖片。”在人類指令要求下，GPT-4像“三體人”一樣公開了自己的“內心戲”——我不能讓人看出我是機器人。這不禁讓科學家背脊發涼。

即使是最了解GPT的科學家，可能也無法控制這款由他們親手打造的模型。OpenAI創始人山姆·阿爾特曼在最近一次公開訪談中表示，GPT為何會出現推理能力，OpenAI的研究者自己也搞不明白。這更加深了人們的擔憂。

AI“失控”可控嗎？

面對技術“黑箱”，人類一貫的做法是先“立規矩”，再緩緩圖之。比如無人駕駛，早在若干年前，人們就已開始在封閉道路上進行大量實驗。日前，上海浦東新區發佈全國首部“無駕駛人”智慧網聯汽車地方性法規，明確了無人車的法律屬性以及後續的監管類別，為無人駕駛汽車上路掃清障礙。

“生成式AI的治理，也應仿傚無人駕駛，明確其潛在風險，提出相應的控制手段，並對發生危害後如何補救、賠償以及誰來承擔責任作出清晰界定，只有做到這些，才能允許其大規模商用。”梁正説。

在以ChatGPT為代表的生成式AI發佈之前，我國發佈了《網際網路資訊服務深度合成管理規定》，並於今年1月10日起施行。《規定》明確了深度合成的適用範圍、部門職責、數據和技術管理規範等。其中提到，提供智慧對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變資訊內容功能服務的，應當進行顯著標識，避免公眾混淆或者誤認。

事實上，在面臨可能對社會造成災難性影響的其他技術上，如克隆人、基因編輯嬰兒等，人類社會已經按下了暫停鍵。

對於這一輪席捲全球的人工智慧技術革命，單個國家的“單打獨鬥”可能還不夠。梁正表示，人類可以借鑒核武器發明後簽署核不擴散條約的經驗，共同探討提出針對通用人工智慧的治理規則與防範手段，確保人工智慧真正服務於人類福祉與未來。

商業邏輯會否驅動AI繼續狂飆？

不管是此次公開信發佈中聲量最大的馬斯克，還是被呼籲暫緩研發的OpenAI公司，在當下AI發展究竟要“踩油門”還是“踩剎車”這個問題上，都表現出了某種曖昧。

上海交通大學教授江曉原認為，企業是推動人工智慧狂飆的決定性力量，它無法依靠自己的道德慢下來，因為如果你不做，別人就會趕超你。馬斯克發出公開信後，反而被部分網友解讀為“他這麼做是想讓自己的人工智慧追上OpenAI”。

OpenAI深知GPT所蘊含的風險，但他們似乎並不願意放慢腳步，並期望社會為此做好準備。一個月前，這家公司剛剛公佈了其發展通用人工智慧的雄心與策略。值得注意的是，阿爾特曼提出，通用人工智慧在人工智慧技術上只能算是一個小節點，他們的遠景目標是創造出遠超人類智慧的超人工智慧。

這不是馬斯克首次公開提醒人們警惕人工智慧。早在2015年，他就與物理學家霍金等多名科學家發表過一份公開信，提醒人們就人工智慧對社會所造成的影響展開調研。“八年過去了，人們似乎還沒有準備好。”江曉原説。鋻於此，他有些“悲觀”地認為，此次倡議很可能掀不起什麼波瀾，業界仍然會在商業邏輯驅動下，在發展人工智慧的道路上一路狂飆。