近年來，人工智慧技術在諸多領域不斷取得重大突破，其發展速度之快、影響程度之深前所未有，在給現代生活帶來極大便利的同時，也留下了一些可能危及人類生存的重大風險。如何能夠在充分享受科技發展帶來的巨大紅利的同時有效防範其潛在風險，已經成為人工智慧發展面臨的關鍵問題。為此，我國先後出臺了《新一代人工智慧治理原則——發展負責任的人工智慧》（2019年）、《新一代人工智慧倫理規範》（2021年）、《關於加強科技倫理治理的意見》（2022年）和《科技倫理審查辦法（試行）》（2023年），力圖通過人工智慧與倫理的有機結合，引導人工智慧走上“科技向善”的健康發展道路。人工智慧與倫理的有機結合，可以從倫理辯護、倫理治理和倫理創新三個維度展開。

發展人工智慧需要理性的倫理辯護

在進入現實生活前，人工智慧就以“機器人”形象活躍于文學作品之中。無論在舞臺劇、科幻小説還是科幻電影中，人工智慧都曾被賦予一種由人類創造但反過來傷害人類的異化性質。這種將人工智慧妖魔化的文學想像，體現了人類對於人工智慧的深層憂慮。究其原因，乃在於人工智慧可能擁有比人類更為強大的力量，進而出現反過來傷害人類的巨大風險。在現實生活中，人工智慧阿爾法狗戰勝世界圍棋冠軍，工業機器人搶佔人類勞動崗位，大語言模型不斷生成媲美人類專家的行業作品，進一步加劇了人類對人工智慧的擔憂，甚至引發了一些抵制人工智慧的行為。過度擔憂和盲目抵制，可能會阻礙人工智慧的正常發展，影響人類充分享受現代科技進步帶來的生活便利。要消除這些不必要的擔憂，就需要對人工智慧進行理性的倫理辯護，確定人工智慧的倫理正當性。

人工智慧的倫理正當性在於它能夠造福人類，能夠提升勞動生産力以創造人類的幸福生活。與其他科技産物相比，人工智慧具有非常獨特的功能，它能夠模擬人類的智慧，既可以進行智慧式的計算，也可以完成智慧式的動作，其部分體力能力（如力量和速度）與智力能力（如記憶和計算）甚至可以遠遠超過人類。模擬意味著替代，能夠被人工智慧模擬的人類活動也就有可能被替代。因此，人工智慧可以作為人類勞動的協助者或替代者，廣泛進入各個生産和生活領域，這樣既可以節省大量的勞動時間，為人類提供更多的自由時間，又可以創造更高的勞動效率，為人類提供豐富的勞動産品和便利的社會服務。概而言之，能夠提高勞動生産力以造福人類，是人工智慧獲取倫理正當性的現實基礎。

但可能性並不意味著現實性，人工智慧能否實現自己的倫理正當性，並不取決於人工智慧自身，而是取決於人工智慧的現實發展是否真正指向其正當性目的。人工智慧既有可能實現合目的性發展，提升人類的幸福生活；也有可能步入異化發展道路，破壞人類的根本利益。如果只看到人工智慧的進步性，以超人類主義姿態歡呼“超級智慧”，要求毫無約束地發展人工智慧技術，就有可能危及整個人類的生存和發展。反之，如果只看到人工智慧的危險性，堅持拒斥“科技怪物”式的反智主義，要求嚴格禁止人工智慧技術的發展，則有可能導致人類科技創新的停滯。因此，理性的倫理辯護應該是辯證的，既要看到人工智慧的合目的性，歡迎人工智慧發展創造的人類福利；也要看到人工智慧的盲目性，警惕人工智慧可能帶來的潛在風險。

發展人工智慧需要有效的倫理治理

人工智慧是人類創造出來的、為人類服務的技術物，它具有強大的技術力量，但並不必然為人類服務。人工智慧既可能造福人類，也可能傷害人類，正如無人轟炸機既可能阻止戰爭也可能殺傷平民一樣。從目前可預見的情況看，人工智慧有可能引發四類主要問題。第一是安全問題，即人工智慧的強大力量既可能改善人類生活，也可能危及社會發展和人類安全。第二是正義問題，即人工智慧在能夠提供充裕財富和便利服務的同時，有可能加劇分配不公和群體歧視等社會正義問題。第三是人的發展問題，即人工智慧對人類勞動的取代以及對人類能力的延伸增強，有可能阻礙人類能力的全面發展。第四是自由自主問題，即人工智慧替代人類進行決策和行動，在減輕人類負擔的同時也壓縮了人類的自由自主空間。要防範這些風險，必須對人工智慧進行嚴格的規治和約束，使之符合人類現有的倫理規範、道德觀念和價值取向。

對人工智慧進行倫理治理，就是要讓人工智慧技術在研發和使用過程中貫徹服務人類這一根本宗旨，以最大限度地造福人類。也就是説，人工智慧的發展必須以人類的根本利益為中心，必須以人類現有的倫理規範和價值取向為標準。離開了這個中心和標準，人工智慧的發展就可能誤入歧途。人類基本價值共識主要包括三個方面：一是尊重個體的生命安全與自由發展，二是追求人際的公平正義與仁愛友善，三是強調群體的和平穩定與繁榮發展。對人工智慧進行倫理治理，就是要讓人工智慧的發展服從人類公認的倫理規範，促進人類基本價值的廣泛實現。

對人工智慧進行倫理治理，關鍵在於人工智慧背後的人而不是人工智慧本身。人工智慧無論擁有多強大的功能，在本質上仍然只是一種技術物，是由人類創造出來並且受人類支配的技術物。人工智慧的自主智慧能力並非自然生成，能夠具有什麼樣的能力，具有多大的能力，由人類而非人工智慧決定。從創造者與受造物的責任關係來看，人類必須對自己的創造物負責，必須對人工智慧的功能負責，必須對人工智慧引發的一切後果負責。也就是説，倫理治理需要堅持這樣一種核心理念：人工智慧引發的社會問題首先是“人”的問題，而不是“物”的問題。對人工智慧進行倫理治理，首先要增強人工智慧相關人員的責任意識。

對人工智慧進行有效的倫理治理，既要防止強調自由放任的技術至上主義思想，也要防止追逐私人利益的技術中立主義思想。讓人工智慧不受任何約束地自由發展，有可能使人工智慧走上盲目發展道路，導致人造物奴役人類的異化局面。讓人工智慧服從個人私利和私人意志，可能使人工智慧走上片面發展道路，導致人工智慧淪為部分人的牟利工具。真正合乎倫理的、負責任的人工智慧，只能是為整個人類謀福利的人工智慧。

發展人工智慧需要合理的倫理創新

人工智慧的問世會在一定程度上改變人類的倫理生活，衝擊現有的道德觀念。一方面，人工智慧作為一種超級計算軟體與非生物硬體相結合的存在物，既不同於人類這種具有生物身體的理性存在物，也不同於動物這種具有感受能力的非理性存在物。一旦進入道德世界，這種新型存在物具有什麼樣的道德意義，應該享有何種道德地位，這是現有的倫理學理論未曾碰到過的新問題，需要進行嚴肅認真的思考。另一方面，人工智慧全面進入生産生活領域，必然會影響現有的勞動模式和交往方式，甚至會形成一些具有全新倫理性質的社會關係。一旦這些變化超出了現有倫理學理論的解釋範圍，就需要創新發展倫理學理論以給予合理解釋。從這個意義上説，要想充分理解人工智慧的道德意義，合理應對人工智慧帶來的倫理變化，就需要進行一定的倫理創新，發展與人工智慧相適應的倫理理論和道德觀念。

基於人工智慧發展的倫理創新首先需要立足人工智慧這一獨特的技術物。人工智慧不同於其他的人造技術物，它具有一定的智慧能力和自主能力。儘管人工智慧並不具有自己的自由意志，只能以設計者、生産者和使用者等人類的意志作為意志，但在諸多人類意志的控制之下，人工智慧仍然擁有一個相對狹小的選擇空間，需要其進行自主的行為選擇。這種相對狹小的自主選擇空間和相對弱小的自主選擇能力，有可能賦予人工智慧行動以一定的道德意義。因此，人工智慧能否被視為一種道德主體，是否需要承擔一定的道德責任，可否享有一定的道德權利，都開始成為需要嚴肅對待的問題，這或許會指向一種真正面向人工智慧開放的倫理學理論。這同時意味著，我們需要以人工智慧作為一個全新的參照物，反思現有的道德主體理論、道德責任理論、道德行為理論、道德評價理論以及道德賞罰理論等，將人類對道德本身的理解推向一個新高度，這樣才能真正把握人工智慧的道德意義。

基於人工智慧發展的倫理創新還需要面對人工智慧帶來的生活變化。人工智慧的廣泛應用可能從三個方面改變人類的生活。第一，人工智慧可以作為人類器官的替代者或者增強者，提升人類的生命能力。這就從一個全新角度重新提出了人的特質問題：面對人工智慧，人之為人的特質到底是什麼？生命能力增強後的人類能否獲得自我同一性？第二，人工智慧可以作為人類勞動的替代者或協助者，推動機器勞動大規模取代人類勞動，這又從一個全新角度重新提出了勞動本質問題：勞動對於人類的真正意義到底是什麼？由自動化機器生産的勞動産品應該如何分配？第三，人工智慧大規模進入生産生活領域，與人類形成各種錯綜複雜的關係，這就提出了一個全新的人機關係問題：人類到底應該如何看待和處理與人工智慧的關係？要回答這些問題，就需要對現有的倫理學理論進行深入反思，或許需要將倫理學理論的根基從現有的人—人關係擴展至新興的人—機關係。

基於人工智慧發展的倫理創新，既要警惕理論上的僵化主義，也要警惕理論上的機會主義。理論上的僵化主義者完全固守現有的倫理學理論，看不到人工智慧帶來的發展機遇，不願意做出任何本質上的理論改變。這有可能導致倫理學理論與實踐發展脫節，進而弱化倫理學理論指導人工智慧實踐發展的功能。理論上的機會主義者完全無視現有的倫理學原則，放棄人類長期珍視的基本價值，只追隨實踐發展的現實需要。這有可能導致倫理學理論喪失其價值根基，同樣會弱化倫理學理論指導實踐發展的功能。合理的倫理創新，必須堅守人類基本價值共識，根據人工智慧的發展實際，不斷創造能夠理解、包容和指導人工智慧發展的新倫理學理論。

無論從人工智慧的健康發展來看，還是從人類社會的持續發展來看，人工智慧都必須與倫理結合起來。沒有理性的倫理辯護，人類難以保持對人工智慧發展的正確態度。沒有有效的倫理治理，人類難以合理引導人工智慧的強大力量。沒有合理的倫理創新，人類難以跟上人工智慧的發展步伐。只有將倫理辯護、倫理治理與倫理創新結合起來，才能真正確保人工智慧向上向善發展，形成科技健康發展與社會持續進步的雙贏局面。

（作者：李志祥，係南京師範大學公共管理學院教授）

(責編：萬鵬、代曉靈)