理解人機智慧 倡導“智慧向善”
1997年電腦“深藍”戰勝世界棋王卡斯帕羅夫，掀起了人工智慧的研究熱潮。但在現有數學體系和軟硬體的設計模式基礎之上，人工智慧在智慧水準和能力範圍上與人類智慧相比仍存在極大差距。究其原因，人類智慧和人工智慧之間還存在無法跨越的界限，人工智慧是邏輯的，人類智慧卻未必是邏輯的。依賴於“符號指向對象”的機器只能在封閉環境進行形式化計算，人類卻可以實現開放環境中的意向性算計。在這種背景下，實現人機優勢互補、倡導“智慧向善”顯得尤為重要。
人工智慧的瓶頸：用邏輯手段解決非邏輯問題
哲學家休謨曾説：“一切科學都與人性有關，對人性的研究應是一切科學的基礎。”任何科學都或多或少與人性有些關係，無論學科看似與人性相隔多遠，它們最終都會以某種途徑再次回歸到人性中。從這個角度來看，人工智慧“合乎倫理的設計”很可能是黃粱一夢。倫理對人而言還是一個很難遵守的複雜體系，對機器而言則更加難以理解。在人工智慧領域，“合乎倫理的設計”或許是科幻成分多於科學成分、想像成分多於真實成分。
當前的人工智慧及未來的智慧科學研究具有兩個致命的缺點，即“把數學等同於邏輯”和“把符號與對象混淆”。人機混合的難點和瓶頸也因此在於（符號）表徵的非符號性（可變性）、（邏輯）推理的非邏輯性（非真實性）和（客觀）決策的非客觀性（主觀性）。
真正智慧領域的瓶頸和難點之一是人機環境系統失調問題，具體體現在跨域協同中的“跨”與“協”如何有效實現的問題，這不僅關係到解決各種輔助決策系統中“有態無勢”（甚至是“無態無勢”）的不足，還涉及到許多輔助決策體系“低效失能”的朔源。也許需要嘗試把認知域、物理域、資訊域構成的基礎理論域與陸海空天電網構成的技術域有機地結合起來，為真實有效地實現跨域協同打下基礎。
如何理解和研究智慧問題？
智慧是一個非常遼闊的空間，它可以隨時打開異質的集合，把客觀的邏輯與主觀的超邏輯結合起來。智慧不是人腦（或類腦）的産物，也不是人自身的産物，而是人、物、環境系統相互作用的産物。正如馬克思所言：“人的本質不是單個人所固有的抽象物，在其現實性上，它是一切社會關係的總和”，事實上，真實的智慧同樣也蘊含著人、物、環境這3種成分，隨著科技的快速發展，其中的“物”卻也逐漸被人造物——“機”所取代，簡稱為人機環境系統。
研究智慧這樣的複雜問題是困難的，但把它分解成人機環境系統問題就相對簡單一些。人要解決的是“做正確的事（雜）”，機要解決的是“正確地做事（復）”，環境所要解決的是“提供做事平臺（複雜）”。正如郭雷院士所言：“複雜性和智慧化是系統科學發展的兩個永恒主題。複雜性主要體現的是系統科學認識世界的一面，而智慧化主要體現的是系統科學改造世界的一面。”所以，未來各國在人工智慧領域角力的焦點不僅僅是人、機、環境每一或所有單項人工智慧的領先優勢，更重要的是人、機、環境系統混合智慧的整合。
在真實的人—機—環境系統交互領域中，人的情景意識、機器的物理情景意識、環境的地理情景意識等往往同構于統一時空中，在人的行為環境與機的物理環境、地理環境相互作用過程中，人的情景意識、行為特徵並非由人的元素單獨決定，而是取決於人—機—環境系統整體，在充滿變數的人—機—環境交互系統中，存在的邏輯不是主客觀的必然性和確定性，而是與各種可能性保持互動的同步性，是一種得“意”忘“形”的見招拆招和隨機應變能力，而這種思維和能力恰恰是人工智慧所欠缺的地方。
人機混合智慧是未來發展方向
未來數字世界中，人與機器如何分工？人與機器的邊界又將如何劃分呢？
實際上，當前人機關係主要是功能分配，人把握主要方向，機處理精細過程，而未來的人機關係可能是某種能力的分工，機也可以把握某些不關鍵的方向，人也可以處理某些縝密的過程。人機的邊界在於“應”和“變”，即如何實現適時的“彌”（散）與“聚”（焦）、“跨”（域）與“協”（同）、“反”（思）與“創”（造）。
人機智慧是人—機—環境系統相互作用而産生的新型智慧系統。其與人類智慧、人工智慧的差異具體表現在3個方面：首先，在混合智慧輸入端，它把設備感測器客觀採集的數據與人主觀感知到的資訊結合起來，形成一種新的輸入方式；其次，在智慧的數據／資訊中間處理過程，機器數據計算與人的資訊認知相混合，構建起一種獨特的理解途徑；最後，在智慧輸出端，它將結果與人的價值決策相匹配，形成概率化與規則化有機協調的優化判斷。人機混合智慧是一種廣義上的“群體”智慧形式，這裡的人不僅包括個人，還包括眾人，機不僅包括機器裝備，還涉及機制機理；此外，還關聯自然/社會環境、真實/虛擬環境、網路/電磁環境等。
人機混合智慧也存在著一個難題，即機器的自主程度越高，人類對態勢的感知程度越低，人機之間接管任務順暢的難度也越大。有經驗的人常常抓關鍵任務中的薄弱環節，在危險情境中提高警覺性和注意力，以防意外，隨時準備接管機器自動化操作，也可以此訓練新手，進而形成真實敏銳地把握事故的兆頭苗頭、恰當地把握處理時機、準確地隨機應變能力，並在實踐中不斷磨礪訓練增強。即便如此，如何在非典型、非意外情境中解決人機交互難題仍需要進一步探討。
人機混合智慧是人工智慧發展的必經之路，其中既需要新的理論方法，也需要對人、機、環境之間的關係進行新的探索。隨著人工智慧的熱度不斷加大，越來越多的産品走進人們的生活之中。但是，強人工智慧依然沒有實現，如何將人的算計智慧遷移到機器中去，這是一個必然要解決的問題。我們已經從認知角度構建認知模型或者從意識的角度構建計算—算計模型，這都是對人的認知思維的嘗試性理解和模擬，期望實現人的算計能力。計算—算計模型的研究不僅需要考慮機器技術的飛速發展，還要考慮交互主體即人的思維和認知方式，讓機器與人各司其職，互相混合促進，這才是人機混合智慧的前景和趨勢。
引領倫理治理，倡導“智慧向善”
科技向善對西方而言是個有問題的提法，科技是物質世界的客觀存在，向善則是倫理道德的必然要求，從客觀存在能否推出必然要求，這是目前西方仍在爭議的話題。
科技本身沒有對錯善惡之分，能利人利己，也能害人害己；而設計、開發、使用、管理、維護、運作的人會有對錯善惡混合之分，科技向善本質是指“人”的向善。故在監管上需要堅持倫理先行的理念，建立並完善人工智慧倫理問責機制，明確人工智慧主體的責任和權利邊界；在研發上需要確保先進科技手段始終處於負責可靠的人類控制之下，預防數據演算法偏見産生，使研發流程可控、可監督、可信賴；在使用上需要確保個人隱私和數據安全，預先設立應急機制和兜底措施，對使用人員進行必要培訓等。
黨的二十大報告提出，中國積極參與全球治理體系改革和建設，踐行共商共建共用的全球治理觀，堅持真正的多邊主義，推進國際關係民主化，推動全球治理朝著更加公正合理的方向發展。作為人工智慧領域的先驅者之一，中國正在用實際行動為人工智慧全球治理體系注入東方智慧，展現了大國形象和擔當。2021年9月，中國國家新一代人工智慧治理專業委員會發佈了《新一代人工智慧倫理規範》，強調應將倫理融入人工智慧全生命週期，並針對人工智慧管理、研發、供應、使用等活動提出了6項基本倫理要求和4個方面的特定倫理規範。今年3月，中國發佈《關於加強科技倫理治理的意見》，提出應加快完善科技倫理體系，提升科技倫理治理能力，有效防控科技倫理風險，不斷推動科技向善、造福人類，實現高水準科技自立自強。近日，中國向聯合國提交《關於加強人工智慧倫理治理的立場文件》，從構建人類命運共同體的高度，系統梳理了近年來中國在人工智慧倫理治理方面的政策實踐，積極倡導“以人為本”“智慧向善”理念，為各國破解人工智慧發展難題提供了具體解決思路，值得國際社會高度重視與深入研究。