從自動駕駛、AI醫療再到工業生産,以及我們生活的各個領域,AI正在展現巨大變革賦能的潛力。但是,隨著AI應用的廣度和深度不斷拓展,諸如演算法安全、數據歧視、數據濫用等諸多問題也顯露出一些風險與隱患。從而,引發人們對人工智慧信任的思考。
7月8-10日,世界人工智慧大會于上海舉辦。作為世界人工智慧大會的主題論壇之一,可信AI論壇以“AI向善全球共治”為主題,就可信AI的認知演進、理論研究、産業探索等議題,進行深入探討,攜手共建安全、透明、公平、可控的未來智慧世界。
中國信通院院長余曉暉提到,當前全世界各國都高度重視可信人工智慧的發展,發展可信人工智慧是我們真正最終能夠釋放出人工智慧的前景,能夠造福于全球我們人民的發展,這是一個關鍵的基礎。
上海市經濟和資訊化委員會主任吳金城中表示,面向智慧時代的發展機遇,上海正全面推進城市數字化轉型,推動人工智慧在增強經濟新動能,改善生活品質,提升治理效能等方面發揮引領作用。人工智慧賦能數字化轉型的過程也是推動AI技術卓越、安全、可信的過程,未來將在城市數字化轉型實踐中,加快完善人工智慧治理規範,探索形成上海準則。
中國科學院自動化研究所研究員、國家新一代人工智慧治理專委會委員、聯合國教科文組織人工智慧倫理特設專家組專家曾毅認為,可信人工智慧系統必須有線上連續學習和隨時糾正能力。可信人工智慧絕對不僅僅是技術問題,還有社會的視角。如何利用技術賦能跨文化的互信,是真正實現可信人工智慧不得不做的事情,甚至是最後成功關鍵。
清華大學國強教授、智慧産業研究院研究員聶再清表示,AI經常會與中文的“愛”聯繫到一起,其實表達了大家對AI有期待,即讓AI有愛。技術是中性的,只有有愛,才可以産生用戶價值,AI向善,技術才能真正的走到千家萬戶變成日常生活一部分。
復旦大學類腦智慧科學與技術研究院副院長王守岩提出,AI正在全面地,複雜地影響著整個社會的發展,對於整個社會的影響所帶來的不確定性,有必要儘快建立可信的體系,可信的文化,可信的治理方式。
浙江大學電腦科學與技術學院教授宋明黎認為,可信AI應該至少包含三個方面,第一是數理模型可信可靠;第二是機理模型的可解釋,可信性;第三是推理結果的可預期性。
中國社會科學院哲學所研究員、中國社會科學院科學技術和社會研究中心主任段偉文從哲學上解讀AI向善,他提出,技術的發展應賦予每個人更多的發展的權力,AI向善不僅能給予更多群體跟上人工智慧的機會,而且讓他們在這個過程當中學會如何面對世界,如何開創未來以及如何尋找人生意義。
上海交通大學約翰·霍普克羅夫特電腦科學中心副教授張拳石表示,向善的AI就是求真的AI,AI向善首先模型得求真,求真後用人類價值體系看它是否向善。
“對於學術界來説,在智慧城市領域,從宏觀來講,更加關注城市的感知和理解能力,從微觀來講,也非常注重醫療智慧的落地能力,”武漢大學電腦學院副院長、武漢大學人工智慧研究院常務副院長杜博談到,“未來城市應該有更強觀測數據能力,更多的人工智慧計算中心,更多的落地場景。”
中國科學技術大學電子工程與資訊科學系副教授田新梅認為,科技企業在可信AI裏面起著非常重要的作用,首先不僅是很多關鍵技術的提出者,更重要是要把科學技術轉化成應用落到實地,一項技術只停留在實驗室是沒有用的,要轉化落地服務人民才是有用的,科技企業肩負著這樣的重任。