與人工智慧相關的立法項目已列入立法規劃；專家稱人工智慧面臨倫理道德框架、隱私保護等問題
李彥宏
全國政協委員、百度董事長兼CEO
立法本身不應該太超前，很多時候新事物剛剛出現，讓它稍微跑一段時間然後再總結經驗，找到規律再來立法。其次，在不同的領域，涉及的立法都不一樣，比如説像無人駕駛，在過去就沒有相關的法律。
劉慶峰
全國人大代表、科大訊飛董事長
人工智慧立法首先要保障人類的生命和財産安全，也就是説人工智慧一定是要在風險可控範圍內來使用，比如説在自動駕駛領域，它的應用門檻和標準是什麼；在醫療領域，人工智慧要達到一定的準確度，而且最好通過一定的資質認證。
3月4日上午,十三屆全國人大二次會議舉行新聞發佈會，大會發言人張業遂表示，已將與人工智慧密切相關的立法項目列入立法規劃。
張業遂稱，全國人大常委會已將一些與人工智慧密切相關的立法項目，如數字安全法、個人資訊保護法和修改科學技術進步法等，列入本屆五年的立法規劃。同時把人工智慧方面立法列入抓緊研究項目，圍繞相關法律問題進行深入的調查論證，努力使人工智慧創新發展，努力為人工智慧的創新發展提供有力的法治保障。
從2017年首次被寫進政府工作報告，到去年受到多位兩會代表委員關注，人工智慧儼然已經成為兩會的焦點。2018年國務院總理李克強作政府工作報告時提到，發展壯大新動能。做大做強新興産業集群，實施大數據發展行動，加強新一代人工智慧研發應用，在醫療、養老、教育、文化、體育等多領域推進“網際網路+”。
隨著人工智慧的迅猛發展，其對社會、經濟、文化等領域已經産生越來越深遠的影響。同時，人工智慧面臨倫理道德框架、隱私與安全保護等問題，為了讓人工智慧實現健康發展，急需一套完善的法律體系與之匹配。
從追趕到全球領先
雖然人工智慧最早的浪潮起源於上世紀50年代的美國，但經歷了近70年來的曲折發展，中國已經成為全球領先的人工智慧大國。根據聯合國下屬的世界智慧財産權組織（WIPO）公佈的研究報告《技術趨勢2019：人工智慧》顯示，在全球人工智慧領域的競爭中，中國和美國處於領先地位。
報告指出，AI專利申請最多的前20家科研機構中，有17家來自中國；AI相關科學出版物數量排名前20的科研機構中，10家來自中國。全球前30名AI專利申請方中的4家科研機構，有3家來自中國。
另據CNNIC第43次調查報告顯示，截至2018年6月，我國人工智慧企業數量已達到1011家，主要集中在北京、上海和廣東。其中，北京擁有395家企業，成為全球人工智慧企業最多的城市。
去年，習近平總書記在中共中央政治局第九次集體學習時強調指出，加快發展新一代人工智慧是我們贏得全球科技競爭主動權的重要戰略抓手，是推動我國科技跨越發展、産業優化升級、生産力整體躍升的重要戰略資源。
他在講話中特別指出，人工智慧具有溢出帶動性很強的“頭雁”效應。“在移動網際網路、大數據、超級計算、傳感網、腦科學等新理論新技術的驅動下，人工智慧加速發展，呈現出深度學習、跨界融合、人機協同、群智開放、自主操控等新特徵，正在對經濟發展、社會進步、國際政治經濟格局等方面産生重大而深遠的影響。”
立法工作有待加快
中國在熱情擁抱新一輪人工智慧熱潮的同時，從政府部門到産學研各界對於人工智慧發展所涉及的法律及倫理問題給予了高度關注。2018世界人工智慧大會開幕式上，習近平總書記強調，處理好人工智慧在法律、安全、就業、道德倫理和政府治理等方面提出的新課題。
與電商法歷時5年才正式落地不同，人工智慧立法更早被兩會代表委員關注。去年兩會期間，全國政協委員、百度董事長兼CEO李彥宏就在提案中表示，希望國家出臺政策鼓勵人工智慧的開放平臺與加速自動駕駛相關立法。
目前，中國人工智慧的總體政策在2017年7月國務院發佈的《新一代人工智慧發展規劃》中得到體現，但該規劃只是要求對人工智慧在部分領域初步建立倫理規範和政策法規，尚未上升至法律層面。由此可見，人工智慧的立法仍有待加快。
全國人大代表、湖北得偉君尚律師事務所首席執行合夥人蔡學恩認為，在人工智慧行為倫理道德框架、人工智慧應用相關的民事與刑事責任確認、隱私和産權保護、資訊安全利用等問題上的研究均需要加強。
立法有何挑戰？
人工智慧的立法需儘快提上議程，但亦應注意到人工仍屬於新生事物，如何把握適當的邊界是關鍵，尤其是考慮到人工智慧可以應用到金融、醫療、交通等多個場景中，出臺一部總括性的法律可能會阻礙人工智慧的發展。
今年兩會前夕，李彥宏在接受新京報記者採訪時就表示，人工智慧立法本身不應該太超前，“很多時候新事物剛剛出現，讓它稍微跑一段時間然後再總結經驗，找到規律再來立法。”
李彥宏表示，在不同的領域，涉及的立法都不一樣，比如無人駕駛，在過去就沒有相關的法律。“北京市很重視無人駕駛，很快有相應的法律來保障我們的創新能夠有序進行。”
全國人大代表、科大訊飛董事長劉慶峰亦向記者表示，以AI+醫療為例，雖然機器給病人診斷的平均準確率比一些基層的農村醫生要高，但是從法律層面來説機器不能給病人看病，因此更多的時候是將機器得出的結論交給醫生，讓醫生來做決定。 本版采寫/新京報記者 陸一夫
■ 訪談
李彥宏：人工智慧立法不能太超前
讓它跑一段總結經驗再立法；無人駕駛、智慧醫療等領域都需要立法
全國政協委員、百度董事長兼CEO李彥宏今年的三項提案均與人工智慧相關，分別是構建智慧交通解決方案，讓老百姓出行更順暢；完善電子病歷管理制度，促進智慧醫療應用探索，助力“健康中國”戰略實施；加強人工智慧倫理研究，打造智慧社會發展基石。
新京報：關於人工智慧立法，你有哪些建議？
李彥宏：首先，我覺得立法本身不應該太超前，很多時候新事物剛剛出現，讓它稍微跑一段時間然後再總結經驗，找到規律再來立法。其次，在不同的領域，涉及的立法都不一樣，比如説像無人駕駛。北京市很重視無人駕駛，很快有相應的法律來保障我們的創新能夠有序進行，到今天百度已經拿到了50張左右的自動駕駛測試車證。
醫療方面也需要相關的立法，統一電子病歷的格式，必須要有什麼樣的字段，要有什麼樣的內容，不同的醫院、機構之間進行交換，必須保護患者的隱私等等，都應該通過立法的方式來解決。
新京報：如何解決網際網路和AI發展過程中遇到的數據孤島的問題？
李彥宏：以電子病歷為例，大多數好的醫院都有電子化病歷。但是這些病歷相互之間沒有打通，我在這個醫院看病之後，到了另外一個醫院還要重新做一遍檢查。我覺得確實需要通過政府的力量制定相應的標準，來推動數據共用。
新京報：在這個過程中怎麼去保護用戶的數據隱私？
李彥宏：在共用的過程當中，我們需要特別注意保護用戶的隱私，我覺得道理上大家都認可，關鍵還是看執行的過程當中能否有一個好的機制來約束。
百度內部若干年前提過兩個詞，一個叫“平臺化”，一個叫“介面化”。平臺化是指，我做一個東西，就爭取把它做成一個平臺，可以供其他部門的人使用。介面化是指把我的能力開放給你，我告訴你我的平臺能幹什麼，但是我不把背後的數據、源代碼給你。這樣一來，數據得到了保護，智慧財産權得到了保護。
通過平臺化、介面化的方式，把邊界定義清楚，什麼人可以獲得什麼樣的資訊，獲得什麼樣的能力。然後通過一個平臺，或者是多個平臺來提供這些能力。
新京報：你認為，人工智慧行業存在哪些問題和挑戰？
李彥宏：我覺得大家對人工智慧還是有很多誤解，兩方面的誤解都存在。有一些（對技術發展速度）比較樂觀的人擔心，人工智慧一旦有了意志的話，會不會對人産生控制的能力。我覺得這個擔心其實是沒必要的，人工智慧離這一步其實還非常遠，我的判斷是永遠達不到。
另外一個極端是，人工智慧其實現在能做的有意義的事情還不夠多，市場還處在早期的階段，所以不夠重視，這也挺危險的。人工智慧的推動作用更多的是在生産端，可以大規模提升生産製造效率。如果一些企業不能及早地意識到人工智慧在這一方面能夠起到的作用，是有可能被淘汰的。
新京報：在你看來，人工智慧行業是不是存在一定的泡沫？
李彥宏：人工智慧領域肯定是有泡沫，而且泡沫還不小。任何一個新的趨勢到來的時候大家都會感興趣，一擁而上。無論是投資也好，創業也好，或者是大的公司研發方向的調整，都會向著這個新的趨勢去走，所以一定會産生一些泡沫。只有這樣大家都一起上的時候，才能夠推動這個産業迅速地走向成熟。
人工智慧行業走向成熟的過程是一個優勝劣汰的過程，剩下的一定是少數公司。我覺得這是一個很自然的過程。
今天大家講的十個技術裏面，可能有九個將來會證明其實沒什麼價值，但是有一個技術最後慢慢被打磨成了非常有價值的技術。大家需要有這種心理準備，今天很熱的一些公司，可能十個裏面有九個在五年以後就不存在了。 新京報記者 馬婧
■ 訪談
劉慶峰：立法首先要保障人類安全
人工智慧的立法核心一定要以人為本，這是立法的根本；立法應更有針對性
新京報：人工智慧時代會對現有法律體系産生哪些新挑戰？
劉慶峰：我覺得人工智慧立法的挑戰有兩方面，一是目前在原來法律體系中並沒有人工智慧方面的法律法規，人工智慧是新物種，它所帶來的積極幫助或者潛在風險都是人類沒有碰到過的，而法律體系的討論調研到最終制定存在一個比較漫長的過程。
二是人工智慧的發展日新月異，法律體系如何做到與時俱進，儘快滿足人工智慧産業發展和社會健康進步的需要，確實存在很大的挑戰，這主要體現在人工智慧對生産和生活方式的改變是全新的，其次是人工智慧的變化非常快。
新京報：對於人工智慧立法，你有哪些建議？
劉慶峰：人工智慧的立法核心一定要以人為本，這是我們立法的根本。我認為，人工智慧立法首先要保障人類的生命和財産安全，也就是説人工智慧一定是要在風險可控範圍內來使用，比如説在自動駕駛領域，它的應用門檻和標準是什麼；在醫療領域，人工智慧要達到一定的準確度，而且最好通過一定的資質認證。
第二是人工智慧應該兼顧未來社會人文的需要，倡導人機耦合的模式，簡單説人工智慧是幫助人的，而不是替代關係。在人機耦合上，我們要考慮到以人為本，未來人和機器是如何協作的。例如在醫療上我們叫人工智慧系統為輔助診療系統醫生助手，在法律上叫人工智慧為刑事案件輔助審判系統。
第三是人工智慧立法對很多老百姓來説還是陌生的，對技術也不是特別了解，所以人工智慧在立法的同時需要有檢測手段，在檢測人工智慧安全性上必須要有測試標準和方法，這樣才能使立法落到實處。
新京報：考慮到人工智慧的應用跟很多的領域相結合，立法時是否應該更具針對性？
劉慶峰：人工智慧立法應該要有針對性，就像制藥一樣，任何的藥物生産出來都要有臨床過程，通過技術分析證明它具備藥效，通過臨床驗證後再進行大規模的推廣。我覺得人工智慧也是這樣，立法時先在一定範圍內進行試點，試點通過驗證才可以去大規模落地。
人工智慧應用必須要遵循這個邏輯，而不是説大幹快上，最終導致行業泡沫過多，也容易在應用過程中帶來不必要的傷害，從而影響人工智慧健康發展。
像習總書記説的，人工智慧具有非常強的頭雁效應，未來社會將從網際網路+進化到人工智慧+時代，各行各業都可以用人工智慧深刻改變現在的生産和生活方式。對於行業裏的頭部企業，需要有更多的支援和關心。
新京報：解決數據孤島問題的同時，如何保護用戶隱私？
劉慶峰：首先是法律要同步跟上，其次是企業要有更強的保護意識，現在已經有很多服務涉及老百姓的日常生活。因此相關行業的領軍企業要做到表率作用，不僅僅是向用戶進行告知，還包括價值觀層面的指引。
第三，目前很多數據都是在用戶不知情的情況下被企業拿走，從技術層面看，我們應該通過人工智慧技術的發展給予用戶更多的選擇權，例如訊飛的翻譯機，考慮到機密資訊可能洩露，公司在設計産品的時候就做了離線翻譯的版本，這是非常必要的。
新京報：中國在人工智慧領域處於領先位置，應該如何保持先發優勢？
劉慶峰：中國要保持目前的優勢，就要以應用促進人工智慧發展，在兼顧保護和共用數據之間推動人工智慧更好地成長。歐洲就是把數據管得過嚴，影響人工智慧的發展。我認為，數據的適度管理尺度以及典型應用場景的快速突破，能夠形成數據和應用場景的良性互動，最終實現人工智慧上的領先優勢。
中國要持續保持人工智慧發展，應對人工智慧的第三次浪潮，未來還需要更大的突破，例如要在源頭技術創新上加油，進一步推動人工智慧技術在應用方面的落地，在人工智慧未來的發展中要做更多的前瞻性、基礎性的佈局，才能夠在人工智慧領域保持領先，我覺得這是非常關鍵的一步。 新京報記者 陸一夫
數據來源：中商産業研究院 新京報製圖/趙斌