9月3日，北京人工智慧安全與治理實驗室在中關村科技園門頭溝園京西智谷揭牌成立。該實驗室是面向人工智慧安全發展與治理的新型研發機構。實驗室致力於構建系統化的安全與治理體系，為人工智慧的創新和應用提供堅實的安全保障，引領人工智慧安全與治理的新趨勢。實驗室在北京市多個委辦局的指導與支援下建立，與中國科學院自動化研究所人工智慧倫理與治理中心、中國信通院人工智慧研究所共建，並得到來自清華大學、北京大學等高校和科研機構研究團隊的合作支援。實驗室坐落于北京市中關村科技園門頭溝園京西智谷，並得到門頭溝區政府的大力支援。實驗室揭牌儀式作為北京數據基礎制度先行區門頭溝片區揭牌儀式重點環節之一于門頭溝京西智谷舉行。北京市經信局、北京市委網信辦、門頭溝區、中關村發展集團、京能集團相關領導共同為實驗室揭牌。

        在揭牌儀式上，實驗室主任曾毅介紹了北京人工智慧安全與治理實驗室的成立背景與發展願景。他強調實驗室是打通人工智慧安全與治理前沿研究及産業自律自治、政府引導與監管的全新探索。實驗室與共建單位發佈了“人工智慧安全與治理公共服務平臺”，平臺可在人工智慧倫理安全政策、安全風險監測、倫理安全評測方面提供服務。近期，實驗室正與共建單位、合作機構共同打造人工智慧倫理與安全評測體系、構建安全人工智慧基礎模型。據介紹，實驗室也將利用北京市豐富的學術資源和産業優勢，推動跨學科合作，不斷探索新的研究路徑，解決人工智慧倫理與安全領域中的潛在和緊迫問題。實驗室還致力於人工智慧長遠風險與安全的戰略性前瞻研究，並積極參與和貢獻於人工智慧安全與治理國家戰略和國際合作與交流。

        曾毅主任説，我國不僅要逐步完善人工智慧安全與治理相關政策體系，更要佈局人工智慧安全與治理各級研究機構、測評與賦能中心的建立推進前沿研究與實踐，並在此基礎上完善人工智慧安全合作網路的構建，打通政産研共建的中國人工智慧安全與治理體系。據他介紹，自2023年開始，英國和美國等十余個國家相繼成立人工智慧安全研究所。我國此前由學者和産業共同發起成立了人工智慧安全合作網路。2024年世界人工智慧大會期間上海人工智慧安全治理實驗室成立。此次北京人工智慧安全與治理實驗室的成立在首都作為人工智慧原始創新的先發地和策源地，進一步完善了我國人工智慧安全與治理體系的佈局。曾毅説：“實驗室不僅僅是立足北京，服務北京，更會將北京人工智慧安全與治理的探索與全國各省市積極分享，共同探討與促進。並與全國的相關機構一道促進人工智慧安全與治理的中國實踐，發出中國聲音，融入和貢獻于全球人工智慧的穩健發展。”