4月15日-19日，第27屆聯合國科技大會在瑞士日內瓦召開。16日，在以“塑造AI的未來”為主題的AI邊會上，世界數字技術院（WDTA）發佈了一系列突破性成果，包括《生成式人工智慧應用安全測試標準》和《大語言模型安全測試方法》兩項國際標準。這是國際組織首次就大模型安全領域發佈國際標準，代表全球人工智慧安全評估和測試進入新的基準。

據了解，這兩項標準由OpenAI、螞蟻集團、科大訊飛、谷歌、微軟、英偉達、百度、騰訊等數十家單位的多名專家學者共同編制而成，其中，科大訊飛深度參與制定《生成式人工智慧應用安全測試標準》。同時，科大訊飛還作為大會支援方為會議提供訊飛聽見、訊飛翻譯機等服務，相關産品得到了與會嘉賓和聯合國官員的一致好評。

與會的WDTA人工智慧安全可信負責任工作組組長黃連金錶示，隨著人工智慧系統，特別是大語言模型繼續成為社會各方面不可或缺的一部分，以一個全面的標準來解決它們的安全挑戰變得至關重要。

近年來，世界各國都在加強對於大模型安全的研究和管控。自去年以來聯合國就對 AI 行業高度關注。去年9月，聯合國教科文組織就發佈了全球首份關於在教育和研究領域使用生成式AI的指南，呼籲各國政府對AI在教育中的運用實施管制；我國先後發佈了《全球人工智慧治理倡議》《生成式人工智慧服務管理暫行辦法》《生成式人工智慧服務安全基本要求》等，旨在促進生成式人工智慧安全可信發展，推進全球人工智慧治理領域合作共識。

《生成式人工智慧應用安全測試標準》的頒布代表了人工智慧安全評估和測試進入了新的基準。該標準為測試和驗證生成式AI應用的安全性提供了一個框架，特別是那些使用大語言模型（LLM）構建的應用程式。它定義了人工智慧應用程式架構每一層的測試和驗證範圍，包括基礎模型選擇、嵌入和向量數據庫、RAG或檢索增強生成、AI應用運作時安全等等，確保AI應用各個方面都經過嚴格的安全性和合規性評估，保障其在整個生命週期內免受威脅和漏洞侵害。以科大訊飛為代表的人工智慧公司，基於大模型安全應用中的探索和實踐，深度參與了該國際標準的制定，這不僅是對科大訊飛技術實力的認可，更是中國在全球 AI 領域影響力與日俱增的表現。

事實上，在這場席捲全球的大模型競賽中，中國大模型一直走在世界前列。早在去年 4 月，我國就發佈了《生成式人工智慧服務管理辦法（徵求意見稿）》。根據國家官網資訊，截至 3 月底，我國已完成生成式 AI 服務備案的大模型就有 117 個之多。

科大訊飛推出的訊飛星火大模型是其中的佼佼者。今年 1 月，科大訊飛星火認知大模型 V3.5 正式發佈，這是頭個基於全國産化算力平臺“飛星一號”訓練的全民開放大模型，進一步對標國際先進水準。其中，語言理解、數學能力已經超過 GPT-4 Turbo，代碼能力達到 GPT-4 Turbo 的 96%，多模態理解達到 GPT-4V 的 91%。

同時，作為公認的人工智慧産業“國家隊”，科大訊飛一直以積極的姿態投身於人工智慧相關標準制定，助力人工智慧安全可信發展。公開資料顯示，今年1月，科大訊飛作為核心參編單位參與制定了工信部信通院代碼大模型；去年，科大訊飛被授予國家人工智慧標準化總體組大模型專題組聯合組長單位、之前還被授予人工智慧關鍵技術和應用評測工業和資訊化部重點實驗室大模型工作組的副組長單位，參編中國信通院大模型標準體系2.0的建設。

此次科大訊飛、螞蟻集團、騰訊等中國科技巨頭在國際標準制定中的積極貢獻，不僅彰顯了中國企業在人工智慧領域的技術實力和專業影響力，也為國內其他企業樹立了積極的典範。相信未來會有更多的中國企業參與全球競爭與合作，共同促進全球人工智慧技術的創新與可持續發展。

來源：東方網    | 撰稿：科大訊飛    | 責編：谷晟    審核：張淵

新聞投稿：184042016@qq.com    新聞熱線：135 8189 2583