讓智慧計算無處不在，高通ChinaJoy AIGC大會展望終端側AI行業賦能

2024年7月26日,中國國際數字娛樂産業大會(CDEC)旗下ChinaJoy AIGC大會于ChinaJoy期間在上海舉行。大會從技術、應用等全生態角度共同探討了AIGC技術下的內容産業新業態和未來發展趨勢,聚焦AIGC如何助力産業升級、如何提升AIGC場景應用、如何促進人機融合等。

高通技術公司副總裁兼産品、合作夥伴和技術市場全球負責人 Mike Roberts在大會上發表了主題演講。他指出,終端側生成式AI已經到來,高通公司作為終端側AI的領導者,在AI領域有著超過15年的投入,借助強大的硬體和軟體支援組合、異構計算優勢、以及全球範圍內的領先邊緣側佈局,高通的産品和技術已支援出貨超過25億台AI賦能終端,賦能廣泛的行業領域和生成式AI體驗,正在推動實現“讓智慧計算無處不在”。

以下為演講全文:

大家好,很高興第四次參加ChinaJoy。我很榮幸代表高通,與大家分享我們正在如何助力讓智慧計算無處不在。作為終端側AI的領導者,高通在人工智慧領域有著超過15年的投入,擁有行業領先硬體和軟體解決方案覆蓋廣泛邊緣終端,並且擁有跨NPU、CPU和GPU的卓越異構計算能力、領先的軟體優化、以及能效。此外,我們還在全球範圍內擁有無與倫比的邊緣側佈局和高達數十億的用戶設備數量,覆蓋智慧手機、PC、汽車、XR、邊緣網路設備等等。同時,我們也與微軟、谷歌、百川、騰訊、字節跳動等眾多生態合作夥伴共同推動AI技術的創新和應用。

生成式AI不僅是不可或缺的個人助手,也在眾多領域展現出了巨大的商業價值。預計每年可帶來2.6萬億到4.4萬億美元的經濟效益,大約相當於2023年上海GDP的5倍。然而,推動生成式AI的規模化發展面臨諸多挑戰。以成本為例,基於生成式AI的搜索單次推理成本是傳統網路搜索的約10倍。目前,我們還處於生成式AI應用的早期階段,新的應用不斷涌現,包括圖像和視頻創作、文本摘要、對話聊天機器人等。再考慮到未來需要使用AI推理的數十億用戶數,這個總體需求量就會非常驚人。預計2024年至2028年,生成式AI相關的token生成量將增長150倍,雲端的推理需求將超過訓練需求。如果還保持當前的AI處理方式,到2030年AI可能會消耗全球3.5%的電力,這足以為上海這樣的大城市供電約35年。

那麼我們應如何應對這一挑戰?為了實現規模化擴展,AI處理的重心正在向邊緣側轉移,最終目標是實現混合AI,讓雲端和邊緣側終端能夠協同處理工作負載,並使用高性能連接來實現更加強大、高效、優化的AI。如果將 20%的生成式 AI工作負載轉移到終端側,預計到 2028年將節省 160億美元的計算資源成本。

讓我們分別看看終端側和雲端的AI處理。終端側主要支援100億參數級別的大模型。終端側AI處理具備眾多優勢,不僅能夠提高性能和效率,還能確保隱私和安全性,同時提供即時性、低時延、高可靠性和個性化的用戶體驗。另一方面,中心雲能夠支援運作參數超過千億級別的超大模型。在中心雲上,用戶可以輕鬆地對模型進行開發、部署和訓練,實現資源聚合和極致性能。

基於此,面對各個垂直領域對生成式AI用例日益增長的需求,高通推出了面向計算性能的系統級解決方案。提供系統級解決方案的理念植根于高通公司的DNA之中,也是我們作為一家公司應對諸多挑戰的關鍵。這一解決方案包括我們專為生成式AI全新打造的神經網路處理器(NPU),同時,我們還將NPU與CPU、GPU整合到一起。比如,我們已經在PC端推出的高通Oryon CPU,未來還將擴展到手機、汽車等更多終端品類;此外,我們推出了高通Adreno GPU,我們在這款定制化GPU上已經投入了超過十年的研發。

我們針對不同計算需求,策略性地使用適宜的處理器,從而提升系統性能,實現異構計算。異構計算讓我們能夠實現最佳應用性能、能效和電池續航。如今,終端側AI已經廣泛應用於各類消費終端和各行各業,包括邊緣網路設備、汽車、以及製造車輛的工業機器人等。在此,我想重點談談兩種主要的終端類型:智慧手機和PC。

我們最新的第三代驍龍8旗艦移動平臺已經賦能諸多手機廠商合作夥伴推出了豐富的終端側AI體驗。上個月,我們的合作夥伴微軟以及其他領先PC廠商,推出了20多款搭載驍龍X Elite和驍龍X Plus平臺的最新Windows 11 AI+ PC,這些設備已經實現了實時翻譯、實時轉譯、AI照片編輯、文本總結、寫作輔助等豐富的AI功能。

讓我們先從智慧手機的角度來談談這些終端側AI用例。我們與合作夥伴攜手在他們推出的旗艦智慧手機上,為用戶帶來了生成式AI功能,將驍龍的AI能力直接呈現給消費者。三星Galaxy S24系列借助終端側AI,以先進的實時翻譯功能,將手機通話實時翻譯成用戶首選語言,打破語言障礙,促進無縫的跨文化交流。此外,OPPO Find X7 Ultra整合了出色的終端側AI特性,讓用戶能夠將照片中不需要的物體或人物消除,且無需連接網際網路。榮耀Magic6系列的“智慧成片”功能則能夠利用相冊中的照片和文本提示生成視頻。

接下來,讓我們聊聊PC領域的應用。在PC方面,我們與djay Pro等眾多公司展開了合作。djay Pro是一款全球領先的混音應用,經過我們雙方的合作優化,現在可以在驍龍X Elite的NPU上運作,讓用戶能夠利用Neural Mix實時分離和操作人聲、樂器、鼓等不同音軌。

現在,讓我們將目光轉向汽車製造商和其他服務提供商,他們可以根據需求提供特性升級和新服務。中國的汽車市場有著全球領先的發展速度。在網聯汽車中使用生成式AI服務,能夠賦能我們的合作夥伴打造全新特性,擴展他們的産品,併為駕駛員和乘客提供更佳體驗。網聯汽車能夠支援各種軟體定義特性和服務,也將重新定義出行體驗。

高通還在引領終端側AI在物聯網領域的應用。一個具體的用例是工廠車間,工廠車間中數據處理的低時延至關重要,因為即使是最微小的錯誤也需要即刻關注。通過多模態AI助手,我們可以使用視覺、文本和語音處理為工廠車間的工人提供實時幫助。

我們還提供了高通AI軟體棧這一全面的統一解決方案,以支援廣泛的垂直領域和合作夥伴。高通AI軟體棧旨在幫助開發人員優化和部署AI模型,它整合了我們自主的高通神經網路處理SDK、以及模型壓縮和量化工具——高通AI模型增效工具包(AIMET)。

綜上所述,憑藉強大的硬體和軟體支援組合,高通的産品和技術已支援超過25億台AI賦能終端的出貨。隨著我們不斷縮小雲端和終端側AI之間的差距,未來這一數字將繼續快速增長。最後,非常歡迎大家來到ChinaJoy驍龍主題館E4參觀體驗。謝謝大家!