明略科技吳明輝：企業迎接大模型時代，要解決知識工程問題

2024年1月,德勤發佈報告《Now decides next:Insights from the leading edge of generative AI adoption》,對2800多名具備AI技術知識的商業和技術領導者展開調研。數據顯示,絕大多數(79%)受訪者認為,未來3年內,生成式AI將推動組織與行業的重大變革。

在具體落地形式上,目前多數企業依賴於現成的解決方案。其中,71%的受訪者選擇“具有整合生成式AI的生産力應用程式”,68%的受訪者選擇“標準化生成式AI應用程式”,61%的受訪者選擇“具有整合生成式AI的企業平臺”,56%的受訪者選擇“公開可用的大語言模型”。

可以看到,將AI融入工作流程已成為眾多企業的共識。但當大模型紮根企業時,現實的阻力卻不容忽視:缺乏高品質的行業數據、與業務場景適配不足、員工對AI心存戒備等等,這些痛點正考驗著企業的決心與智慧。

明略科技長期致力於提供基於大數據和人工智慧的産品與服務,推動組織高效運轉、加速創新,創造人機協同的美好世界。2023年8月,明略科技推出一站式大模型AI智慧助理——小明助理Copilot,經過內部的試水與打磨,95%的員工已在日常工作中高頻應用,周活達到70%以上,初步實現“與大模型同頻”。

近日,作為企業級大模型應用的開發者與早期使用者,明略科技創始人、CEO吳明輝受邀蒞臨混沌學園,結合企業自身實踐與行業觀察,就大模型落地企業的方法論,展開深度分享,以下為核心要點整理:

明略科技創始人、CEO吳明輝

參數越大,效果越好?

在同其他企業CEO、CIO、CMO聊天時,我發現大家對於大模型的出現都感到很興奮,很多公司都建立了人工智慧小分隊,但嘗試幾次後發現效果並不理想。

現在,OpenAI已經把參數做得非常高,它擁有的是網際網路上的通識知識。如果訓練得足夠好,它可以擁有優秀本科畢業生同等的認知能力。但即使擁有了這種認知能力,就能確保大數據在企業中做好很多工作嗎?

答案是否定的。

值得注意的是,大量的模型參數並不能確保在工作中有效轉化成生産力。有些任務,即使用很小參數的模型也能解決。

在無法判斷一個大模型效果好壞時,我建議大家可以向大模型提出一個問題進行檢測,“美國的哪一個州跟其他的州不接壤”,這個問題的正確答案是阿拉斯加和夏威夷,它需要大數據知道美國的地理情況以及州和州之間的關係。

我們講大模型的迭代能力,就是要提高它的推理能力,而推理的過程需要資訊。

現在,參數在不斷提高的過程中並沒有增加資訊,不斷提高參數只是讓模型的推理能力變強大了。做個類比,模型是f,資訊是x,只有把正確的x給到強大的模型f,才有可能算出正確的y,才有可能輔助企業的理性決策和下一步行動,這是部分企業認為大模型不好用的核心原因。

今天人們想將大模型應用到公司當中,但是大模型並不知道公司原有的生産資料和資訊系統。一個好的大模型,需要人們將資訊找過來。

大模型落地企業的核心:知識工程

管理大師野中鬱次郎在《創造知識的企業》一書中提到,每個企業有暗默的知識,也有顯性的知識,企業最核心的就是要把這些知識管理好。

在大模型時代,這些知識不僅存在於每位員工的大腦中,存在於企業的文檔庫中,甚至存在於每次會議的錄音當中。有一天,大語言模型可以直接執行錄音裏面的知識。這就如同一個優秀的高校畢業生在你身邊當助手,你需要做的就是每天用資料同它交互,就可以大幅提升效率。未來,企業的知識管理邏輯也將發生巨大的變化。

企業迎接大模型時代的第一個命題,就是要解決知識工程問題。

現代認知心理學將知識分為兩類,一類是陳述性知識,一類是程式性知識。例如,大像是一種動物,這是陳述性知識。把大象放到冰箱裏面分幾步,這是程式性知識。編程知識也屬於程式性知識。

當人們問大模型提問,“湖南和湖北的兩個省會,哪個人口更多?”一些大模型往往會卡住,因為它根本沒有理解這句話的意思。但如果通過操作把它的CoT(思維鏈)能力調出來,大模型就有能力將答案推理出來。如同一名剛入職的新員工,只要公司把任務拆得足夠細,他就能做好。大模型的學習、發展和應用的過程,同人類從小的學習發展過程非常相像,兩者是完全可以類比的。

Prompt(提示詞工程)和CoT(思維鏈)技術是大模型能力發現的重要組成部分,其革命性意義可以媲美人類文字和印刷術的發明。CoT的重點是把程式寫清楚。在小明助理Copilot中,只要簡要地表明你的目標,它就可以將Prompt模板寫出來,非常方便。

Prompt和CoT的出現,實現了大模型和大模型之間互相學習的設想,只要讀懂了你的指令,大模型就可以將這些指令執行得非常好,並且下一個人可以立足於訓練成熟的AI繼續發展,每個人都站在巨人的肩膀之上。

除此之外,還有更高級的用法,比如Agent。Agent的本質就是模型和資訊,好的Agent可以把大語言模型和Memory、Tools、Planning的能力有機地組織起來。

連接大模型與知識的理想方式

在整理數據和知識時,企業不僅要考慮如何規劃數據、知識,同時也要考慮許可權問題。我的建議是按照兩個維度四象限的邏輯進行分析,包括數據的公開程度、執行任務的推理複雜性等。對於低密集又需要高難度推理能力的,可以直接使用線上大模型;對於高密集且推理能力不高的,例如財務資訊、HR資訊、研發産品資訊等,可以部署一個私有化模型。企業要做的,就是把對應的密集問題想明白、分好級。

在企業中,真正想把資訊系統整理好,並且和大模型連接起來,需要解決諸多難題。最簡單的方法就是使用Copilot。

Copilot是什麼?pilot的意思是駕駛員,Co-pilot的意思是聯合駕駛或副駕駛。舉個例子,人們最理想的狀態是讓汽車變成無人駕駛,但成本和代價很大。在Copilot模式中,主駕駛還是人,副駕駛的職能是協助人做一些決策和操作,甚至完成主駕託管的任務,但最後的決定權仍在人類手中。明略開發小明助理Copilot的意義就在於此。

通過小明助理Copilot,今年公司員工已經做到了廣泛使用大模型,平均每個員工一天使用10次以上,大家不僅可以用GPT解決工作生活中遇到的一些問題,還可以應用到自己的生産環境中,用於提升生産效率,公司團隊絕大多數的同學都已經拿到了大模型的船票。

如同《異類》一書中提出的1萬小時定律,只要比別人多花一些時間做某件事情,未來就有機會享受到某個領域的競爭紅利。每一項新技術的出現都是有紅利的,最終大家也一定都會使用到,但更早接觸的人會比別人多一些機會和時間。

彭博社是全球最大的金融資訊服務商,明略科技旗下的秒針系統是中國最大的廣告領域資訊服務商,兩者有著一定的共通之處。彭博社的創始人邁克爾·布隆伯格創業初期,立志將終端機賣給每一個金融機構,希望幫助大家快速獲取網際網路上的金融資訊,這也成就了彭博社今天在全球金融資訊服務領域的霸主地位。很多公司都在擁抱新技術,它們可能是將某一項新技術用到了極致,或者是第一個使用新技術從而顛覆了上一代産品,最終走出了新的曲線。