95%員工用上大模型，明略科技助力更多企業快速落地大模型

2023年8月,正值行業對於模型層的討論如火如荼之際,明略科技敏銳地發現了企業用戶在選擇大模型和在業務場景中應用上遇到的諸多困難和痛點。為了解決這些問題,明略科技著眼于應用層,開發了基於大模型的應用産品——小明助理Copilot。

在基礎層、交互模式、企業協同和組織運營方面,小明助理Copilot從企業的角度出發,選擇了一條與眾不同的産品路線。在上線的半年時間裏,通過在明略內部的試驗和持續的改進,小明助理Copilot已經成功地被95%的員工廣泛應用於日常工作中,並且周活躍用戶佔比已經超過70%,初步實現了與大模型的同頻使用。

為了讓更多企業能夠受益於大模型的力量,明略科技在2023年的行銷科學大會上正式推出了小明助理Copilot,並宣佈將在2024年開源。在大模型的浪潮下,小明助理Copilot的研發設計如何滿足了企業需求?背後的産品理念又是什麼?

小明助理Copilot有哪些功能?

先來介紹下小明助理Copilot是什麼,小明助理Copilot是一款面向企業用戶的一站式大模型AI智慧助理、瀏覽器插件産品,兼顧PC/移動端網頁等産品形態。

針對企業協同辦公與業務需求,小明助理Copilot能夠幫助企業完成哪些工作?接下來,我們從文本、圖像,以及具體業務場景,看看它的表現~

1、文本處理

可以一鍵閱讀當前頁面/PDF文本,形成文章摘要總結,並推薦用戶可能感興趣的問題。

瀏覽外文網頁時,可以一鍵翻譯成指定語言,與原文對照閱讀。

大模型訓練語料不夠新,提供的答案過時怎麼辦?小明助理Copilot可以支援“聯網搜索”,背後連接微軟必應的搜索能力,用戶提問後,同時提供相關度最高的答案與對應來源。

不知道如何寫好提示詞怎麼辦?用戶可以根據自身需求在提示詞推薦區,選擇合適的公共提示詞作為輔助,同時不斷積累個人/企業提示詞,並將優質、可復用的Prompt模板分享給團隊與個人。

2、圖像處理

輸入簡單的提示指令與參考圖片,即可生成真實、美觀的圖片,為設計、銷售、市場行銷人員帶來創意靈感。

3、業務場景

在廣告行銷場景,基於明略科技旗下秒針系統行業知識庫訓練優化的垂直大模型,企業可以完成行銷策略輸出、年度KPI設定、品牌整合行銷、傳播內容生成、銷售素材生成等任務。詳情可回顧2023年行銷科學大會上明略大模型産品負責人孫方超的明略科技高級副總裁、明略大模型産品負責人孫方超:以小明見大模型,以小場景得大價值。

此外,小明助理Copilot搭建了一系列可直接用於執行特定任務的行銷Agent。以Content Agent為例,可以調取大量社媒數據與專有知識,在生成社媒文案時,輔助企業洞察最新的流行元素、消費者關心的熱詞,判斷適宜觸達的圈層。

基於Copilot的兩個創新點

用戶瀏覽網頁時,它安靜地守候在側邊欄;需要用到它時,一個快捷鍵就可以把它喚醒。同樣是大模型應用,對比最受矚目且最先商業化的微軟Copilot,小明助理Copilot在瀏覽器插件上看到了更多的可能性。

當前大模型應用層産品設計,大致可以分為5種類型:

第一種:嵌入式

將大模型能力嵌入到現有的産品中,為用戶提供增值服務。例如,在文檔編輯軟體中加入自動摘要、智慧寫作建議、語法糾錯等功能。

第二種:跨平臺瀏覽器插件

開發基於大模型的瀏覽器插件,可以在用戶瀏覽網頁時提供即時的關鍵資訊提取、多語種翻譯、綜合分析等功能,提高用戶的資訊檢索效率和閱讀體驗。

第三種:API服務

通過提供API介面服務,允許開發者將大模型能力整合到自己的應用中,讓大模型的能力得到更廣泛的應用,同時為開發者提供靈活性和可擴展性。

第四種:獨立應用程式

開發以大模型為核心的獨立應用程式,如專門的寫作輔助工具、學習輔導軟體、智慧對話機器人等。這類産品側重於提供某一領域或任務的深度服務。

第五種:智慧硬體整合

將大模型能力整合到智慧硬體中,如智慧音箱、智慧家居等,提供自然語言交互的控制功能和智慧服務,增強用戶體驗。

微軟Copilot屬於第一種,用戶在使用微軟相關軟體時可以獲得生成式AI的輔助,無縫提高工作效率和創造力,不需要切換到單獨的應用或平臺。但與此同時,也存在跨平臺、相容性,以及成本方面的問題。

Copilot Everywhere

儘管在特定軟體的整合程度上略遜於微軟Copilot,小明助理Copilot的思考是,更易用的Copilot,應該實現Copilot Everywhere。

在産品研發之初,通過拜訪大量企業,明略科技發現,不同企業應用的系統、軟體各異,基於一個平臺的産品,難以滿足不同企業的使用需求。因此,小明助理Copilot選擇了全平臺、跨平臺的産品路線,以瀏覽器插件為主,兼顧PC、移動端網頁版等産品形態,讓企業無論在PC端,還是移動端,都可以充分調用大模型的能力。

為什麼小明助理Copilot優先選擇了瀏覽器插件的形態?

廣泛的相容性:

支援多瀏覽器,能夠覆蓋更廣泛的用戶群體。

易於安裝和使用:

可以在網頁端快速下載安裝,安裝過程簡單方便。

高度獨立性:

在瀏覽器中運作,不依賴於具體的作業系統或應用平臺,在不同環境下的表現更為一致。

更為重要的是,許多上一代的應用程式都是通過瀏覽器訪問的,小明助理Copilot可以更好地與現有的工作環境無縫整合。瀏覽器插件本身比較輕量化,就在員工的手邊,而小明助理Copilot想做的第一件事就是把大模型帶到每一位員工的面前。

不同業務場景,擇優而用

當前階段,各家大模型技術仍在快速迭代,數據指標不斷刷新。大模型應用的優勢在於,幫助企業在實際場景中快速落地,避免因部署單一大模型而産生的持續優化成本,提升抗風險能力。

作為一站式大模型入口,在文本、圖像,以及具體業務場景下,小明助理Copilot提供了相應的大模型做支撐。企業可以根據自身需求,調用能力更為匹配的大模型,解決單點工具或單一大模型難以覆蓋多個應用場景的問題。

Let's on the same page!

在大模型的語境下,由於缺少企業的上下文資訊,員工Prompt水準參差不齊,每個人得到的結果天差地別,難以符合預期,企業通常容易簡單粗暴地把問題歸結為AI沒有用。

一個不容忽視的事實是,“協同”在ToB場景尤為重要。Microsoft Teams的成功以及Yahoo Messenger在企業市場上的逐漸淡出給人們以啟示:即使是一個功能強大的工具,如果不能滿足企業對協作和溝通的深層需求,最終也難以在企業市場立足。

on the same page是提升企業協同能力的關鍵步驟,也是小明助理Copilot的核心理念,即在企業內部填平資訊鴻溝,讓員工處於同一認知維度,從而實現三層價值:

第一層:讓大模型與員工on the same page

第二層:讓團隊成員彼此之間on the same page

第三層:讓團隊與團隊之間on the same page

如何實現on the same page?

小明助理Copilot在産品與運營層面集中做了兩件事:

●提供更靈活、安全的方式,幫助企業向大模型注入外挂知識

●幫助員工持續提升Prompt技巧

傳統知識庫 VS大模型時代的知識庫

通用大模型有兩個認知盲區:一個是新知識,另一個是企業/行業知識。正因為這兩部分知識的缺失,人們就不難理解,為什麼大模型難以給出具體業務場景下,有針對性的答覆。

新知識的缺失,小明助理Copilot的聯網搜索功能已經可以解決;而企業/行業知識的缺失,需要企業構建內部知識庫。

大模型技術的發展使傳統知識庫的形態得以重塑。

一是交互模式,以自然語言交互取代傳統的關鍵詞/表單搜索模式,基於自然語言的語義理解,更便捷地搜索到與用戶需求匹配的資訊,提供與文檔對話的能力;

二是資訊處理功能,在檢索之外,還可以提供內容摘要、資訊提取、分類、對比等更多功能;

三是知識覆蓋,未來還可以支援聯網搜索,這也意味著除了知識庫本身的能力,還能夠學習網際網路上的實時資訊,對知識庫本身的內容進行補充。

具體而言,通過上傳企業文檔,企業可以調用大模型進行分析總結。每個部門、每個員工可依據自身需求,創建個人或團隊知識庫,由企業自行控制文檔的分享範圍。

好Prompt撬動大模型價值

一項新技術的誕生需要人類經歷一段長期的適應過程,有了工具還遠遠不夠。在明略內部推出小明助理Copilot初期,員工使用情況也曾一度低迷,很大程度上是因為不會寫Prompt。對於剛接觸大模型的企業來説,不重視Prompt工程,把大模型當成搜索引擎的情況更為普遍。

小明助理Copilot如何破解了這一難題?

産品層面,小明助理Copilot為企業用戶提供了公共提示詞(Prompt)作為參考,同時支援個人與企業提示詞(Prompt)分享,讓優質Prompt能夠在團隊內部得到復用。與此同時,提供了多種場景的Agent,用於直接執行社媒分析、圈層分析、文案打分、內容優化等特定任務。

組織運營層面,舉辦小明助理Copilot駭客馬拉松、定期培訓、分享交流,以及創辦社區等大量的運營工作。目前,小明助理Copilot在明略內部的周活已達到70%以上,積累了40多個高頻使用的Prompt模板。

先拿到船票

明略科技認為,在大模型的基礎上,AI Native代表了一種由AI重構底層邏輯的全新應用形態。但它的出現並不意味著企業要把過去的數字化系統統統扔掉,以追求新一代的AI能力。實際上,這種方式反而容易造成資訊與數據加工能力的缺失。

通過非侵入式的Copilot,在不影響原有工作流的前提下,把大模型與瀏覽器、IT系統連接起來,或許是現階段更為安全可靠的做法。

針對多數企業“用不上”“不會用”的痛點,小明助理Copilot為企業提供了一系列落地運營服務,希望成為大模型應用市場中AI-onboarding的角色,幫助企業儘快拿到大模型的船票,儘早培養員工使用大模型的習慣。

Q:企業員工不會用,難推動怎麼辦?

A:提供培訓、運營分享等陪跑服務。

Q:是否支援個性化定制?

A:支援。可定制企業個性化Copilot,Private Agent,同時支援私有模型訓練。

Q:如何確保數據安全?

A:具備數據加密,數據脫敏能力;支援私有部署,所有數據可沉澱在企業伺服器。

Q:什麼時候開源?

A:今年即將開源,讓每個企業都能便捷、安心地部署小明助理Copilot。

就在最近,小明助理Copilot上線了行業研究等新功能,對産品進行持續迭代升級,進一步滿足企業多樣化需求。

在生成式AI時代,企業需要認識到,大模型並非萬能,真正的決策與創新仍掌握在人類手中。通過鼓勵員工使用大模型應用,企業可以激發集體的創新潛能,拓展出更多應用場景。更為重要的是,加快組織智慧化轉型的步伐,在市場上形成先發優勢。