從“智障客服”變智能客服，大模型終於落地了｜甲子光年

智能客服從成本中心到價值中心的蛻變。

作者｜趙健‍‍

2024年春節期間，經過半年多的摸索，瓴羊Quick Service在內部發布了一個新產品版本，定義了在to B場景下智能客服Agent的產品形態。

在當時的時間點，這可能是國內第一個可落地的大模型加持的智能客服Agent。

瓴羊Quick Service部門面臨一個選擇：要不要面向市場公開發布這個初步成型的產品？要知道，Agent是一個炙手可熱的大模型風口，市場上成熟的產品寥寥可數，一旦發佈，一定會引發行業不小的關注。

但瓴羊畢竟不是一個學術研究部門，它是阿里巴巴在2021年成立的聚焦於數據服務的全資子公司，Quick Service是其中的智能客服部門。瓴羊最核心的任務，還是要解決客戶的實際業務問題。‍

瓴羊智能客服產品總監張雙穎告訴「甲子光年」：“關於先說後做還是先做後說，我們最終決定選擇後者。這個產品要想推向市場，應當是等技術水平真正能夠達到實際可使用、可商用，能夠被客戶認可的狀態才行。”

此後，瓴羊進入產品的深入打磨期，一晃又是半年多。直到昨天（8月28日），瓴羊Quick Service的大模型產品終於交卷。

瓴羊最新發布的Quick Service 2.0，在上一版本的基礎上全面升級了三大核心功能：AI問答、AI輔助和AI知識庫，是業內首個將AI Agent完整落地、可覆蓋客服“全場景”的智能客服產品。

智能客服是大模型最快落地的場景之一。近期，「甲子光年」採訪了張雙穎，來回答一個行業本質問題：大模型升級智能客服，這件事到底如何發生，又帶來什麼價值？

1.智能客服，不夠智能

一提到智能客服，大家可能會立馬聯想到電話推銷，電話推銷就是通過智能客服呼叫中心的外呼機器人來實現的。很多人常把外呼機器人與智能客服劃等號，但實際上外呼機器人只是智能客服的場景之一。

智能客服還有很多場景。張雙穎告訴「甲子光年」：“從消費者視角來看，智能客服會貫穿售前、售中、售後三個主要消費環節，爲消費者提供一貫式的諮詢服務；從客服員工的視角來看，當處理消費者的諮詢時，需要用到員工培訓、工單、知識庫等多款配套工具；從商家的客服部門管理者的視角來看，需要一個工具來了解客服的整體效果，涉及質量檢驗、消費者綜合洞察等。”

因此，智能客服遠不止一款產品，而是一個覆蓋線上與線下全渠道，涉及售前、售中與售後各個環節與角色的全場景客服系統。

但智能客服行業存在一個長久的痛點，那就是沒有體現“智能”。

先簡單回溯一下智能客服的發展歷史。客服就是“客戶服務系統”，最早的形態可以追溯到1956年由泛美航空公司推出的客服中心，通過電話的形式進行客戶機票預訂，後來逐漸在全球範圍內興起爲以電話呼叫中心的客服系統。

20世紀90年代以後，隨着互聯網的興起，客服系統跳出單一的電話呼叫中心，出現了網頁在線客服、客服軟件等多種客服渠道。近十年以來，隨着移動互聯網、雲計算、大數據與AI技術的發展，傳統呼叫中心與客服軟件進入SaaS與智能化時代。智能客服就是引入了機器學習、深度學習技術的客服系統。

客服的20年技術變革歷史，圖片來自瓴羊

早期的智能客服基於專家系統，依賴於預設的關鍵詞模板，能夠提供基本的信息查詢服務，但缺乏靈活性與理解複雜語境的能力。後來智能客服引入機器學習、深度學習技術，能夠處理更復雜的問題，提供更個性化的服務，但其實仍然沒有達到“智能”的水平。

因此，客服系統需要龐大的人工客服來應對各種問題。可以說有多少智能，就有多少人工。

在很多企業，智能客服就是純粹的成本中心，降本增效就是最核心的訴求。客服人員流動性大、培訓成本高、客服效果難以把控、大量重複性問題過度消耗人工客服。同時，如何提升售前轉化、如何優化客服流程、如何從客服數據中發現企業業務問題等，一直困擾着各大企業。

直到ChatGPT的出現，讓從業者看到了智能客服的理想狀態。一個機器人回答所有問題，似乎不再是遙不可及的夢想。

這也是瓴羊Quick Service看到的機會。

2.拿着釘子找錘子

雖然瓴羊Quick Service是智能客服的行業專家，但在大模型的探索上，也是摸着石頭過河。

2023年春節——ChatGPT發佈一個多月後，瓴羊Quick Service團隊就基於海外已有的大模型做出了文本總結、摘要等功能。但團隊發現，由於準確度與幻覺等限制，無法在真實的商業環境中落地。

等到2023年年中，OpenAI研究員發佈了一篇著名的關於Agent的論文。論文指出，如果說大模型是一個大腦，那麼Agent就是一個可執行任務的四肢。這給瓴羊團隊如何做大模型的落地打開了新的視角。

Agent架構圖，來自OpenAI研究員的論文

在深入研究了Agent的規劃、記憶、工具使用等核心組件能力之後，瓴羊的算法、產品團隊做了細緻的推演，發現Agent這條路是可落地的。2024年春節前後，瓴羊智能客服團隊把第一個Agent的產品雛形做了出來。

於是，就有了文章開篇所述團隊面臨的兩種選擇。最終，瓴羊決定先把產品打磨好再發布，客戶是檢驗產品的唯一標準。

將大模型與智能客服結合，瓴羊做了大量的工作。

第一步是通用大模型底座的選擇。瓴羊Quick Service的默認選擇是阿里通義千問，如果企業有其他選擇技術上也完全支持。

張雙穎解釋了選擇通義千問的理由：“第一，雖然市場上開源大模型也很多，但很多是不可合規商用的。在可商用的模型裡，通義千問是測評效果最優秀的模型之一，這是最重要的一點；第二，通義千問畢竟是阿里自研的模型，從產品協同的角度來說，跟通義家族產品團隊的合作會更加順暢。”

通用大模型雖然具備豐富的世界知識，但這往往不是企業最需要的。企業更需要的是在智能客服這一特定領域的行業知識，比如PDF文檔裡的規章制度、Word文檔裡的業務流程，非結構化數據的知識庫管理等等。

所以，瓴羊在通用大模型的基礎上，通過知識預處理、特徵抽取、檢索引擎等技術，訓練得到客服垂直大模型——瓴羊稱之爲行業模板。瓴羊面向零售、汽車等多個行業，藉助通義千問爲底座的RAG方案，針對步驟類、流程類、政策類等文檔，生成了與之對應的8種模板。

行業模板針對大模型的內容生成做了約束，有助於解決大模型幻覺問題。此外，在大模型生成知識之後，瓴羊團隊還專門做了一個防幻覺的檢測模型，確保是安全合規、符合企業要求的信息。

大模型的泛化能力相比傳統的小模型節省了重新調整算法的成本，其帶來的優勢非常明顯。比如一個簡單的訂票場景，以前僅僅是多出一個票種分類，也需要再去專門訓練一個小模型來適配，而現在一個大模型就能解決。張雙穎表示：“我們發現大模型對新場景的容納率，的確比小模型要好得多。”

做大模型，也不能盲目迷信大模型。在一年多的摸索裡，瓴羊團隊得出的結論是，大模型不能解決所有問題，最實用、高效的路線還是大小模型結合的方式。

在智能客服的一些場景中，有一些問題的答案是一丁點都不能出錯的，比如食品安全、產品價格，它需要100%的確定性。這類問題，實際上更適合傳統的小模型，也就是特定的算法來回答特定的問題，給出預先匹配好的100%確定性的答案。

爲了區分複雜問題與專精問題，瓴羊團隊研發了一個“路由算法”，就像大模型的路由器一樣，智能識別與分發不同的問題。遇到專精問題就匹配給小模型，遇到需要長上下文理解、語義理解、情感識別的問題，就匹配給大模型來處理。

張雙穎表示，小模型的核心能力不在於技術水平高低，而在於貼近客戶做業務。而現在，智能客服行業涌入了不少大模型公司，試圖用新的AI技術改變行業的業務模式。

他認爲，許多公司的商業邏輯更像是“拿着錘子找釘子”，而瓴羊恰恰相反，屬於“拿着釘子找錘子”。Quick Service沉澱了阿里巴巴二十多年客戶服務的經驗，這些深厚的行業積累，是短時間內很難被超越的壁壘。

3.大模型智能客服長什麼樣？

在經過一年多的探索、半年多的沉澱之後，瓴羊Quick Service的大模型產品終於交卷了。

直觀理解大模型加持的智能客服，就像是在傳統的客服軟件系統裡植入了聰明的大腦。但這些能力要想發揮出最大的價值，離不開瓴羊過去構建起來的“全場景”能力。

瓴羊最新發布的Quick Service 2.0，在上一版本的基礎上全面升級了三大核心功能：AI問答、AI輔助和AI知識庫，是業內首個將AI Agent完整落地、可覆蓋“全場景”的智能客服產品。

瓴羊Quick Service 2.0產品架構圖

第一個產品AI問答，將傳統熱線和在線對話機器人進行了智能化轉型，解決了企業智能機器人在處理客戶個性化需求時常答非所問的問題，解答準確率達到93%。

比如，零售行業的星巴克已經與瓴羊合作五年。在此期間，瓴羊與星巴克先後完成了天貓、餓了麼、口碑、支付寶、高德、星巴克私域App商城以及會員服務、PC網站、線下門店、微信公衆號以及微信小程序等10+個渠道，涵蓋會員、外賣等多個星巴克明星業務，幫助星巴克提供多渠道的客戶服務支撐。

藉助瓴羊的智能化客服系統，星巴克解決了87%的客戶諮詢問題，客戶投訴處理時效提升50%。

Quick Service 2.0第二個產品AI輔助，是爲企業客服團隊提供效率工具，實現多渠道的高效協同。

某頭部零售企業此前一個工單需要經過客服、城市經理、奶站站長等多個環節才能到達最終的處理人員（送奶工）。 而接入瓴羊Quick Service後，通過 大模型智能填單技術與自動化任務分配系統，工單可以直接精準下發至對應處理人員，線上線下任務協同時長可縮短95%。

某頭部運營商存在大量的員工和代理商諮詢需要處理，過去主要使用電話溝通、單點私聊或者羣內留言等傳統方式，客服缺乏統一的標準化服務。在接入瓴羊AI輔助產品後 ，客服可以藉助瓴羊客服的靈活渠道部署，高效整合知識庫機器人、人工客服、熱線入口、OA流程、公告留言板、消息主動推送等各種支撐能力，客服支撐效能提升50%以上，支撐響應接起率超過99%，一般性訴求解決時間由30分鐘壓縮到5分鐘以內。

Quick Service 2.0第三個產品AI知識庫，面向服務運營，減少客服運營繁瑣的知識庫配置工作，知識庫部署從“7天”縮短至“5分鐘”。

某頭部家電企業，內部協作需要照顧到研發、生產、供鏈、銷售、服務等10萬名員工，這些員工每天會產生5000多個問題。但這些數量龐大的提問的重複率高達40%，運維人員的回答也存在不統一、專業性知識跨部門支持等難題。

Quick Service 2.0通過知識批量導入結合Query的相似度模型及知識衝突模型，將問題進行刪除合併，同時利用大語言模型的話術潤色能力生成出更具專業性、親和力的答案。而面對格式多、內容廣的文檔知識，產品團隊只需按模板上傳，即可爲員工生成準確的答案。

此外，高頻的產品迭代、數以百計的渠道入口，員工問題繁雜，都給機器人維持準確率帶來了不小的困難。對此，Quick Service爲企業打造了統一知識生產流程，即使在每季度2-3個功能上線、10%產品更新的節奏之下，也可保證機器人的準確率。當員工在問詢不屬於某一入口的功能時，智能類目還會幫助機器人自動路由到其他類目，檢索原入口沒有的知識，解決“大而全”與“小而精”難以兼顧的矛盾。

目前，該企業的機器人問題準確率達80%以上，員工平均諮詢量、運維工單諮詢發起量分別降低18%與8%。

4.從成本中心到價值升級

客服一直都是企業的成本中心，在做好客戶服務的前提下，數字化工具發展的本質一直都是圍繞着降本增效展開。而大模型的出現不僅加速了降本增效的進程，還促進了客服的價值典範轉移。

張雙穎告訴甲子光年：“過去要想提高知識庫問答的準確率，從冷啓動到調優可能需要一到兩個月的爬坡時間，才能逐漸達到一個比較高的準確率。但有了大模型之後，這個爬坡過程可能只需要幾周；過去一個服飾商家在換季時節上新，一下子幾千個SKU，客服團隊需要花兩週的時間去學習，現在通過大模型，一兩天就能整理出結構化的知識。”

當降本增效從量變來到質變，智能客服會發生什麼？

瓴羊看到了一個價值升級的可能性，也就是智能客服從成本中心向業務增長轉變，客服與業務甚至是產品的邊界會越來越模糊。

瓴羊副總裁林永欽，圖片來自瓴羊

這在一些行業已經發生，比如新能源汽車行業。

在汽車新能源浪潮之下，汽車品牌銷量與門店數量激增，這對客服中心的智能化能力、響應速度乃至獲客能力都提出了更高要求。

上汽在升級爲三個子品牌、銷量達百萬以上後，開始思考客服中心的升級問題：如何改觀用戶對品牌智能化水平不高的印象、如何提升客服總體滿意度、如何使客服從成本中心轉爲利潤中心，主動創造經濟價值？

Quick Service的“三全”解決方案，對以上問題一一進行了迴應。所謂“三全”，一是打造“全場景”，從售前線索產生、試乘試駕，到售後招攬諮詢、贈換購各環節爲客戶提供完備的諮詢服務。二是覆蓋“全觸點”，通過APP、官網、小程序的統一接入與IM的升級，整合零散獲客渠道；三是實現全智能，升級售前/售後機器人、人工客服智能化能力，提升工作效率。

其中，客服系統的智能化升級，爲用戶提供了“能共情”的體驗。Quick Service幫品牌設計了具備豐富情緒表達的形象，使機器人能夠與用戶同喜同悲，交互界面不再是冷冰冰的機械問答，而是多了幾分共情的溫度。此外，橫滑交互、顏色、高亮等創新交互體系的優化，以及千人千面的“猜你想問”，都使用戶感知到更多價值認同與個性化體驗。

機器人不僅“能共情”，還“能對話”、“能創新”。通過大模型對活動類、操作步驟類文檔知識的抽取，Quick Service有效提升了知識的生產效率，對門店營銷、車機使用等高頻問題的回答更加遊刃有餘。

而且在售前環節，機器人還能幫助品牌完成老客的回電保養、潛客的信息蒐集等任務，完成向利潤中心的價值轉移。

張雙穎認爲，客服產品的特點就是做企業與人 的連接，而連接消費者就是最有價值的事情，未來會有越來越多的企業在想辦法維繫消費者的同時，去思考能不能帶來更多的業務增長。而智能客服，很有 可能會在這個過程中發揮重要的價值。

今天整體的市場大環境漸漸進入存量時代。對於很多企業來說，挖掘老客戶的價值，比獲取新客戶的性價比更高。

在大模型的加持下，智能客服正是在市場快速變化下，實現業務價值升級的一個切口。

（封面圖由Flux生成）