技術交流

【系統整合開發案例】資通電腦 AI 客服小幫手技術分享

自從生成式 AI(Artificial Intelligence,人工智慧)興起以來,資通電腦即積極規劃 AI 導入策略,並致力於將 AI 技術落實於日常工作,以提升工作效益,其中一項重要的具體實踐便是建置「智慧客服系統」。

  • 對外策略:將 AI 融入產品與服務,創造更高的客戶價值,並強化市場競爭力。
  • 對內策略:應用 AI 進行自動化,優化內部流程,提高整體營運效率。

傳統客服的痛點:知識依賴與效率瓶頸

資通電腦旗下擁有多項自有產品,包含電子發票管理系統、統一發票/媒體申報管理系統、票據管理系統、人力資源管理系統…等,以往客戶會透過電話或 Email 諮詢提出問題,由客服人員依據自己的經驗,以關鍵字查詢客服系統及操作手冊找出解答,再進行人工回覆,並將回覆內容記錄於客服系統中。然而,這種模式存在著三大問題:

  1. 高度依賴經驗:必須仰賴熟悉系統的資深客服,才能正確輸入關鍵字。
  2. 作業效率耗時:搜尋、回覆、紀錄三個流程分離,耗時耗力。
  3. 知識傳承困難:新進人員難以快速掌握龐大的知識庫。

系統整合開發案例:打造 AI 智慧客服小幫手

對外應用:客戶服務升級

有鑒於上述客服痛點,資通電腦的系統整合開發團隊決定將自身豐富的系統整合經驗與 AI 技術結合,開發一套智慧客服系統。我們將過往的客服紀錄、操作手冊與產品文件重新整理,並建立了專門供 AI 使用的向量資料庫,讓使用者能夠快速、精準地獲得解答,有效解決系統操作上的問題。

對內應用:行政管理智慧化

除了對外服務的系統外,我們也將這個經驗應用在內部的行政管理,打造資通行政的智慧客服系統。資通電腦作為一家上市公司,有著完整的法令規章與各種福利制度,但許多新進同仁並不熟悉這些制度,常常需要反覆詢問部門秘書或管理部。此外,也時常發生同仁引用舊版申請表單,造成作業流程的困擾。

透過系統整合開發服務,我們將內部規章、制度文件與申請表單等資料進行數位化整合,建立智慧客服系統。這不僅簡化了同仁獲取資訊的流程,也大幅減輕了行政部門的溝通負擔。

資通電腦 AI 智慧客服系統
資通電腦 AI 智慧客服系統

AI 核心技術:檢索增強生成(RAG)與向量資料庫

資通電腦智慧客服系統採用了檢索增強生成(Retrieval-augmented generation,RAG)技術,其核心流程如下:

1. 資料前置處理

  • 資料格式轉換:我們的資料來源格式多元,從 PDF、Word、Excel 到各種圖片。為確保後續處理的便利性與兼容性,我們首先將這些資料轉換為統一的標記語言(markdown)。這一步不僅能實現圖文分離,將圖片轉換為網址連結,更能讓純文字內容便於後續的向量化處理。
  • 向量化處理(Embedding):將處理後的純文字內容,透過嵌入模型(Embedding Model)轉換為向量。這些向量能夠精確地捕捉文字的語義資訊,是後續高效檢索的關鍵。
  • 向量資料庫儲存:將轉換後的向量資料存入向量資料庫,以備後續的快速檢索與比對。

2. 即時更新機制

為了簡化作業流程並達到即時更新的目的,我們為內部規章、申請表單等資料建立了對應的 NAS(Network-Attached Storage,網路附接儲存裝置)目錄。各部門負責人只需將最新文件放置於指定目錄,系統便可透過排程自動更新知識庫內容,確保資料的即時性與準確性。

資料處理技巧:因應不同類型資料的整合挑戰

在系統整合開發過程中,對於不同類型的資料需要不同的處理方式,才能確保 AI 回覆的精準性與實用性。

文本類資料

針對法規、操作手冊等長文檔,我們將其分割為較小的區塊(Chunk)。當使用者提問時,向量搜尋會找出多個相關區塊,並將這些區塊連同問題一起交給 LLM(large language model,大語言模型)進行彙整與摘要,最終生成一個完整的回答。

常見問答(FAQ)

經由客服人員整理的 FAQ,通常已經是完整的問題描述與處理步驟。這類資料如果交給 AI 彙整,可能會因為多個答案之間的細微差異而產生衝突。因此,我們採取了更直接的方式:當 LLM 判斷問題屬於 FAQ 類型時,系統會直接列出所有相關的 FAQ 答案,讓使用者自行選擇參考,避免資訊混淆。

獨立資料與圖片

對於獨立的申請表單等資料,沒有相關的規定辦法時,即使轉換為向量,使用者也難以透過提問來取得。所以,我們將其視為 FAQ 類型,將使用者可能提出的問題作為「問」,而將表單的網址設為「答」,讓使用者能精準找到所需內容。此外,雖然圖片不直接存入向量資料庫,但透過前置處理將其轉換為網址連結,後續搜尋結果能還原圖片,實現圖文並呈,大幅提升使用體驗。

資通電腦 AI 客服系統技術流程圖
資通電腦 AI 客服系統技術流程圖
前置作業:
  1. 將操作手冊圖片分離,以標記語言取代,同時整理客服紀錄。
  2. 將資料透過崁入模型(Embedding Model)轉換為向量。
  3. 存入向量資料庫。
自主服務查詢流程:
  1. 使用者提出問題。
  2. LLM 解析問題加入提示語(prompt)。
  3. 轉換為向量後進行比對。
  4. 從操作手冊與客服紀錄的向量資料庫中,比對出最符合的描述。
  5. 透過 LLM 大型語言模型彙整操作手冊答案,客服紀錄則直接輸出。
  6. 還原操作手冊中的圖片連結及相關資料,完成圖文並呈,回覆使用者。

AI 與 SI 的融合,呈現系統整合服務價值

生成式 AI 不再只是實驗室技術,而是能直接影響企業競爭力的工具。然而,要讓 AI 真正發揮效用,必須仰賴成熟的「系統整合開發服務」,將資料、系統、流程有效串接,才能真正產生價值。隨著 AI 技術與產業需求持續演進,資通電腦將持續以 SI 服務為核心,幫助企業結合創新技術,邁向智慧化與自動化的新世代。

延伸閱讀:

閱讀更多