《資服股》叡揚聚焦LLM技術 提供高效彈性Fine-Tuning策略

數位發展部正大力推動「臺灣AI行動計劃2.0」，日前活動現場叡揚展示多款將AI技術結合應用系統的前後處理，如運用機器學習技術辨識影印或影像檔的財報資料，金融產業將OCR加入AI元素，即使影像有斜式或蓋章等干擾，也能夠高達90％以上的成功辨識率，接着串接到會計與徵授信系統，減少使用者90％以上的登打與覈對時間。

另外，廣爲被使用的公文管理與知識管理系統在結合AI及LLM下，輔助使用者快速且正確地完成公文撰寫或查找完善資訊，如同隨時都有資深且貼心的同仁手把手協助，讓人工智慧助益組織文化知識傳承與效能躍進。AI、LLM等技術可以爲知識管理提供新功能優勢，尤其知識管理系統具備良好的協作介面讓團隊成員無形中留存高品質對話、創化內容，提高組織知識彙集、協作共享及權限管理避免產權泄漏。

而組織的各類系統，也能透過叡揚的機器人生成平臺快速生成對話式服務；非資訊人員也能透過視覺化的操作平臺，將組織的流程與知識轉化設計出對話機器人，融合AI理解後，更能透過口語化的問與答提供服務對象需要的解答或引導至正確的系統，呈現直覺的人機介面。

對於LLM及AI技術，叡揚從2013年開始投入，由NLP 、機器學習開始，團隊持續研讀論文、試驗各類模型，落地解決實務問題，後續延伸到圖像區塊辨識及內容物辨識的應用。2022年底GPT的出現，出現更多可探索的機會與挑戰，叡揚過去在AI的實作經驗，可較快測試釐清哪些問題不用LLM就可完成，也可較快試驗各推陳出新的LLM，符合市場需求。