NVIDIA針對臺灣、日本推出符合在地語言與文化的NIM微服務 加速佈署各類主權AI應用項目

NVIDIA在今年GTC 2024活動公佈的NIM微服務，目前已經在臺灣與日本地區推出可用於自動生成式人工智慧的四款全新微服務，藉此加速佈署各類主權人工智慧應用項目。

此次推出的四款全新NVIDIA NIM微服務，將讓開發者能更容易建置、佈署高效能的自動生成式人工智慧應用服務，並且可依照在地需求量身訂做，藉此符合在地語言、文化，同時透過準確理解和改善的迴應，藉此強化與使用者的互動。

而全新NVIDIA NIM微服務分別整合使用日文資料訓練出的Llama-3-Swallow-70B，以及使用臺灣在地中文資料訓練出的Llama-3-Taiwan-70B，兩者均以Llama 3 70B模型爲基礎打造，另外也包含建立在Mistral-7B模型基礎上的RakutenAI 7B系列模型，分別以英文及日文資料集進行訓練，主要應用在日本樂天旗下服務。

與Meta開源提供的Llama 3等大型自然語言模型相比，此類模型在理解日語、臺灣在地中文，以及處理當地法律任務、回答問題，並且進行語言翻譯與總結方面的表現更爲優異。

藉由導入在地語言模型，開發者將能利用NIM微服務建立更符合在地互動體驗的應用功能，並且透過API形式使用全新的NIM微服務，並且廣泛應用在醫療保健、金融、製造業、教育與法律相關領域。

目前包含東京工業大學全球科學資訊與運算中心 (Global Scientific Information and Computing Center)、臺灣長庚紀念醫院、和碩聯合科技、長春集團、欣興電子、科技報橘、律果科技，以及自動生成式人工智慧新創APMIC均以NVIDIA NIM微服務打造各類應用項目。

另一方面，藉由NVIDIA AI Foundry平臺，企業亦可針對需求量身打造客製化人工智慧模型，透過各類基礎模型結合NVIDIA NeMo服務進行微調，配合NVIDIA DGX Cloud與各類技術堆疊，即可藉由NVIDIA NIM微服務客製化各類模型。

《原文刊登於合作媒體mashdigi，聯合新聞網獲授權轉載。》