羣聯打造臺灣AI平臺 自薦為政府訓練語言模型

羣聯執行長潘健成。圖╱羣聯提供

生成式AI熱潮延燒,臺灣成爲產業鏈的重鎮。羣聯打造「aiDAPTIV+」平臺,要在生成式AI領域化被動爲主動。執行長潘健成毛遂自薦,願爲政府單位針對臺版AI語言模型進行訓練,盼藉臺灣成功經驗,助廠商走向國際。

潘健成表示,國科會去年4月啓動TAIDE計劃,希望研發適合臺灣語言、文化特性的臺版大型繁中AI語言模型。政府機關使用生成式AI可以提升效率、降低人力,但是各單位使用需求不同,一定要做微調。

他說,羣聯希望能夠協助訓練,進行概念性驗證,只要2周就會有結果。如果好用,政府就可以展開建置,同時透過臺灣成功經驗,協助廠商走向國際市場,這是對臺灣有利的事。

潘健成接受中央社團隊專訪當天,羣聯在臺北舉行開發者大會,推廣自行開發的「aiDAPTIV+」平臺,現場邀請技嘉等業者展示相關應用,吸引300名開發商參加,展區擠滿人潮,交流互動熱烈。

潘健成說,生成式AI可以提升生產力,節省大量人力資源,相信是發展趨勢。他以自家情況爲例,在車用安全認證方面,以前工程師寫程式碼,同時要耗費更多時間寫成文字;工程師寫1行程式碼只要3秒,寫1行文字卻要3分鐘。

羣聯於疫情期間,在處理一個大案子時,損失了14名資深工程師,因爲他們不願意寫文字,選擇離職。潘健成說,這令羣聯很痛苦。

羣聯後來訓練開發出生成式AI方案,現在工程師寫完程式,文字同時自動產生出來,工程師不需要再花心思在寫文字,潘健成估計,羣聯因此1年省下80個人力。若以員工平均年薪新臺幣216.6萬元計算,1年可創造1.73億元的經濟效益。

潘健成進一步透露,北港武德宮解籤機器的資訊後臺,也是羣聯的發明。他說,舉凡學生、律師、會計師等,只要需要產生文字的行業,都會用到生成式AI。

潘健成指出,目前只有如臺積電、聯發科等大企業及大型政府機關,有能力購買高階的繪圖處理器(GPU)進行訓練,有更多的企業擁有資料,卻苦於無法做訓練。羣聯的「aiDAPTIV+」平臺就是希望透過降低建置成本,促進企業採購設備訓練的意願。

潘健成說明,「aiDAPTIV+」平臺是傳統個人電腦產業鏈的產物,有一片主機板,上面有中央處理器(CPU),插幾片輝達(NVIDIA)或超微(AMD)的繪圖處理器(GPU)卡,加上羣聯開發的AI100,再灌入中介軟體,機器就完成了。

他認爲,臺灣擁有晶圓代工、封裝、測試及系統組裝,生成式AI產業鏈在臺灣,但是比較偏被動式,因爲是美國廠商設計、提出需求,由臺灣負責製造,臺灣少有主動的方案。

潘健成表示,「aiDAPTIV+」平臺是臺灣一個主動式生成式AI的方案,希望結合軟體、系統整合廠商,建構生態系,臺北國際電腦展(Computex)可望有大量應用方案展出,並期待能夠快速普及。