從美國AI & Big Data Expo看生成式AI創新發展
※如欲轉載本文，請與北美智權報聯絡
吳碧娥╱北美智權報 編輯部
AI and Big Data Expo爲全球十大AI展會之一，每年分別於北美、歐洲各舉辦一場國際大規模展會，主要展示企業人工智慧、機器學習、資訊安全、可信任AI、深度學習以及自然語言處理等創新產品與技術，從2017年舉辦首屆展會開始，累計250名以上業界專家到場演講，每場次均吸引7,000名以上專業人士與會。
2024年北美地區的AI and Big Data Expo，已於6月5日至6月6日在美國聖荷西的聖塔克拉拉國際會議中心舉辦，在兩天的展會時間裡，展示來自Google Cloud、IBM、Oracle、Dell Technologies等250多家參展商最前沿的人工智慧技術。今年展會關鍵議題包括企業生成式AI採用策略、負責任AI、生成式AI對勞動力影響、運用AI推動數位轉型等範疇。
資策會日前舉辦【MIC大展直擊】國際主要AI展會重點觀測線上研討會，透過MIC分析師現場直擊與分享，提供產業人士在AI創新與未來發展方向上的參考。
展望未來：下一個十年之生成式AI進展
企業資料多屬於時間序列資料，不一定非要使用大型語言模型才能分析或預測，使用善於處理時間序列資料的知識圖譜技術，也能有效提供企業決策所需的分析。美國新創公司Ikigai在麻省理工學院長年以來的AI研究基礎上，研發出具專利的大型圖像模型（Large Graphical Model，LGM），善於分析結構化的表格與時間序列資料，將不同資料之間的複雜關係視覺化。
資策會產業情報研究所產業分析師楊淳安指出，大型語言模型（LLM）是基於Transformer 模型，以線性方式分析高維度資料，需大量訓練資料集才能提供高品質的答案；而LGM則是超越線性結構，能按順時間、逆時間、最大金額到最小金額的順序等進行分析，稀疏的資料集也能提供精確分析。舉例來說，LGM可透過銷售趨勢、社羣媒體、廣告支出和失業率分析各種資料，協助零售商準確預估季節性的勞動力需求，根據AI預測結果做出最適當的人員配置決策，例如A、B、C 商店需要增加50%的季節性員工而X、Y、Z 商店只需增加10%的員工。
Ikigai於2024年3月成立AI道德委員會，彙集資料科學、AI和道德演算法、法律和國家安全領域等具有不同背景和經驗的學者和企業家，旨在解決當今最急迫的生成式AI安全問題並提供指導方針，AI道德委員會每季召開一次會議討論AI治理、資料最小化、保密性、合法性、準確性等重要議題，於會後發佈組織應考慮的行動和後續步驟建議。今年在AI and Big Data Expo中發表主題演講的Ikigai總裁Kamal Ahluwalia也預測，下一個十年的人才將有1/3被生成式AI替代、1/3成爲與生成式AI協作、1/3則是出現新型態的人才與工作類型，像是AI 提示工程師（Prompt Engineer）。
而總部位於美國加州的大型跨國金融服務公司Visa，在過去十年投入大量資金髮展AI相關服務，隨着生成式AI崛起，Visa技術發展藍圖結合分析型AI與生成式AI，也是今年AI and Big Data Expo的代表性參展商。
圖1. Visa公司的AI發展策略 ；資料來源：Visa，MIC整理，2024年6月
Visa將分析型AI+生成式AI應用於六項金融服務，其中，即時偵測詐欺活動是生成式AI重點發展項目，使用生成式AI能輸入更多資料、模型訓練速度更快，而檢索增強生成技術（Retrieval-Augmented Generation，簡稱RAG）有助於強化詐欺偵測能力。在人才培育方面，Visa致力於培育人才的Copilot能力（透過尋找資訊建立原創內容，並快速完成工作），以發揮生成式AI的最大效用。
由於Visa是大型的跨國金融服務公司，雖然積極採用生成式AI等新興技術，但同時也相當關注風險與挑戰，透過研究各國法規政策，制定Visa內部的AI原則，減緩生成式AI導致的道德倫理議題。Visa認爲，確保演算法是否公平且沒有歧視、強化資安防護避免受到生成式AI導致的駭客攻擊、相同的問題或Prompt應得到相同的答案、落實資料治理與監管措施以保護資料隱私，將成爲生成式AI所帶來四大風險與挑戰。因此，Visa的生成式AI發展策略緊扣三大核心理念，運用生成式AI提升生產力的同時，也必須注意伴隨的風險，以建立可信任AI爲核心原則，發展安全可靠的數位金融服務。
AI向量資料是生成式AI生態系的重要關鍵
AI 向量檢索（AI Vector Search）是基於語意檢索（Semantic Search）的新興檢索技術，Vector是一連串稱爲「Dimensions」的數字，用來獲取資料的關鍵特徵，透過ML Embedding Model生成，主要用於相似度檢索，可以幫助大型語言模型透過檢索RAG技術，提供更準確且與上下文相關的結果，且無需管理和整合多個資料庫。
楊淳安指出，若採用傳統的向量資料庫彙集企業各種形式的資料內容，容易產生資料過時、架構複雜等痛點；大型科技軟體公司甲骨文（Oracle）今年展出在資料庫方面的強項，透過LLM結合AI向量檢索，能有效解決此痛點，即時檢索出具領域知識的企業資料內容。AI向量檢索搭配資料檢索與生成功能的RAG技術，可望有效回答用戶問題。
Oracle日前宣佈推出23ai資料庫服務（Oracle Database 23ai），是Oracle融合式資料庫的最新版本，包含Oracle AI Vector Search 和超過 300個主要功能，着重於簡化AI與資料的使用、加速應用程式開發及執行關鍵任務工作負載。使用生成式AI讓用戶以自然語言查詢儲存於Oracle資料庫中的企業資料，將AI演算法帶到資料所在的位置，而不是將資料移至AI演算法所在的位置，可在Oracle資料庫中即時執行AI，大幅提升AI的有效性、效率和安全性，不論是否具備程式開發的基礎都能使用，有助於提升企業內部所有人才的數位轉型能力[1]。
一站式生成式的AI開發平臺，解決人才不足痛點
Lightning AI公司前身是Grid.ai，後來因爲發明用於訓練AI模型的深度學習框架PyTorch Lightning，在AI開發領域受到好評而改名Lightning AI。自2019年以來，Lightning AI致力於提供訓練、微調以及部署AI模型的開發平臺，讓用戶無需擔心基礎設施、成本管理和其他技術問題。Lightning AI提供一站式生成式AI開發平臺，提升模型的開發效率並降低成本，爲企業解決開發AI模型會面臨的人才不足與缺乏好用工具的痛點。
圖2. 發明AI模型的深度學習框架的Lightning AI公司 ；資料來源：Lightning AI ，MIC整理，2024年6月
根據Lightning AI的調查發現，企業在開發AI模型時，主要面臨的痛點是缺乏AI人才、預算不足以及缺乏好用的開發工具，加上開發AI模型必須先建立基礎設施，由於基礎設施的技術架構過於複雜，導致容易產生配置錯誤的情形，造成企業在資源上的損失，爲了解決上述痛點，Lightning AI將所有AI開發工作流程整合至Lightning AI Studio，從基礎設施的設定、模型框架到部署都能一站式完成，成功縮短AI模型的訓練時間。Lightning AI認爲新型態AI人才並非要具備艱深的技術能力，而是能善用新興工具進行開發與維運，Lightning AI藉由優化操作介面，提供更好用的AI模型開發工具，協助企業培育新型態的AI人才。
資料來源：
1. 2024/7/4~2024/7/18，【MIC大展直擊】國際主要AI展會重點觀測線上研討會，楊淳安簡報。
備註：
1. 2024/5/2，Oracle：Oracle Database 23ai 爲企業資料和應用程式帶來 AI 的強大功能。
驊訊電子總經理室特助
經濟日報財經組記者
東森購物總經理室經營企劃
延伸閱讀&電子報訂閱連結：
【詳細內容請見《北美智權報》361期；歡迎訂閱《北美智權報》電子報】