雲端影響力／救社羣亂象？ AI是把雙面刃

社羣媒體已徹底改變世界，衍生出假訊息、監控、同溫層效應、仇恨言論盛行等風險，隨人工智慧興起，AI將成爲下個改變人類生活的新技術，但AI究竟是能治癒社羣媒體沉痾的救星，還是會重蹈覆轍，甚至讓社羣生態更惡化，成爲近期學界及科技領域討論話題。

看好AI者認爲，AI不只可以改變社羣負面、虛假內容氾濫現況，還能讓社羣世界變得更美好。時代雜誌（TIME）今年4月以「人工智慧可治癒分裂的網路」爲題撰文，列出AI能改變社羣媒體現況的原因：

找出正面社羣言論

許多科技公司已透過AI來識別仇恨、煽動暴力、騷擾等負面內容，以減緩網路分裂，Google母公司Alphabet旗下技術孵化器Jigsaw進一步推出新AI分類器，設有多樣評分項目，可細緻辨識貼文是否具備同理心、多元觀點等正面特質，藉此找出正面社羣言論。

改變內容推薦模式

Jigsaw期待改變社羣平臺以熱門度、廣告爲主的內容推薦模式，多推送正面內容。Jigsaw說，工具已提供獨立開發商，希望透過新聞評論區等小型實驗，提供證據基礎，證明新推薦方式依舊受用戶歡迎。短期參與度或許會下降，但健康生態將有助長期參與，也能讓各社羣自行組合評分和推薦機制，避免單一霸權主宰。

不過也有專家對AI持截然不同看法。有學者針對Jigsaw這套工具提出質疑，資料科學家桑德斯、安全技術專家施奈爾今年3月也在麻省理工科技評論撰文，指AI若未謹慎使用，恐對社會造成難以置信的傷害：

加劇仇恨言論傳播

有意散佈惡意內容的用戶可透過生成式AI產製大量假訊息，再借由AI控制的假帳戶病毒式傳播。印第安納大學研究員去年7月揭露社羣平臺X上由1100多個假帳號組成的殭屍網絡，疑似皆透過ChatGPT運作。

AI篩選有審查疑慮

不少研究指出，AI易存有偏見，用熱門度來推薦社羣內容仍相對公平，用AI來篩選恐有審查疑慮。

另社羣媒體令人詬病是平臺壟斷，社羣平臺仗着擁有大量資料，讓用戶難以轉移，AI也有此問題。

桑德斯和施奈爾認爲，人類在社羣媒體上犯的最大錯誤是讓其成爲一個不受監管的空間，如今AI也正以超越當年社羣媒體擴散的速度影響人類生活，監管與限制使用變得相對重要，「社羣和AI本質都不邪惡，危險來自於誰揮舞這把劍，以及劍朝什麼方向」。