實時檢測、用戶可用，一款新的AI鑑僞工具背後

馬斯克和“機器人女友”的親密照、登月失敗的視頻……不論出於娛樂還是詐騙目的，AI合成內容都打破了眼見爲實的傳統邏輯。

6月21日，瑞萊智慧開啓新款AI鑑僞工具RealBelieve的內測。RealBelieve中文名“尊嘟假嘟”，面向終端用戶，提供主動實時檢測防護，可接入視頻流鑑別人臉真僞，也可在用戶瀏覽網頁內容時提供AIGC（人工智能生成內容）合成可能性提示。

做AI鑑別的價值不用贅述，海外的Open AI和微軟有意，國內的大廠和創業公司也有解決方案。但業內人士對推廣此類產品的時機持懷疑態度。RealBelieve強調的to C(用戶)、實時檢測會讓這場“貓鼠遊戲”出現怎樣的新局面？瑞萊智慧高管團隊向北京商報記者透露了產品背後的思考。

用戶有需求

“這是公司第一次的to C產品嚐試：有了圖/文生視頻、AI換臉、大語言模型之後，用AI造謠和詐騙的門檻不存在了，誰都可以做出以假亂真的AIGC內容”，6月21日，瑞萊智慧CEO田天這樣解釋產品研發的初衷，“因此我們推出針對個人用戶的AIGC檢測能力，並且針對個人用戶的習慣提供實時主動檢測。幫助大家在真假混雜的數字空間裡用AI對抗AI。”

“RealBelieve希望能成爲幫助您抵禦AI詐騙、辨別AI合成內容的可靠夥伴”， RealBelieve產品試用申請網頁的上方有這麼一行字。用戶填寫手機號碼、個人基本信息，並回答數個有關AI合成內容的問題，即可提交申請。

在與北京商報記者交流時，瑞萊智慧聯合創始人蕭子豪也多次強調，推出RealBelieve是因爲用戶需求高漲，“公司對外有很多聯繫方式，我們通過這些渠道收到了不少用戶對AI鑑僞的需求”。

其實，AIGC真假難辨久矣。破圈的合成圖包括但不限於特斯拉CEO馬斯克和“機器人女友”的親密照、AI生成的美國前總統特朗普被捕圖。在視頻通話中遇到“假人”，轉賬至指定賬號的遭遇，也不是孤例。

根據公開數據，近年來，我國AI詐騙案件數量及涉案金額均呈現指數級增長。2023年，我國被公開報道的AI詐騙案涉案金額已達數千萬元。2024年初，某全球頂尖工程諮詢公司香港分部職員遭遇AI詐騙，僅此一案就已導致該公司受損2億港元。

拋開用戶需求，原本to B（企業）的瑞萊智慧，推出to C的AI鑑僞工具不難理解。“很多to B的服務其實最終都是面向C端的，to C產品可以繞開B端直接面對用戶，拿到數據。既然公司有現成的技術積累，試試水有何不可”，比達分析師李錦清告訴北京商報記者。

做實時，交互要簡單

瑞萊智慧成立於2018年，產品及解決方案主要圍繞AI治理，先後推出生成式人工智能內容檢測平臺DeepReal、人臉AI安全防火牆RealGuard等相關產品。

基於以往的產品經驗，“我們發現，簡化交互對C端用戶來說是個重要的問題。政企用戶採取的交互操作對C端用戶而言比較複雜”，蕭子豪向北京商報記者透露。

目前，RealBelieve主要採用拖拽上傳的交互方式。具體點說，RealBelieve爲終端用戶提供文本、圖片、視頻和音頻多種模態的文件上傳檢測服務，用戶拖拽、上傳文件即可檢測，還可以通過瀏覽器插件的形式實時提示用戶所瀏覽網頁的疑似AI合成內容。

針對視頻通話場景，RealBelieve可爲用戶提供視頻通話AI合成實時監測防護。在視頻通話時，用戶不需要手動錄製和上傳會議視頻，產品會及時給用戶發出預警內容，提示視頻對方的人臉是否存在AI合成的風險。實時的風險提示可以幫助用戶及時調整聊天方式，快速確認對方的身份，減少不必要的損失。

介紹上述功能時，瑞萊智慧方面以某視頻會議的視頻通話場景爲例，如使用RealBelieve，用戶視頻通話時會在頁面出現提示框顯示內容真僞，掃描結果紅色爲僞造，綠色爲非僞造。

有意義，但早不早？

事實上，RealBelieve並不是第一個to C的AI鑑僞產品。2019年10月，國內另一家人工智能公司已發佈多模態AI生成信息智能檢測應用小程序“星眼鑑”，這款工具可以鑑別出用戶上傳的視頻或圖像是否爲AI生成的僞造數據。根據產品描述，RealBelieve與星眼鑑相比，差異點在於實時、可鑑別的內容形式更豐富。

放大到國際市場，OpenAI將推出一款工具，用於檢測由AI圖像生成器DALL-E 3創建的圖像。微軟開發了一種身份驗證工具，可以分析照片或視頻，並對其是否被操縱給出評分。

RealBelieve背後的檢測模型基於貝葉斯深度學習技術開發。據蕭子豪介紹，團隊構建了一整套多模態AIGC檢測技術體系，能夠挖掘並建模多模態、多層次、多角度的AI合成線索，度量真假差異，並進行不確定性推理決策。

迴歸產品本身，北京商報記者發現，目前蘋果、安卓應用商店及微信、支付小程序中，均已搜索不到“星眼鑑”。“針對用戶做AI鑑僞是有意義的，但是不是有點過早了”，文淵智庫創始人王超向北京商報記者表示，“畢竟大模型的應用還在初期，而且比想象中慢。”從業者要回答這個問題，或許需要時間。

北京商報記者 魏蔚