張鈸：AI的創新發展與安全治理要兩手抓

兩手抓，兩手都要硬。

近日，在“AI安全與產業治理”論壇上，中科院院士、清華大學人工智能研究院院長張鈸就人工智能（AI）安全與產業治理分享了觀點。

張鈸認爲，AI在帶來傳統產業智能化和智能技術產業化的同時，也帶來了新的風險和安全隱患，因此AI的創新發展與安全治理要兩手抓。

張鈸指出，未來人工智能產業發展在擴大應用場景的同時，必須實現數據、算法與應用層的安全可控。同時，他表示人工智能的安全可控問題要同步從技術層面來解決。

在具體的實現路徑上，張鈸提出發展“第三代人工智能”，即融合了第一代的知識驅動和第二代的數據驅動的人工智能，利用知識、數據、算法和算力四個要素，建立新的可解釋和魯棒的AI理論與方法，發展安全、可信、可靠和可擴展的AI技術。

從AI安全的具體實踐而言，業界已開始進行探索。本次論壇上，清華大學聯合阿里安全、Real AI共同發佈AI攻防對抗基準平臺Adversarial Robustness Benchmark。

據介紹，該評測基準基於清華大學在2020年GitHub開源的ARES算法庫，致力於對AI防禦和攻擊算法進行自動化、科學評估。

不同於之前只包含零散攻防模型的對抗攻防基準，此次推出AI對抗安全基準基本上包括了目前主流的人工智能對抗攻防模型，涵蓋了數十種典型的攻防算法。不同算法比測的過程中儘量採用了相同的實驗設定和一致的度量標準，從而在最大限度上保證了比較的公平性。

除此之外，本次發佈的AI安全排行榜也包括了剛剛結束的CVPR2021人工智能攻防競賽中誕生的排名前5代表隊的攻擊算法。此次競賽吸引到了全球2000多支代表隊提交的最新算法，進一步提升了該安全基準的科學性和可信性。

“通過對AI算法的攻擊結果和防禦結果進行排名、比較不同算法的性能，建立AI安全基準具有重要學術意義，可以更加公平、全面地衡量不同算法的效果。”RealAI首席科學家朱軍介紹道。

（作者：楊清清 編輯：張偉賢）