央廣網北京8月22日消息（記者白杰戈）據中國之聲《新聞縱橫》報道，最近，一則“AI（人工智能）當上鑒黃師，可能將取代人力審核”的消息在網上受到關注。昨天（21日），中國互聯網協會在2018網絡安全生態峰會上發布研究報告，討論人工智能技術在網絡內容安全保障領域的運用面臨哪些機遇和挑戰。

　　這份研究報告表示，網絡內容具有即時性、海量性和多態性等特點，人工智能技術可以被用在文字、視頻和圖片（包括其中的人臉和特定標識），以及語音信息的檢測識別，成本和效率都優于傳統的人工審核。報告的撰寫者之一、國家互聯網應急中心高級工程師徐杰介紹，這源于人工智能的自我學習能力。比如，用傳統的方法描述貓跟老虎的區別，非常復雜。對于機器學習而言，只要給它提供大量貓和老虎的圖片，它會從這些圖片中學習特征、建立模型，這是目前機器學習技術在網絡內容安全方面最大的優勢。

　　報告舉例說，人工智能可以搜索和比對畫面中的敏感人物，識別他們的聲音。類似的技術在商業、生活等領域也有用武之地，比如商家識別顧客的姿態、情緒；直播或短視頻網站檢測涉黃內容、不良場景、侵權畫面、低俗語言甚至驗證主播身份；安防部門可以使用視頻分析技術設置警戒區（線），判斷是否有人進入禁區，并檢測擁擠、追逐、打斗、跌倒、翻越等異常動作或事件，識別爆炸、燃燒、煙霧等危險場景。

　　不過媒體報道顯示，人工智能也存在誤差，兩個倒扣的碗、喝礦泉水的女子、摔跤比賽等畫面，都曾經被AI鑒黃師識別為色情圖片。中國互聯網協會的報告也坦言，人工智能要廣泛運用在網絡內容安全保障領域，技術上還存在挑戰，比如畫面內容識別的速度和準確率，語音識別系統支持的語言種類有限和噪聲影響等。

　　此外，徐杰介紹說：“如果AI用在一些比較要害的方向，不知道它怎么訓練出來的，我們不敢用。攻擊者只要知道是根據哪些數據訓練出來的，就可以根據這些數據有針對性地攻擊、對抗這個模型，使其很快失效�！�

　　不過，報告仍然對人工智能提高效率、降低成本、節省人力的作用表示肯定和期待。中國互聯網協會副秘書長宋茂恩說，將人工智能引入網絡內容安全保障建設中，將會在多方面促進社會價值進一步提升。比如維護國家安全及社會穩定，凈化網絡空間，保護知識產權，降低維護真實信息的社會總成本，提升互聯網內容質量，輿情管控，應對以及維護公民權益。

　　人工智能在網絡內容安全領域能否取代人類？阿里巴巴集團資深算法專家薛暉表示，與人類相比，AI技術的標準更客觀，它不隨著時間和個人的差異變化，并且它的模型、數據、特征更容易被傳承，而人與人之間的一些審核經驗、治理經驗相對較難傳承。如果中小企業通過使用專業的內容安全治理服務商的服務，能夠將成本降到更低，也可保證業務創新不受風險的影響。

　　報告的撰寫者之一、中國社會科學院世界經濟與政治研究所博士后陳哲提醒：“僅靠技術不能解決所有問題。從長遠來看，特別是在中國，要考慮到數據隱私的保護以及倫理問題。從研究人文社會科學的角度來說，做AI要有人文社科情懷，否則AI一定會變成一個冰冷的機器。”