央廣網北京9月28日消息(記者賈斯曼)今天,在共青團中央網絡影視中心、中國下一代教育基金會的聯合指導下,青少年在線學習平臺作業幫發布青少年信息安全防護平臺,在國內尚屬首個。
“網絡的公開性導致了網絡垃圾信息的泛濫。”團中央網絡影視中心黨委委員,未來網總編輯萬興亞表示:“網絡詐騙、不良信息和網絡欺凌使孩子們遭遇了三大負面因素。”解決這些問題需要多方力量的共同努力,同時也許要引入人工智能等新技術。
該平臺名為“寸功”,它將利用大數據技術,通過“AI賦能信息審核”、“全量數據監測和預警”、“數據分析適當干預”、“綜合防護”這四項功能,防護青少年信息安全,同時在不良信息的源頭建立起網絡“防火墻”,構建完整的網絡信息安全體系。
會上,作業幫還與全國婦聯中國家庭教育學會簽署了戰略合作書,將在青少年德育教育、家庭教育等方向展開深入合作。
寸功平臺功能詳細解讀如下:
AI賦能信息審核:將人工智能技術引入到審核全流程,利用其技術上最擅長的圖像識別、OCR文本識別等技術,訓練完成了用于青少年信息審核的特有模型,有效識別海量信息中的色情圖片、優質圖片、試題圖片,以及圖片中的文字、URL地址、推廣信息等。
全量數據監測和預警:針對特定信息進行打標簽預警,對用戶發布不良信息的行為進行定位分析,形成惡意上傳不良信息的黑名單機制。從平臺角度,進一步監測不良信息來源,分析用戶特征,并根據不同情況發出及時準確預警。
數據分析適當干預:大數據技術的基礎上,進行可視化、類型化、個性化分析,對不良信息數據進行進一步的跟蹤,將更多人文關懷、更多正向引導知識輸出給孩子們,對不良信息的發布者進行干預。
綜合防護功能:從三個重要方向進行全面防控,一是正向引導,在政府的指導和社會機構的幫助下,向青少年用戶推送正能量資訊,在青少年德育、家庭教育等方向深入合作;二是扶貧公益,聯合更多公益機構和組織,提供便捷的救助通道,定向精準幫扶;三是一鍵求助,未來在政府和社會各界更廣泛的指導和支持下,將逐步上線一鍵求助功能。