平臺企業通過引入大模型技術、提供家長管理工具、建設信息“防火墻”、預裝軟件過濾有害信息等舉措,保護青少年健康觸網。
國務院頒布的《未成年人網絡保護條例》(以下簡稱《條例》)將于2024年1月1日起施行,這是我國首部專門性的未成年人網絡保護綜合立法。《條例》規定了培育未成年人網絡素養、規范網絡信息內容等未成年人網絡保護領域的基礎制度,并強調了平臺企業主體責任。平臺企業如何落實即將施行的《條例》?如何構建未成年人網絡保護合規體系?針對這些問題,記者采訪了專家和多家平臺企業。
《條例》公布之后,各方也行動起來。11月12日,由北京市委網信辦指導、首都互聯網協會和北京師范大學新聞傳播學院主辦的“e起首護”《未成年人網絡保護條例》普法宣傳活動啟動儀式上,首都互聯網協會向會員、企業等發出《未成年人網絡保護行業自律倡議》。
記者了解到,針對家長反饋的痛點、難點,平臺企業通過引入大模型技術、提供家長管理工具、建設信息“防火墻”、預裝軟件過濾有害信息等舉措,保護青少年健康觸網。
以網絡游戲為例,自2021年游戲防沉迷新規落實后,未成年人玩家每周游戲時間被控制在3小時內,但部分未成年人使用各種手段繞過監管仍是讓家長頭疼的問題。對此,網易游戲借助AI大模型技術對未成年人保護體系進行智能升級,推出AI巡邏員提高未成年人風險行為識別準確率。
調研數據顯示,違規登入游戲的未成年人玩家主要是使用了成年人的賬號,AI巡邏員的第一項任務就是基于未成年人行為精準判斷疑似未成年人玩家,并進行行為干預。而針對疑似未成年人的不理性消費行為,AI巡邏員能夠做到提前預測,在消費發生前就介入干預攔截。
此外,網易AI巡邏員專門配備了多維的監控與打擊體系,包括危害未成年人不良信息AI識別模型、不良信息的過濾與隔離機制、未成年人社交風控模型、網絡黑手專項打擊等,以系統化且多維化的監管模式,嚴打網絡中的有害信息。據悉每月過濾不良信息超7300萬條,全方位構建綠色的網絡游戲空間。
據統計,試運行至今,AI巡邏員已成功辨別出使用成年人信息進行實名認證的未成年人超千萬并納入監管,干預上萬個未成年人使用成人賬號的高額消費,處理涉騷擾未成年人玩家違規賬號8萬多個。
為了進一步防止部分未成年人冒用成年人身份進行游戲和消費的現象,《蛋仔派對》將持續優化和升級AI巡邏識別技術。尤其針對存在大額充值行為的高風險用戶,游戲內將強制彈窗進行人臉識別認證,不通過認證的賬號會被鎖定,無法進行游戲。
此外,網易游戲成立了專為未成年人服務的部門“網易游戲未成年人保護中心”,下設防沉迷產品開發、網絡環境治理、網絡安全教育等工作組,系統構建了全新的未成年人保護機制。此外,還設立了一個特殊的客服團隊——網易游戲未成年人保護團隊,快速響應解決家長在未成年人游戲行為監管中遇到的問題。保護團隊在接收到家長關愛平臺上的相關舉報后,會以最快的速度查實情況,并與家長溝通解決問題,確保未成年人的網絡安全。
抖音則采取了包括強制進入青少年模式、提供家長管理工具等在內的多種措施,在安全使用、防沉迷管理、優質內容生態建設等領域全面保護青少年上網安全。
網絡上的違法和不良信息一直是家長擔憂的問題。針對這一痛點,未開啟青少年模式場景下,抖音通過技術手段主動進行人群識別保護,一旦判斷疑似未成年人使用時,即刻上線保護措施,保護未成年人不受不良評論內容侵害,并對可能存在風險的私信會話進行安全提醒。此外,重點對飯圈文化、邪典、不良價值觀(炫富、喪文化等)、軟色情等風險進行詳細梳理,通過上線多種類型風控模型策略,深入挖掘清理侵害青少年權益、危害青少年身心健康的違規內容、話題、賬號等,對相關內容進行嚴格處置。
設計:朱靜暉 許英劍
■聲音
要引導學生在網絡生活中,既發揮法律的規范作用,又重視道德的自律引導作用。媒介素養教育也是一種道德教育,是為了讓公眾知曉并遵循信息傳播過程中的相關規范,更好地處理自己與媒體的關系。
——張海波,廣州市未成年人網絡生態治理基地主任、中國青少年宮協會媒介與教育工委會常務副主任
網絡內容服務平臺有責任建好“防火墻”,守護青少年網絡安全,包括采取強制進入青少年模式、提供家長管理工具等在內的多種措施,在安全使用、防沉迷管理、優質內容生態建設等領域全面保護青少年健康觸網。每日首次啟動抖音App時,以彈窗方式推送青少年模式引導頁,未成年人用戶每使用超過40分鐘需要家長授權,實名認證的未成年人用戶賬號或開啟青少年模式的賬號無法充值打賞。青少年內容采用多重審核機制,過濾不同形式的不良信息,適齡匹配內容方面,以泛知識、重教育為主,為廣大青少年量身打造有信息質量、有安全保障的內容。
——抖音相關負責人
如果希望《條例》有更好的實施效果,僅靠平臺仍不夠,需要家校社形成合力。家長層次是不一樣的,高學歷的家長也不見得網絡素養都很高,在家長缺位的情況下,學校、社區和政府要及時補位。社區資源也應利用起來,在寒暑假開設相應的課堂,大型公益機構也可將落腳點放在網絡素養的提升上。
——鄭寧,中國傳媒大學法律系主任
未成年人保護工作是一項系統工程,不僅是行業問題、技術問題、家庭問題,也需要社會各界共同投入力量。以企業為紐帶,網易游戲持續聯合社會各界力量,采用“疏堵結合”的方式,將未成年人保護和教育工作滲透到生活的多個場景。針對未成年人上網安全教育、未成年人相關黑產打擊等,強化與家庭、公安等社會力量的協同,不斷加固守護未成年人健康成長的屏障。通過現實社會的教化和疏導,讓青少年真正形成自己的“免疫力”,能夠去偽存真,對網絡空間形成正確的價值判斷,形成自我保護意識。
——網易游戲相關負責人
當上父母后,并沒有經過系統的教育和培訓,就自然而然地成為家長,但并非所有東西都比孩子懂得多,在移動互聯網,尤其是生成式人工智能的大環境下,家長要和孩子共同成長和發展。希望能夠引入第三方力量,發揮社會大課堂的作用,讓孩子了解互聯網,能夠成為互聯網甚至是生成式人工智能新時代的創新者和創業者。
——方增泉,北京師范大學教育新聞與傳媒研究中心主任
加強未成年人網絡保護、減少網絡有害信息對未成年人的不良影響已成為社會共識。平臺應依照《未成年人保護法》《網絡安全法》《青少年網絡保護條例》等相關法律法規,健全內容審核機制,加強內容把關,凈化不良信息,守護未成年人上網安全。科大訊飛重視對兒童個人信息和隱私安全的保護,推出兒童隱私保護政策,并加強人工智能技術在青少年心理問題方面的研究和應用,幫助學生解決輕度心理問題。
——科大訊飛相關負責人
來源:本文內容搜集或轉自各大網絡平臺,并已注明來源、出處,如果轉載侵犯您的版權或非授權發布,請聯系小編,我們會及時審核處理。
聲明:江蘇教育黃頁對文中觀點保持中立,對所包含內容的準確性、可靠性或者完整性不提供任何明示或暗示的保證,不對文章觀點負責,僅作分享之用,文章版權及插圖屬于原作者。
Copyright©2013-2025 ?JSedu114 All Rights Reserved. 江蘇教育信息綜合發布查詢平臺保留所有權利
蘇公網安備32010402000125
蘇ICP備14051488號-3技術支持:南京博盛藍睿網絡科技有限公司
南京思必達教育科技有限公司版權所有 百度統計