警惕AI技術濫用毒化網絡環境

　　■技術本身無善惡，但如果濫用技術，導致應用邊界失守，就將帶來網絡生態失序，沖擊網絡安全環境

　　■要把平臺的責任壓得更實，強化內容審核機制，精準甄別隱性不良內容

　　《小豬佩奇》被AI魔改成“野豬佩奇”，復刻原版的角色與畫風之下，充斥著戲謔死亡、扭曲親情倫理等不良情節；披著早教啟蒙外衣的AI衍生視頻，內里卻充斥著血腥暴力的場景……當下，大量被魔改的“毒動畫”在各網絡視頻平臺上廣泛傳播，引發社會關注。日前，中央網信辦在全國范圍內部署啟動為期4個月的“清朗·未成年人網絡保護”專項行動，將“編造毒動畫，利用AI技術惡搞經典動畫形象，刻意放大暴力恐怖元素”行為作為專項行動第一階段重點整治對象。

　　這些利用AI技術編造的“毒動畫”為害不淺。血腥、暴力等元素，不僅可能從價值觀層面混淆未成年人的是非認知，扭曲其三觀，還可能在行為層面誘發孩子模仿暴力、消極叛逆等不良行為。更令人擔憂的是，相較于傳統網絡不良內容，AI生成的有害內容呈現出低成本、高產量、強隱蔽、快傳播等特征。用戶依托AI工具，短短數分鐘即可完成畫面篡改、劇情重構、元素拼接，批量生成各類邪典動畫、暴力短劇，并以極低成本通過短視頻平臺和社交網絡批量傳播。再加上，推薦機制編織的“算法陷阱”，讓孩子們即便沒有主動搜索不良內容，也可能會被推送相關內容。這些特點對未成年人網絡保護體系形成全方位沖擊，也給防范“毒動畫”侵害帶來了更大、更復雜的挑戰。

　　從今年年初國家廣播電視總局部署開展“AI魔改”視頻專項治理，到中央網信辦部署啟動專項行動，重點整治“毒動畫”，可見“毒動畫”已成為互聯網空間的一害。不僅如此，此次專項行動，還提出要重點整治“批量炮制獵奇、審丑的AI短劇，誤導未成年人認知”“部分AI軟件創設不良人設角色，輸出曖昧、低俗內容”。

　　這也進一步提醒我們，人工智能技術的發展在為內容生產提供便利的同時，也可能被濫用，成為毒化網絡生態的工具和毒害未成年人精神世界的幫兇。再如，各類AI陪伴、虛擬互動產品的蔓延，也給未成年人健康成長帶來了挑戰。未成年人接觸AI陪伴產品，不僅可能接觸曖昧低俗、情緒誘導、價值扭曲的不良內容，還可能因為依賴AI虛擬角色，而疏離現實生活，損害共情能力、現實溝通能力、矛盾處理能力的培養，阻礙身心成長與社會化發展的進程。此外，AI換臉、AI修圖、一鍵生成虛假影像等技術被濫用，不法分子利用未成年人肖像制作虛假低俗影像、網絡欺凌素材，也在滋生新型網絡暴力、隱私泄露、惡意造謠等亂象，讓未成年人網絡安全防護形勢愈發復雜嚴峻。

　　技術本身無善惡，但如果濫用技術，導致應用邊界失守，就將帶來網絡生態失序，沖擊網絡安全環境。人工智能技術發展背景下，涉未成年人網絡亂象呈現出新的特點，如何凈化未成年人上網環境，面臨更大的挑戰。當前涉未成年人網絡亂象的一個癥結，就在于平臺內容審核滯后于技術迭代、算法推薦缺乏未成年人保護閾值。算法過度追逐流量效益，優先推送獵奇、沖突、博眼球內容，不斷放大技術作惡的負面影響。治理亂象，首先是要把平臺的責任壓得更實，堅守技術向善底線，強化內容審核機制，精準甄別隱性不良內容。同時，優化未成年人專屬算法推薦機制，關閉不良內容投喂通道，建立健全AI內容溯源、篩查、處置全流程機制，從源頭遏制有害內容傳播。

　　技術帶來的網絡安全挑戰，也呼吁家長更多關注孩子的網絡行為。把孩子隔絕于數字世界之外，既不現實也沒有可行性。但是面對更為強大的技術、更為隱秘的有害內容、更加精準的算法推薦，為孩子們筑牢一道基本的防火墻，顯得更為緊迫和重要。線上的風險，往往源于線下家庭教育缺位、陪伴缺失埋下的隱患。對此，家長不僅要帶領孩子主動了解AI新型網絡風險，幫助孩子提升媒介素養與信息辨別能力，更要通過更高質量的親子陪伴、情感溝通，充實孩子的精神生活，對沖手機屏幕里的低俗快感與虛假愉悅，讓孩子擁有抵御網絡誘惑的內生力量。