AI乱象整治新进展！网信办清理561万条违规信息，严打虚假与低俗内容

近年来, AI技术被滥用的问题变得越来越突出, 虚假信息大量出现, 低俗内容不断涌现, 假冒他人的行为极其频繁, 这样下来, 明显严重地扰乱了网络秩序, 极大地侵害了用户权益, 特别是未成年人群体, 更是受到了非常严重的影响。

专项行动取得阶段性成果

中央网信办于近日公布了“清朗·整治AI应用乱象”专项行动第二阶段的成果, 全国累计清理掉超过561万条违法违规信息, 查处4.9万余个违规账号, 处置2400余个违规网站及应用程序。

上述数字体现出, AI技术存在被滥用, 以及被恶意操控的状况, 且这种问题相对较为严重。特定专项行动具备强针对性, 着重对于借助人工智能来制作发布虚假信息, 传播暴力低俗内容, 假冒仿冒他人, 还有侵害未成年人权益等突出问题展开打击。

各地精准施策成效显著

各大平台受北京之指导, 对内容审核策略予以升级, 在对违规内容新型变体的识别能力方面大幅提升, 在对其处置能力方面亦大幅提升。企业被上海督促着, 开展自查自纠工作, 还推出了AI应用“知识普及包”, 以此引导公众增强防范意识。

对属地重点平台实施“一企一策”合规指导的浙江, 依法查处了一批问题突出的AI应用, 广东则是通过召开重点平台工作例会, 针对多款应用的违规问题开展点对点督促整改。

主流平台强化技术防范

动态扩充人脸与声纹库的作业, 在像抖音、快手、微博、腾讯、百度这般的平台持续开展, 这些平台还不断优化多模态识别模型, 上线人脸实时治理系统, 使得违规内容的智能检测效率得到大幅提升, 在此期间, 相关治理公告已经累计发布了46期。

以哔哩哔哩、小红书、知乎、豆瓣以及淘宝等为代表的平台, 同样在持续加大技术层面的赋能力度。各个平台凭借算法升级以及数据更新, 有效地对大量存在涉嫌违规情况的由AI生成的内容进行了拦截, 进而遏制了虚假信息的扩散传播, 这一系列行为产生了相应的效果。

源头防控筑牢安全屏障

豆包、元宝、千问以及文心一言等头部大模型平台, 对原始语料内容的审核机制进行严格把关, 全方位落实AI生成合成内容的标识要求。这一举措防备了违法违规信息的生成和传播, 从源头开始。

主流应用商店中的华为、小米、OPPO以及vivo等, 进一步把开发者准入规范与上架标准给收紧了, 针对在架应用展开频繁的抽检复测, 成功地把大量违规App拦截在了库门外面。

典型案例警示意义深刻

有部分账号, 借助AI技术对经典名著进行了“魔改”, 恶意地颠覆了重要人物的人设, 还虚构出低质猎奇的剧情以博取流量。这类内容, 被网信部门形象地称作“数字泔水”, 极为严重地损害了文化价值与公众认知。

还有账号凭借AI合成虚假灾害现场以及救援画面, 去编造不实热点, 进而打造AI数字人虚假宣传带货, 以此误导老年群体。部分账号借助AI“换脸”“换声”技术, 冒充公众人物形象生成低俗视频来营销谋取利益。

存在一些平台, 批量去发布暴力低俗的内容, 针对未成年人, 炮制出怀孕、打架等不实的场景, 传播夹带暴力恐怖或者软色情的“毒动画”, 以及儿童“邪典”视频, 这严重伤害了未成年人。

持续治理守护网络空间

网信部门宣称, 接下来会持续紧密留意AI生成合成内容所带来的新状况以及新风险, 以常态化方式防范技术被滥用的行为, 从而给构建清朗的网络空间给予坚实保障。

有关部门已依法对智能体平台予以严厉处置, 该平台涉嫌淫秽色情信息, 处置方式包括警告、罚款、下架或关停等。针对利用AI“托管”软件模拟真人运营账号充当网络水军的行为, 有关部门也将继续加大打击力度。

有益于社会的发展应当是AI技术, 而绝不能使其沦为造谣传谣以及侵害他人权益的工具。对于网信办针对AI乱象展开的专项整治行动, 你持支持态度吗? 欢迎于评论区留言进行讨论, 并且点赞之后分享给更多的朋友。