Meta用AI替代人工审核，内容审核效率提升90%

一场静悄悄的内容审核革命

Meta正历经一场平台治理方面的深刻变革, 此变革是从人工审核转变为AI接管 , 据《金融时报》透露 , 当下Meta平台里约50%的内容审核请求已被大语言模型自动处理 , 这家社交媒体巨头打算在今年年底之前 , 于特定违规内容审查里 , 把人工审核参与度降低90%以上 , 这场由首席执行官马克·扎克伯格全力推进的AI战略 , 正从根本上改变Meta的运营模式。

长久以来, Meta的内容审核体系依靠“自动系统 + 人工审核”的混合模式, 人工团队里有许多第三方承包商, 专门处理用户申诉以及复杂案例, 然而当下, 随着大语言模型技术成熟, 这套依赖人力的初筛模式正被打破, 对Meta来说, 这不只是技术升级, 更是成本控制的关键一步。

从混合模式到AI主导

Meta的那套内容审核流程, 正处在从量变朝着质变转变的进程当中, 以往, 自动系统主要承担初步筛选这块儿, 而人工审核员去处理那些争议比较大的内容, 用户针对处罚的申诉一般也是由那个人工团队去接手, 这样一种模式的运营成本还真的是特别高, 按照行业分析师估计, Meta每年在内容审核上面支付了达到数十亿美元这么多的费用。

因大语言模型开始展开部署, 状况正在发生改变, 数据表明, Meta平台之上的内容审核请求已经有一半是由AI自行处理的，公司内部文件当中提及, 针对特定类别的违规内容, 像仇恨言论以及虚假信息, AI审核的精准率已经快要达到人工的水准了, 这样的一种转变意味着, 众多第三方承包商得工作将会被逐渐取代。

成本压力下的必然选择

推动这次改革前进的直接力量, 是扎克伯格针对AI基础设施所进行的数额巨大的投入, Meta近些年来在AI芯片方面, 投入了数百亿美元, 在数据中心方面, 投入了数百亿美元, 在人才招募方面, 同样投入了数百亿美元, 这些投资, 并非仅仅只用于内容审核, 更是服务于他构建“个人超级智能”的那个规模宏大的愿景, 从内部运行的角度去看, AI审核在每年都能够为公司节省下数额达到数十亿美元的资金。

在节约成本之际, Meta 还于提升处理效率, AI 系统能够 7×24 小时不间断地运行, 其处理速度远远超过人工团队, 对于平台上数量众多的海量内容而言, 这表明违规内容能够被更为快速地识别以及处理, 然而, 这同样引发了外界针对平台治理透明度与公平性的担忧。

AI审核能否替代人类判断

无法被技术层面的高效所掩盖的, 是AI审核存在的潜在风险。大语言模型于处理复杂语境之际, 仍旧存有短板。比如说, 针对讽刺性内容、文化敏感话题或者涉及政治的争议案例, AI常常难以做到准确判断。与之形成对照的是, 人工审核员借助对语境的深度理解, 能够给出更为合理的裁决。

一点这也被Meta内部所承认, 公司发言人宣称, AI审核主要被用于初筛以及常规案例, 然而那些争议较大的内容依旧会保留人工审核渠道, 可是随着年底目标的逐渐临近, 人工参与度的大幅削减, 这极有可能致使用户申诉流程变得更为机械化且不可预测。

第三方承包商的命运转折

对于Meta与之合作的第三方承包商来讲, 此次AI方面的改革所代表的是工作岗位出现流失的情况。按照知情人士所透露出的内容可知, Meta在多个不同的国家雇佣了数量达到数万的内容审核员, 这些内容审核员当中大部分是来自像印度、菲律宾以及肯尼亚这样的低收入国家。这些岗位一直以来都面对着精神层面的压力以及强度很高的工作 , 不过它也是当地相当重要的就业源头。

Meta的打算为, 一步步削减这些岗位, 公司正给部分员工提供转岗培训, 然而数量有限。行业观察人士表明, 这样“AI接管”模式并非Meta独自有, YouTube和TikTok也在探寻类似途径。但就平台治理而言, 人工审核的变少或许会让弱势群体的投诉更难被及时处理。

年底目标进入倒计时

伴随着二零二六年下半年的来临, Meta的AI审核规划正步入深度施行时期。公司打算在年末之前达成特定种类违规内容审核的人工参预程度降低百分之九十以上。这表明, 往后用户对于内容惩处的申诉, 极有可能径直由AI系统予以处理。

在内部会议之上, 扎克伯格着重强调, 人工智能乃是Meta未来的核心所在。他持有这样的观点, 借助高度定制化的人工智能产品, 用户能够获取更为个性化的体验。然而在内容审核这一领域当中, 此番实验的成败将会直接对平台的公信力产生影响。随着目标日期逐渐临近, 外界会密切留意Meta究竟怎样去平衡效率、成本以及用户权益。

有关AI完全接管内容审核这一情况你持怎样的看法呢, 你觉得机器在判断争议内容方面能够比人类更加公正吗, 恭请在评论区将你的观点予以分享, 点赞以及转发从而使更多人能够参与到讨论之中。