OpenAI引入第三方评估 AI安全治理新动向

那些走在前面的搞人工智能的大公司, 第一次把那些不跟他们有关联的、单独的评估机构给弄到自己做模型的比较早的那个时候。这么干, 就是把过去那种自己开发东西, 然后自己来测试, 最后自己说这个东西是安全的内部封闭循环模式, 给彻底打破了。

这个做法呢, 是为了直接回应老百姓还有那些管理监管部门, 他们对人工智能风险控制能力能不能行得通的持续不断的怀疑和质疑。

打破内部闭环测试模式

公司在近日正式公布了最新的安全治理方案。其中的核心变化是, 对由外部独立评估来进行介入的这个节点, 进行了调整。这个调整把原本需要在模型发布前去进行的工作, 大幅地前移到了开发周期的中段去进行。这样做之后, 它就不再充当上线之前的最后一道形式上的检查任务了。

在过去那个时期, 行业内普遍存在的一个通行做法是, 企业内部的团队要把所有的安全测试工作全部都做完之后, 才会对外去公布最终的结果, 而第三方的机构仅仅是做了一种形式上的、走个过场的象征性审查。

但是在新机制下面, 独立于各方的评估人员, 会从模型架构开始着手设计的那个阶段之中, 就已经非常全面地参与到这个过程中去了。

四大核心优先事项明确

为了使得新机制在实质上真正地发挥作用, 公司和外部评估的有效运转情况, 同时列出了四个必须满足的前置条件。这四个前置条件包括独立运作的机制、具备科学性的严谨态度、日常安全实践的详细规范, 以及对于各方安全责任的明确分工和划分。

把独立运作明确地放在了最前面。这意思就是评估的结论不能受到委托方商业利益的干扰。必须建立起制度化的通道来发布报告。也必须建立起制度化的通道来表达异议。

独立运作机制如何落地

新的框架提出了要求，第三方机构需要在人员配备、经费来源以及结论发布这三个关键维度上, 同企业之间建立起制度性的隔离机制, 同时, 评估报告必须面向公众进行完整的披露工作, 而不能仅仅是向企业内部汇报。

公司已经作出了明确的承诺, 打算把最终的评估结论同步地向社会进行公开发布, 并且心甘情愿地接受来自媒体和学术界这两个方面的又一次仔细审视, 这样的举动就是为了要在持续的过程中形成一种来自于外部的监督压力, 从而去防止这个评估工作最后沦落成为了内部工作流程里面的一个附属品。

科学严谨性与日常安全实践

在方法论层面上面, 外部评估必须采用那些可以重现、并且可以进行审计的科学流程, 以此来绝对杜绝依赖单一专家的主观判断或者企业内部的黑箱测试数据来得出结论。

在日常实践这一方面, 公司同步建立起持续性红队对抗演练体系, 并且同时建立起异常行为实时监测体系, 用这两项新举措, 把过去那种仅在发布前进行一次集中测试的粗放模式给取代掉了。

安全责任划分

新方案把安全责任拆解成了三个环节包括开发评估和部署, 在开发的环节中由开发方来承担设计安全的义务, 在评估的环节中由评估方来承担判断准确的义务, 在部署的环节中由部署方来承担使用合规的义务。

各方都需要去签订那种具有法律上的约束力的责任协议, 一旦出现了所谓的安全事件的时候, 就可以按照那些预先约定好的责任矩阵来一步一步地去进行追溯, 以此来杜绝那些在出了事情以后谁都不愿意去承认的模糊不清的地带。

行业影响与监管走向

分析人士指出, 若是头部同行逐步跟进这种模式, 整个AI行业的安全治理范式将被重塑, 监管机构对企业的审查效率与深度也可能同步提升。

眼下全球主流的AI监管框架还在形成阶段。企业这样做是因为愿意主动引入外部独立评估。这种做法被多数人看在眼里, 觉得是给未来强制合规留出缓冲空间。人们并不认为这只是单纯的公关动作。

你认为第三方机构真的能够管住有关AI安全的问题, 还是说最终还是会变成仅仅走个过场的形式。欢迎在评论区说说你个人的看法。如果觉得这个内容是有用的, 请进行点赞和分享。