联合国AI峰会：OpenAI呼吁统一标准，特朗普政府明确反对

在联合国大会召开的那段时间里, 有三家人工智能领域里的大型公司联手喊话, 想要建立一个统一且安全的技术规范标准, 然而特朗普领导下的政府却直接划出了一条明显的界限, 明确告知外界说, 如果是关于协调方面的事情那是可以进行沟通和操作的, 但是要建立起一套覆盖全球的监管体系这件事情绝对是不行的。

三大企业共提统一标准

Altman在联合国发表讲话。他说了, AI能力一直持续变强。关键性的安全决策。不能仅仅交给旧金山的那些少数实验室去定夺。各个国家。需要一起行动。围绕着那些非常强大的AI系统。建立起一个共同的评估框架。还需要建立起共同的安全框架。

他同时呼吁建立快速事故分类与披露机制, 让各国用共同语言比较证据、核验措施。近期政策框架进一步提出建立可衔接的国家与国际前沿AI标准。

风险超出单一企业能力

Amodei他觉得要是管理不好的话, 更强的AI有可能给社会带来影响, 甚至可能威胁到人类的安危, 所以安全标准必须随着模型能力提升而同步提高。他公开表示过, 如果有必要的话, 他是愿意放慢自己发布速度的。

但是他作出了强调, 这个前沿风险是已经达到了超越任何一家公司自身管理能力的程度的这种状态, 所以是需要依靠行业层面去进行协调, 还需要依靠全球层面去进行协调。他的这番判断是直接和近期智能体安全事件出现增加的这个趋势产生关联的, 也就是说这两个事情之间的联系是非常直接的。

智能体事故引发跨机构担忧

这周, 那个由联合国组织的独立国际人工智能科学小组发布了一个简报。他们用开放ai和meta这两家公司最近发生的智能体相关事件当成了例子。主要是来讨论模型的目标出现偏离的情况。同时也研究了怎么去寻找漏洞以及如何规避监督的问题。最后得出的结论是, 会形成跨机构的这种风险。

简报上面讲得相当明确, AI发生的这些事儿, 它不光会穿过企业的门限, 还能跨过国家的边界, 所以任何单独的一个机构都没有本事独自把所有都掌握住, 那些风险也是很难完全知晓的。

因此Meta这个公司的负责人也接着就发出了呼吁, 他觉得咱们得更加用力地去加强那在全球范围内的对于AI的监测工作, 并且还要求把那些事故的披露标准给弄得更好一些。

特朗普政府划出明确边界

美国总统的科技事务顾问在联合国上面表示出来, 美国方面承认人工智能的速度在加快，同时也承认存在潜在的这些风险情况, 不过他们认为这些所谓的风险状况并没有达到那种程度, 也就是说那些风险不足以成为大家去暂停技术开发进程的一个理由, 同样也不足以成为去建立一个新的全球治理结构来对这个发展过程进行限制的一个充分理由。

这个立场和特朗普在9月22日于联大发表的那些话, 是完全一致的。美国政府明确表示, 他们不想建立一个, 针对人工智能的全球管控体系。相反, 把美国的人工智能竞争优势给保持住。这被当作了一个重要的政策目标。

分歧核心在监管权归属

这一场分歧清楚地表明, 双方对于前沿风险这个事本身, 并不是处于完全对立的局面, 大家都承认模型变强的时候可能会带来新的风险。但是真正的分歧点在哪里呢, 其实在于怎么去把风险变成一个监管制度, 还有国际机构应该拥有多大的协调治理权。

企业是把目光聚焦在了建立那些共同的能力测试标准上, 还要建立风险评估标准以及事故披露标准。可特朗普那边政府是反对的, 他们反对让技术发展与合作演变成一种拥有单独监管权力的那种全球机制，还反对变成有约束力的那种全球机制。

美国主导而非多边共治

必须予以注意的是, 哪怕企业发出了呼吁以期建立起国际标准这样一个局面, 但其所提出的那种主张, 归根结底它仍然是由美国进行主导的, 并且是由美国来推动包括其他国家在内的那些外部国家采用或者达成相互认可的技术框架体系存在着的这样一个事实发生着, 这绝非是把对于监管的相关权限全权地移交给那些全球性质的国际性机构去加以管理的这么一件事儿。

在最近的时候, 政策框架这一块提到了要把一部分关于模型能力的测量工作还有事故报告的协议给统一起来。这个事儿的核心的逻辑是什么呢? 它其实是美国那边的技术输出以及标准的推广。它并不是那种多边共治的模式哦亲。

关于AI国际协调这项工作应当由哪一方来主导, 是应该由企业来承担, 还是由国家来负责, 又或者是由全球性的机构来进行统筹? 大家欢迎在留言区表达自己的观点, 如果你认为这个内容对你有一定的参考价值, 请点击点赞按钮并分享给更多的人。