蚂蚁公开AI训练数据摘要？合规开发者必看的LLM透明度解析

蚂蚁集团在GitHub上面新开设了一个叫作“AI-”的仓库。这个仓库把旗下那三个系列的模型, 也就是Ling系列、Ring系列和Ming系列的模型训练内容的摘要都集中起来归档了, 并且把这些内容公开出来了。

这里面是没有权重文件的, 也是没有数据集的。里面只有一组文档, 这些文档是专门按照欧盟那个监管模板填写好的合规文档。这种做法其实是全球那些搞大模型的厂商之中比较少见的, 这就相当于一种先把作业交了之后再出海的动作。

仓库里只有文档没有权重

这些仓库里的内容全部都是那种PDF格式以及文本格式的训练摘要, 官方非常明确地说了, 这里面是不附带任何模型_weights_或者底层训练数据的, 同时文档也声明了自己的存在并不构成对旗下任何模型的权威认证或者是背书。

每一分摘要, 这个摘要, 标注了这个对应的版本号, 还标注了这个更新的日期, 描述的范围, 是严格地限定在了文档点名的那个模型和那个版本里面, 是不授予第三方使用训练内容的权利的。

格式直接对标欧盟法案条款

整套摘要框架是逐条对应欧盟《人工智能法案》(EU)2024/1689第53条第1款d项所规定的内容, 并且是对“公开训练内容摘要”的模板结构进行一一对应。文件采用的是由监管方指定的标准字段与层级。这并非是由企业进行自定义的技术博客形式。

适用范围被一份一份地钉死在了原地, 文档里写得清清楚楚, 写了Ling-2.0那就仅仅只覆盖Ling-2.0以及Ling-mini-2.0, 同系列的产品或者带有量化后缀的变种不会自动被纳入到覆盖范围之中, 需要单独出一份文件。

覆盖模型清单横跨三大产品线

Ling那条产品线从二的点零版本开头, 一路扩展到了二点五个版本以及二点六个版本, 继续一直铺满到了三点零这个版本。

在三点零这个版本的下面呢, 又划分成了两种不同的类型, 分别是大语言模型也就是LLM的版本, 这里面包含了flash版本、tiny版本还有flash-fint版本, 另外还有一版是视觉语言版的Ling-3.0-flash-Vl。

至于Ring那条产品线, 它所覆盖的版本范围是从二点零版本开始, 一直到了二点五的一T版本再到二点六的一T版本, 中间都包括了。

Ming家族拿出了一组东西, 这里面包含了Omni全模态系列, 这个系列里面有flash-omni, 还有flash-omni-2.0。他们还拿了两款模型, 分别叫-16B-A3B、-16B-A3B。这两款模型是统一音频与视觉模型。每一款模型的内容, 都注明了它所属的文档规定层级。

版本日期与提交记录的区别

那个联系页面, 它是指向蚂蚁Ling官方开发者站点的, 目的就是为了供开发者去追踪后续的更新情况的。在该仓库里面, 是附有版本历史说明的, 这一情况是在提醒读者注意, 那就是在PDF文档中的那些日期, 仅仅是作为文档修订版本的日期而存在的。

官方进行了特别的标注, 具体的说明是在内容实际发生的改动情况是需要以仓库里的Git提交记录作为依据的, PDF里面的日期是不等于这个模型第一次面向外界发布的时间点的, 这样做的目的是为了避免在进行合规审计的时候会出现对时间线产生误判这种问题。

出海合规与行业参照的双重信号

在全球监管力量把训练透明度从“自愿披露”推为“硬性门槛”的这个背景之下, 蚂蚁提前按照欧盟模板归档了全系摘要, 这可以被当做是为了降低后续在欧盟市场部署时合规成本的前置动作来看待。

对于那些在国内处于同行业位置的竞争对手来说, 这一套标准规范的文档格式, 或许也会变成一个用来进行行业对标以及训练结果披露的参照样板, 从而促使更多的厂商在进行监管措施真正落地之前, 就完成类似的归档工作。

对于国内的大模型厂商来讲, 是否应该参照欧盟所采用的那个模板, 去主动地把关于训练过程的概要信息给公开出來好, 还是说要等着等到监管层面有了强制性的要求之后再去动手去做这件事情?

欢迎你在留言区里把自己的看法写出来进行探讨。如果你觉得这裡面所包含的信息内容比较有价值、比较有用的话, 不妨点赞并且转发出去。