AI行业发展是否太快？微软纳德拉发声强调AI安全需人类掌控

微软CEO萨提亚·纳德拉的内部备忘录的引发热烈议论, 核心观点系AI发展速度已经触及安全底线的, 必须借助第三方测试加上人类控制方能换取运营资格的, 根本并非保守派调停之举, 乃是行业生存的生死线。

AI监管进入倒计时

纳德拉在备忘录中警告, 随着AI风险升高, 相关企业必须投入和其风险相匹配的时间展开对应安全测试。他指出, 倘若缺少对应外部的监控与验证这类机制, 公司还将最终失去整体社会信任所颁发对应的运营许可。

巨头罕见集体刹车

此前AI研究人员发出存在性风险警告, OpenAI CEO萨姆奥尔特曼、同意第三方监控并支持放缓部署, 与此同时Anthropic CEO达里奥阿莫代伊提议放缓开发节奏、并允许外部介入、行业头部人物罕见、达成对齐共识。

37页行为准则出炉

微软周一同步发布了三十七页的“人文主义”AI行为准则草案, 明确了模型研发的设定目标。AI负责人穆斯塔法·苏莱曼坦言, 长期视角下的隐忧如今已转为具体层面迫切棘手的现存议题, 亟需切实可靠的行动框架来规训模型举动。

开源闭源生态平衡

纳德拉强调需构建开源与闭源模型共荣的前沿生态, 在调整方向时需谨慎地、有节奏地把握这个过程。他把这个过程类比于正式发布前的研发测试阶段, 认为更多外部测试者参与其中, 有助于有效降低系统性风险, 能够切实确保整体技术可控性。

客户数据主权回归

针对企业客户, 微软主张确保客户掌握其自身独具隐性知识；需建立持续学习循环。针对这一情况, 微软拟定新准则；要求内置安全护栏, 尽可能避免出现依赖单一模型提供商的状况；需赋予客户对长时间运行智能体的完全控制权, 以此尽可能提升企业级应用安全。

社区许可成为关键

纳德拉指出, 基础设施建设须需确保本地居民实切实受益, 方能获得建设许可以可。他以昆西数据中心为例例, 强调微软需需将经济收益益扩散到社区和国家, 以实际际行动验证其言语承诺, 换回存续于长期的生存空间。

您觉得企业AI应用的安全准则需由第三方独立机构制而还是由头部技术公司自行掌控呢？欢迎您至评论区分享您的看法, 点赞并且分享给关注AI行业的同行。