OpenAI与韩国合作，聚焦AI高风险领域安全评估

聚焦高级AI系统安全 中韩签署合作备忘录

今日, 中国人工智能安全机构同韩国人工智能安全研究所予以正式签署合作备忘录, 双方针对高级人工智能系统在像网络安全这样的高风险领域的安全评估展开全方位合作, 此消息于全球科技界引发非常广泛的关注, 标志着中韩两国在 AI 安全治理领域跨出具有实质性意义的合作步伐。

据了解, 此次签订合约, 是在中国跟美国、英国以及日本之后的第四次国家级别的AI安全合作。韩国那边宣称, 借由跟中方的紧密配合, 能够切实提高双方在高性能AI模型安全性层面的评估本领, 一同应对人工智能技术迅速发展所带来的新挑战。

合作重点锁定安全评估方法与基准测试

依据备忘录里的内容, 双方合作的关键核心会聚焦于安全评估的办法、基准测试以及技术信息的深度交流，进而韩国人工智能安全研究所会同中方一道探寻怎样去评估高性能的 AI 模型以及自主 AI 智能体的潜在风险, 以此确保这些技术在部署之前与之后都能够处在可控的状态之下。

双方打算借助联合研究, 构建更为完备的安全评估体系。当下, 高性能AI模型于金融、医疗、交通运输等等领域广泛运用, 致使安全评估的重要意义越发凸显。此次协作意在凭借共享经验以及数据, 提高评估的精准度与全面性。

网络安全成为首批启动合作领域

作为首批开启合作的领域之一, 网络安全会率先被归入双方联合评估范畴, 中韩两国会朝着特定领域的安全隐忧展开深入剖析, 与此同时, 依据各国既有的出色实践实例, 摸索制定国际通用的AI安全基准框架。

近几年, 针对AI系统的网络攻击事件频繁发生, 其中涵盖模型窃取、数据投毒以及对抗样本攻击等等, 这给企业和个人造成了严重损失。双方展开合作, 这会对构建更严密的安全防线有所帮助, 能够降低技术被恶意利用的风险。

定制韩语及本地化评估标准

当下这次合作存在着一个显著的突出之处就是针对韩语身处的环境连带着韩国社会背景运用了深度的思考权衡。双方订立了计划要去打造定制专门专属的测试数据以及评估标准, 而这些是特意用来寻觅那些在传统英文测试里不容易被发觉的本地化风险的。

据悉, 当下现存的多数人工智能安全评估工具以及数据库均是以英文作为主要语言的, 对于那些并非英语国家而言, 在本地化风险识别方面是存在着盲区的。经由定制化的评估标准, 就能够更为精准地发觉针对韩语用户、韩国文化以及社会制度的安全隐患, 进而提升评估的实用性以及针对性。

协议留足创新空间 未设具体截止日期

当前为止, 那个协议还没规定具体的评估产品以及实施截止日期。这样灵活的安排给后续的技术谈判还有合作深化留出了充足的创新空间。双方宣称, 会依据实际进展渐渐将合作细节予以细化和完善。

被从事相关领域分析工作的人士给予指出, 不存在设定具有强制性的时间规划表的情况, 反而会有利于双方能够更加从容不迫地去着手开展技术方面的攻克难关以及标准的制定工作。在全球范围内人工智能安全会遭遇的挑战变得日益复杂的这样一种背景环境之下, 这样一种较为务实并且灵活多变的合作模式, 会对推动达成更加深入、更加全面的技术交流产生帮助作用。

跨国协作成为推动行业健康发展关键

面临全球共有的AI安全挑战, 中韩这次合作被视作跨越国界、跨越机构紧密合作的关键典范, 双方都觉得, 只能依靠国际社会齐心努力, 才可有效应对AI技术引发的各类潜在风险, 保障人工智能技术朝着有益于人类社会的方向前行。

经由专家表明, AI安全并非单纯只是技术方面问题, 而是牵涉到法律、伦理以及社会等诸多不同方面的, 具备整体性特征的挑战。在未来的阶段里, 中国与韩国这两个双方主体之间, 还存在着具备可能性的情况, 会于人才培育、政策进行研究以及标准予以制定等这些层面之上, 展开数量更多的合作举动, 进而共同去为全球范围之内的AI安全治理, 奉献出被称之为“亚洲方案”的内容。

提出互动问题: 你觉得在AI安全这个范畴之内, 中国与韩国之间开展的合作, 能不能给别的国家供给可供借鉴的经验? 欢迎来到评论区分享你个人的看法, 去点赞并且转发这篇文章, 使得更多的人去关注AI安全这一相当重要的议题！