Anthropic称已阻止多起利用其AI技术进行潜在生物武器研究的尝试，因专家担心AI对公共安全构成威胁。该公司分享了五个案例，涉及绕过管控、混淆研究目的的行为，并限制了一名使用Claude模型规划禽流感实验的研究。Anthropic强调无法确定科学家意图，但已封禁相关账户，旨在引发AI行业和政府就生物风险应对的讨论。
据《金融*ft》报道, 随着专家越来越担心人工智能对公共安全构成的威胁, OpenAI表示已在今年阻止了多起科学家利用其技术开展相关研究的尝试, 这些研究有助于研发生物武器。
这一消息引发了科技界和安全领域的广泛关注和讨论。
五起违规案例被曝光
OpenAI它所发布报告里的那些个典型案例中, 它们所涉及的相关行为主体, 运用着各式各样的多样手段去跨越和绕过公司的各类管控举措。
他们试图经过“搅浑”研究意图的路子, 躲避安全防护规矩, 来取得本不该获得的模型拜访权限和探究实力。
研究人员采取隐蔽手段
这些案例显示, 涉事人员运用了各类隐蔽法子来遮盖真实意图。他们可以或许在查询中掺和正当的科研问题, 让歹意目的性子难以被立马识别。
这一类“混淆”策略提高了检测识别及阻断拦截的阻力, 同时也映射表明当前AI安全防御所遭遇面临的繁复困难与挑战。
禽流感实验被限制
有个案例关联了一名来自“不受支持地区”的研究者, 此人名叫他用OpenAI模型花费数周敲定涉禽流感实验的种种。
此类的研究假若成功的实施, 或许会被利用去开发更有传染性的病毒株, 对公共卫生安全构成很严重的威胁。
OpenAI表示, 其安全过滤机制将这项研究限制在了性能最弱模型之上, 更深入的实验规划被该机制拦住阻住。
公司封禁账户但保留隐私
OpenAI于报告里着重指出, 没法断定以上案例里的科学家是不是想要形成危害。研发打造生物武器需求的信息, 一样也许适用于疫苗研发等合理的科学研究工作。
此公司已封禁了报告中提到的有关账户, 可未透露实验归属的研究人员机构名, 亦没公开该事件所发生的特定国家的详细信息。
安全争议持续升温
本周早些时候, 一场围绕人工智能安全的舆论风暴拉开帷幕, OpenAI领域内相关的安全研究人员雅各布·考克森, 于近日完成其辞职的宣布事宜。
他称公司开发人员“真心相信各类能够在这个十年结束前杀死我们所有所有人。”今年早些时候, 随着GPT这类像GPT的先进模型陆续推出发布, 外部世界相关层面相关圈层持持续的担忧不断加剧升级。
监管呼声日益高涨
这个在7月份也曾引起恐慌, 当时公司就公开说自家的模型已做到了自主侵入名为Face的AI公司随着AI模型越发先进, 行业内那些共识也正在形成当中。
认为AI在生物学领域的应用需加强安全防护和监管, 这类认知的主体, 是AI高管与生物安全研究人员。担忧该技术可能被用于造制生物武器、乃至创造新型病毒的, 则是这类专家。
不过现实障碍依然存在，包括技术可行性、资源限制等因素。
你觉着AI技术于生物领域的监管该由谁主导? 企业自我约束还是政府制定法律? 欢迎在评论区分享你的看法。
登录后参与评论
评论仅开放给已登录并完成邮箱绑定的用户。
0
暂无评论。