Anthropic员工买地为避AI？硅谷内部推演末日撤离预案

根据《华尔街日报》在9月26日公布的一则消息, 某AI领域内处于领先地位的公司里面, 有多位资历深厚的老员工们正在美国的比较偏僻且距离城市较远的位置悄悄购买土地, 并且搭建一些不容易被发现藏身之处, 他们的目的就是为了应对假如说人工智能完全失去了控制, 并且反过来对人类社会造成严重伤害这种极为极端糟糕的一种情景出现时能够有所准备, 这一举动如今已经引起了整个相关行业里面的广泛关注以及热烈讨论。

逃离念头早有渊源

根据那些已经离开公司的老员工回忆, 在公司刚开始成立的那段时间里, 大家在一起吃饭喝酒的时候, 团队曾经推演过一个被称为“曼哈顿计划式”的假想场景, 说我们将来有可能被政府征召, 调到沙漠深处的一个绝对保密的基地里面, 关门研究那些最先进的AI技术。

这个情景要求基地具有全套防止电磁脉冲的屏蔽功能, 员工需要把全家都搬进去, 与外界完全隔离开来, 在比较偏僻的环境里面持续开展研发工作。

内部频道推演末日剧本

据相关报道显示, 企业内部有员工参与了一个私密的在线 Slack 频道讨论活动。在这个频道里, 这些人专门讨论各种可能发生的末日灾难情景, 并制定相应的应对预案。这些讨论内容涉及多个方面, 其中包括物资储备、信号屏蔽方案以及如何规划安全的人员转移路线等关键信息。

团队把那一句格言给制作成了贴纸, 然后把这个贴纸贴在了笔记本上面, 把它当作是一个需要被尊奉的信念, 这一举动后来就演变成为了在这个圈子内部进行流传的一种文化上面的标记符号。

购置荒僻土地的具体行动

在近数的几个星期内有一部分比较早加入公司的职工向行业内的同行进行了透露, 说他们已经着手在美国那些偏僻且荒凉的地方去查找地块了, 他们的计划是去建造能够长期躲藏起来的生存设施。

选址的标准包含了几方面, 比如说要远离城市, 信号覆盖得要弱一点, 还要具备基本的水电条件。这样做的目的呢, 是为了在人工智能发生反噬的时候, 一家老小可以及时撤离, 从而切断对数字技术的这种依赖。

公司官方回应

针对这则报道, 公司的那位发言人说了话。他表示, 眼下他们公司里头有超过三千五百名员工。大家心里面都在琢磨技术风险这件大事。不过呢, 各个人的看法和立场那是相当的多, 也非常不一样。

发言人没有否认有个别员工确实存在着那样的预案, 但是强调了不能够把少数人所做的极端假设, 直接等同于公司整体的技术判断。

行业争议与外界质疑

业内相关人员说, 在三千五百人的这个大团队里头, 仅有那没几个的员工在推动什么避难计划, 这个情况代表性的确是比较有限的, 更多的是反映出他们个人的一种焦虑心态罢了, 而并非是代表着一个集体的共识。

有些批评的人觉得, 大家如果把心思都放在那种“世界末日”的幻想里头, 可能会把原本可以用于那些更实在的研发方向的精力都给抢走了。这些方向包括什么是AI安全对齐啊, 又或者是让AI变得可以被解释啊等等。这样一来, 资源也就变少了, 注意力也容易分散开。

失控风险是否被高估

如今, 人工智能大模型的能力还在大家能控制的范围之内, 可是学术界里有很多人开始担心超级智能阶段会出现能力上的巨大缺口, 这种担忧的情绪越来越热, 有很多机构都已经建好了红队测试机制。

这场关于“荒野避难”的舆论风潮, 归根结底是技术乐观主义者和风险警惕主义者之间发生的一次认知上的互相碰撞, 同时也是在人工智能前沿发展这个时代背景下出现的立场分化现象。

关于人工智能是否会脱离控制这一议题, 不少人认为这纯属毫无根据的担忧, 然而也有观点坚信这是切实存在的危机, 现诚邀各位在留言区阐述自身的判断意见, 倘若您的发言内容颇具价值与深度, 恳请动动手指予以点赞支持并转发分享给相关的行业同仁知晓。