AI比社媒更伤孩子？前谷歌安全总监警示放缓发展

谷歌信任与安全团队的创始人, 也就是被称为汤姆·西格尔的那个人, 在这一周里公开喊话。他呼吁大家放缓人工智能发展的速度。他说, 整个行业正在重复社交媒体的错误。有很多很多儿童将面临危险。这种伤害比社交媒体时代的伤害还要更严重, 还要更深一层。

行业陷入瓶颈 儿童伤害远超预期

西格尔之前是在谷歌公司担任信任与安全副总裁这个角色, 他在二零〇四年到二零一九年这段时间里一直为那家公司工作。他向路透社表明了态度, 说业内大家一致认为觉得能够自己搞定AI安全这个问题是不现实的, 眼下这个状况被形容成是非常糟糕的。

路透社在去年时候，曾经独家地报道过关于Meta内部文件的那件事儿, 那个文件里面显示的内容表明, Meta的那个聊天机器人是能够和儿童去进行那种带有浪漫色彩的对话的, 这个事儿曝光出来以后, 直接就引发了国会的调查工作。

但是呢, 目前的监管措施始终都没有办法紧跟住人工智能技术不断迭代的这个速度, 所以导致相关的风险一直都在持续性地扩大着。

转投儿童安全机构 推动企业问责

西格尔在本周正式宣布, 他要加入到非营利组织感觉媒体这个机构里去, 这个机构的时间线得追溯到二零零三年成立的时候, 它一直以来的工作重点就是去评估各种媒体的内容是不是适合儿童来观看, 就在今年五月, 该机构又新设立了一个青少年AI安全研究所, 而西格尔则被任命担任了该研究所的首任执行主任这一职务。

他准备联合企业还有第三方来制定关于人工智能安全的标准, 并且要对那些科技公司实行问责制度。他所参与创办的那家专门从事安全领域业务的公司, 在这个月刚刚完成了首席执行官交接的工作, 现在他打算把全部的心思和精力都投入到保护儿童在人工智能安全技术方面的事务中去。

多重伤害风险 从自杀到认知退化

西格尔把那些风险给列举了出来, 这当中的风险有自杀这一项, 也有精神错乱这一项, 还有“认知卸载”这么一种情况。

“认知卸载”这个说法的意思是说, 人们过于指望用人工智能来回答问题, 这样一来, 批判性的思维能力就会慢慢往下掉。他说这些受到的伤害比在社交媒体那个年代还要隐蔽, 而且深入到更深层次的地方去了。

当前的各大公司的AI, 都在竞相给聊天机器人添加那种更先进的功能, 数百万的年轻人已经把聊天机器人融进到日常使用当中了, 但是安全防护体系几乎没有, 他说那个伤害的风险是非常严重的。

呼吁强制年龄验证 大厂回应不一

西格尔提出建议, 主张头部的人工智能公司应当执行更为严格的年龄验证措施, 以此来阻止未成年人使用聊天机器人功能, 此外他还同时发出呼吁, 期待谷歌能够在其搜索引擎产品中添加入一个允许关闭人工智能概览的选项, 并且该选项的性质应该类似于目前存在的某些内容过滤开关机制。

谷歌公司的发言人员做出了回应, 指出家长拥有完全关闭儿童搜搜索权限的能力, 并着重强调了人工智能驱动版的搜索引擎功能能够有效促进学习与知识探索这一积极作用。

而位于另一方的相关企业则表达了不同的观点, 该表示通过账户信息以及用户行为数据来对未成年用户的身份进行识别, 但同时也坦承在技术手段上不存在能够完美验证用户年龄与身份的成熟方案。

监管空白下竞赛加速 诉讼阴影笼罩

社交媒体公司目前面临的情况是, 它们因为被指控伤害年轻用户而需要支付数额巨大的赔偿金, 同时还在应对数量多达几千起的法律诉讼。在多个不同的国家之中, 政府正在采取措施限制未成年人访问社交平台。从目前的形势来看, 人工智能领域在未来极有可能会按照这一种监管路径去实施类似的管理手段。

西格尔警告说, 短期的安全措施会影响使用量与利润, 但是不行动的AI公司将面临更严重的诉讼与监管打击。行业在商业利益与儿童安全间的抉择已迫在眉睫。

家长与学校该不该介入 使用边界在哪

西格尔强调, 外部监管是不可或缺的。他认为单靠企业自律这一种方式, 是完全无法遏制风险蔓延的。感觉媒体正在寻求与政府、学校开展合作, 目的是建立关于儿童使用AI的分级标准以及使用时长建议的相关机制。

现在人工智能已经深深地嵌入了青少年的生活里面, 这是大家都能看清楚的一个事实。针对这种情况, 大家觉得相关的平台呢, 应该还是不应该为那些年龄不满13岁的用户群体, 把这聊天机器人的功能彻底地关闭掉。

欢迎大家在评论的区域里面把自己的看法给分享出来。如果你觉得这篇文章的内容是比较有用的, 那么请你顺手点个赞, 并且把这个文章分享到你的社交网络上去。