AI生成公益广告出错，审核只查文字不查图，官方连夜更换

网友曝山西临汾公益广告画面诡异

近日, 社交平台有网友发布照片, 照片指出山西临汾一处宣传栏内公益广告存在严重画面异常, 照片里行人形象呈现头脚朝向错乱状态, 环卫工手中垃圾袋里甚至“钻出”一把扫帚, 整体视觉效果令人咋舌, 该网友质疑这些怪异画面极有可能是人工智能生成图像所致, 引发了广泛讨论。

这一爆料, 很快就在网络之中发酵起来, 好多网民宣称难以置信了。有其他人调侃, 表示这是那种“AI不懂物理常识”的典型翻车现场, 还有其他人心里存着担忧, 担心此类低质量内容出现在公共宣传栏, 会对城市形象造成影响。事件一经曝光, 马上就吸引了当地有关部门的关注, 变成了网络上被热烈讨论的焦点话题。

官方连夜排查并更换涉事广告

事发后情况不断发酵, 当地很快就作出对应的反应来, 8月26日的时候, 有相关部门派遣人员去到现场开展处置行动, 依据当地管委会住建部门所透露的情况来看, 他们在25日晚间就已经完成了连着深夜去进行的排查工作, 涉及事件的广告画面现在已经全部都撤换好了, 这样一系列的行动展现出当地政府对于舆情事件有着高度的敏感以及快速的响应能力。

直至当前, 相关负有责任的一方对于违规的广告已经作出妥善的处理。当地的部门并没有针对事件自身给出过多的阐释。是以实际的行为去回应当公众的关注。整体的更换进程富有效率而且保持低调。这展现出政府部门处在面对舆情危机之际的基本应对举措。事件暂时宣告一段落。然而背后蕴含的问题依旧是值得深入思考的。

AI生成图像为何频频翻车

导致此次事件出现的根本原因, 是当下人工智能绘画技术在对现实逻辑的理解方面, 仍旧有着尤为显著的不足之处。虽然大语言模型具备学习海量图片里像素分布、艺术风格以及元素组合规律的能力, 然而它们切实没有把持住物理学常识、人体解剖结构或者物体相互间合理关系的要领.当用户给出的提示词相对简单的时候, 模型常常会不加思考地大量拼凑各种元素。以至于画面呈现出肢体扭曲、比例失衡之类的“AI幻觉”状况。

这一技术方面的局限性, 可不是能够在短时间之内就予以解决的。虽说AI绘画工具于近些年达成了很大的进步, 然而在对复杂场景进行处理之际, 依旧不大容易确保画面具备逻辑上的合理性。此次发生的临汾公益广告事件, 恰恰就是这般技术短板于现实场景里的直接呈现, 还为各行业在运用AI生成内容时敲响了警示之钟。

审核漏洞暴露管理短板

另一个关键问题在此番翻车事件中显露出来, 那便是广告审核环节有着严重的疏漏。当地工作人员讲出实情, 审核进程里主要着重于文字标语的核对, 然而却把对画面内容的检查彻底忽略掉了。这种情形显示了, 部分广告公司的内部审核流程存在显著的漏洞, 过度在意文字方面的合规性, 却将对视觉内容的把关给忽视掉了。

更严重的是, 这种“把文字看得重, 把画面置于轻”样的审核模式可不是个例。在AI生成内容愈发普及情况下, 传统那人工审核方式常常难以应对技术带来新挑战。审核人员缺少对AI图像进行识别能力的训练, 使得大量明显违和的画面内容顺遂通过审核进而落地施行, 造成了不尽如人意的社会影响。

后续整改措施逐步推进

面对着此次事件所暴露出的那些问题来瞧, 当下所正在进行的是, 当地有关部门已然着手去推进一个事, 那便是整改。据所了解到的情况来看, 当地正处于这样一种状况，那就是对辖区之内其余的户外广告展开全面的排查。并且这个排查关键在于去检查是不是存在类似那种由AI生成出来的体现为低质量的画面这一内容方面的情形。一旦发现那种属于同类的问题的时候, 将会在第一时间就去给以撤换这样的处理动作。而这其中的这一举措其目的在于以从根本上去堵塞那种管理方面所存在的漏洞, 进而防止类似类同那般情况的事件再次发生。

与此同时, 相关部门作出承诺, 会进一步把广告审核机制予以完善, 将画面内容的审查力度予以加强。于往后的工作里头, 不但要对文字信息的准确性予以关注, 更要对视觉呈现的合理性以及规范性予以重视。借由构建健全的审核流程以及责任追究制度, 切实对户外广告宣传内容的质量以及城市形象的整洁美观加以保障。

AI技术使用需规范引导

此次发生在山西临汾的公益广告出现问题的事件, 又一次引起了社会针对AI技术应用规范展开的广泛讨论, , 虽说AI生成技术在创意范畴展现出极大潜力, 可是其实际运用还是需要慎重从事, 企业在享有技术带来的便利之际, 应该构建完备的审核机制以保证输出内容契合公序良俗以及现实逻辑。

与此同时, 监管部门同样需要强化对AI产生内容的监督管控之举, 清晰界定相关责任主体以及质量准则。唯有于技术跟规范二者之间寻觅到平衡之点, 方可使AI切实成为推动社会向前发展的有益工具, 而不是成为制造尴尬状况以及负面效应的起始源头。这件事情也对每一位内容生产者起到了提醒作用, 即在运用AI技术的时候要持有敬畏之心。

对此，您认为企业在利用AI生成内容时应承担哪些责任？欢迎在评论区分享您的看法，如果觉得这篇文章有价值，请点赞并分享给更多人看到！