生成内容正在快速走进日常内容生产。写通知、拟口径、生成内容、翻译材料……不少单位的编辑已经离不开生成内容工具了。

效率的提升是实实在在的，但随之而来的，是一类全新的内容风险。生成内容生成的文字可能有"幻觉"(编造不存在的信息)，生成的图片可能含不合规元素，最重要的是——政策明确要求，生成内容需要添加标识。

对政务网站和政务新媒体而言，生成内容合规正在成为内容安全的新课题。

一、生成内容走进政务：效率背后的新风险

生成内容工具的普及，让内容生产的门槛大大降低，但也带来几个不容忽视的变化：

产量激增：生成内容让"一天几十篇"变得轻而易举，审核压力同步上升;

真假难辨：生成内容生成的内容看起来"很像那么回事"，但细节可能错误;

来源模糊：内容可能部分由生成内容生成，边界难以界定。

效率工具用得好是助力，用不好就可能变成风险放大器。

二、生成内容带来的四类内容风险

在政务场景下，生成内容风险主要集中在四个方面：

1. 生成内容标识缺失

按照相关规定，生成内容生成合成的内容需要进行标识。未标识直接发布，本身就是合规问题。

2. 错敏信息

生成内容对政治性表述、机构名称、规范用语的把握并不总是准确，反而可能"一本正经地写错"。

3. 真实性风险

生成内容可能编造数据、引文、事件，若不经核实直接发布，极易引发问题。

4. 版权与配图风险

生成内容生成的内容、文案可能涉及版权争议或不合规元素。

三、政策与监管动向

近年来，相关部门对生成内容的规范持续完善：

《互联网信息服务深度合成管理规定》对深度合成内容提出了标识等要求;

《生成式人工智能服务管理暂行办法》对生成式内容服务作出规范;

《人工智能生成合成内容标识办法》进一步明确了显式标识与隐式标识的要求。

方向很明确：生成内容可以用，但生成内容生成的内容必须"可识别、可追溯"。 这对内容发布单位提出了实实在在的要求。

提示：具体条款请以官方发布的正式文本为准，涉及合规判断建议咨询专业意见。

四、如何防范AI内容风险

防范生成内容风险，可以总结为"三步"：

识别：标记哪些内容由生成内容参与生成，落实标识要求;

预检：生成内容生成的内容发布前，必须经过错敏词库预检和人工核实;

巡查：对已发布内容持续巡查，及时发现未标识、错敏、不实等问题。

核心原则：生成内容提效，人把关——生成内容是工具，责任在人。

五、工具支撑：让"生成内容"也纳入巡查范围

在生成内容时代，内容巡查工具同样需要升级。蚁巡内容安全监测巡查平台可以在以下环节提供支撑：

内容预检：生成的稿件发布前，先用词库对错敏信息进行预判;

错敏词库支持：识别生成内容中容易出现的表述错误和不规范用语，给出修正建议;

全网巡查：对已发布内容开展主动、批量、深入巡查，及时发现遗漏问题;

关键词监测：可对特定主题、特定表述进行持续监测，辅助跟踪生成内容相关风险。

平台采用 SaaS 服务模式，免安装、免部署，能随内容生产方式的变化快速适配，让单位在享受生成内容效率的同时，守住内容安全的底线。

六、结语

生成内容是趋势，不可回避;风险是现实，不能忽视。用生成内容提效，用制度和技术兜底，才是政务内容生产的正确姿势。

识别、预检、巡查——把这三步嵌入生成内容的生产流程，就能既拥抱效率，又不失安全。

想知道如何在用生成内容提效的同时守住内容安全?欢迎了解广东安数网络蚁巡内容安全监测巡查平台，申请免费试用。