生成式人工智能技术的进步迅猛，同时，其可能引发的风险和挑战亦引起了广泛的关注。在这种形势下，与之密切相关的备案程序和规章制度亦引发了业界的极大关注。
法规出台背景
2023年7月，国家互联网信息办公室联合六个部门，就生成式人工智能可能带来的风险问题，颁布了《生成式人工智能服务管理暂行办法》。该办法明确指出，对于那些具有舆论引导或社会动员功能的生成式人工智能服务，必须进行安全性的审查，同时，还必须完成算法审查及相应的备案手续。《互联网信息服务深度合成管理规定》及其他相关法规均明确规定，网络服务提供者有责任和义务对人工智能生成的合成内容进行标注。
标识办法发布
针对“所见未必为真”的信任挑战，我国国家互联网信息办公室网络管理局在三月与多个部门协作，推出了《人工智能生成合成内容标识办法》。同时，与之相辅相成的强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》也同步启动实施。这些措施主要致力于加强生成合成内容标识环节的管理工作。
制定思路考量
在制定《标识办法》的过程中，对产业现状进行了全方位的评估。考虑到在多媒体文件中嵌入数字水印会增加成本，并且识别难度较高，此外，在文本中加入隐式标识也遇到了技术难题，因此，并未对数字水印的添加和识别制定强制性的规定。通过整合数据源信息嵌入隐式标识，网站无需大规模调整即可实现互认功能，这种策略兼顾了成本效益，并保障了内容的可监管与可追踪性。此外，在文字标识方面，建议采用文字角标进行明确标注。
全链条标识治理
《标识办法》对内容治理流程中的不同步骤进行了具体规定。在内容创作过程中，创作者在生成内容的同时，加入了不可见的标识，并对关键信息进行了详尽的记录，确保后续可以追溯。进入内容分发环节，传播者积极履行审核职责，解读这些隐蔽标识，并识别出相应的可见标识。对于不符合规定的内容，他们要么采取阻止传播的措施，要么添加必要的补充说明。在内容分发环节，平台对即将上架的标识资料执行了细致的审核，其目的是确保用户能够获取到符合相关规定的AI产品。
治理意义阐述
以标识作为核心，对人工智能从诞生至应用的全过程进行监管，其重要性不言而喻。此方法有助于促进产业的不断前行，维护市场的稳定，同时有效缓解信任危机。一个完善的管理体系，有助于用户清晰知晓内容的来源，从而提升对AI内容的信任度。另外，它也为监管机构提供了便利，使得监管工作更为高效。
后续工作安排
于永河披露，即将发布六项实践指南，这些指南将涉及文本、图像、音频、视频等多种数据形式的元数据标注方法。该举措旨在对治理标准进行更细致的划分，为人工智能领域的持续发展提供更为清晰的指导。
您如何评价这些规定与策略对人工智能行业持续进步所产生的作用？期待您在评论区发表您的见解。同时，不妨对本文给予点赞，并积极进行转发与推广。
