|
在中国信息通信研究院政策与经济研究所副所长李强治看来，《标识办法》的内容标识要求覆盖设计开发、上架分发、用户使用、内容传播和责任追溯等全链条，依据生成合成内容服务提供者、内容传播服务提供者、互联网应用程序分发平台、用户等不同主体在潜在风险构成中的作用和合规能力，科学划分责任义务，实现生成合成内容上下游链条的全覆盖。
据了解，许多大模型厂商已经开始对AI生成合成内容添加标识。如DeepSeek发布公告称，已在平台内对AI生成合成内容添加标识，并提醒用户相关内容由AI生成。用户不得恶意删除、篡改、伪造、隐匿此类生成内容标识，不得利用AI制作、传播虚假信息、侵权信息以及从事任何违法违规活动。
今日头条、快手、小红书、哔哩哔哩、喜马拉雅等平台也发布公告，创新探索内容标识制度落地方案，落实双标识、标识检测等义务，并提供“作者声明”等功能，激励人工智能向善应用，保障正常合规使用AI工具。
以抖音为例，目前平台已经上线两项核心功能：一是AI内容标识功能，协助创作者为AI内容添加提示标识，方便用户区分辨别；二是AI内容元数据标识读写功能，可识别并写入AI内容的元数据信息，为内容溯源提供技术支撑。
在抖音注册的账号若制作、发布AI内容，需使用抖音提供的标识功能主动添加显式标识；同时，抖音将核验、检测站内未主动标识的内容是否由AI技术生成，对疑似AI内容或元数据中已包含AI内容标识的作品，补充添加显式标识。此外，对于在抖音发布的所有AI内容，平台还将同步为其添加或更新隐式标识，该标识包含内容传播要素等关键信息，进一步完善AI内容的全链路管理。
规范发展
生成式人工智能、深度合成等新技术快速发展，为生成合成文本、图片、音视频等提供了便利工具，在促进经济发展、丰富网上内容、便利公众生活的同时，也造成虚假信息传播、破坏网络生态等问题。
例如，一些未明确标识的AI生成合成的视频正扮演着“数字孙子”角色，通过提供情绪价值，将许多不明真相的老人哄得心花怒放，部分老人不顾家人劝阻，执意购买这些“孙子”在视频里推荐的产品，最终陷入骗局。
国家网信办有关负责人表示，《标识办法》聚焦人工智能“生成合成内容标识”关键点，通过标识提醒用户辨别虚假信息，明确相关服务主体的标识责任义务，规范内容制作、传播各环节标识行为，以合理成本提高安全性，促进人工智能在文本对话、内容制作、辅助设计等各应用场景加快落地。同时，减轻人工智能生成合成技术滥用危害，防范利用人工智能技术制作传播虚假信息等风险行为，推动人工智能健康有序发展。
专家指出，作为人工智能治理的重要一环，《标识办法》既与《中华人民共和国网络安全法》一脉相承，又与《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》等有效衔接。《标识办法》的实施有助于推动AIGC行业的规范化发展，倒逼企业建立合规体系，通过标识这一技术合规前置的制度设计，促使企业将伦理考量融入技术研发全流程；同时通过建立可信的内容标识体系，提高内容使用的透明度。
从国际上看，各国正积极探索建立AI生成合成内容的标识制度，以应对新形势下信息内容治理带来的挑战，生成合成内容标识已成为国际惯例。
浙江大学教授王春晖表示，鉴于AI生成合成技术可大规模产出与人类创作高度相似的内容，多数国家通过立法强制性要求企业履行内容标识义务，通过技术溯源以及显式和隐式标识，确保公众能快速识别AI生成合成内容的来源，抑制虚假信息的泛滥。
来源：人民日报 记者 叶子 共2页 上一页 [1] [2]
|
