AI既是用户辅助创作、情绪陪伴的实用工具，也被不法分子用来伪造身份、制造虚假社交关系实施诈骗，为厘清AI在社区内的合规使用标准，Soul近期对《社区公约》开展AI相关补充更新，针对AI生成内容、AI互动行为、AI虚拟角色三大场景新增完整规范，明确AI仅可作为表达辅助载体，严禁借助AI伪造身份、构建虚假社交关系，同时通过产品功能设计、智能技术管控双重手段，清晰划清AI陪伴与真人社交的边界。
Soul上线专属AI虚拟角色产品，产品定位为情绪陪伴、表达支持与互动体验载体，不允许以真实用户身份参与社区社交关系，所有AI对话交互界面设置固定醒目标识，清晰标注对话内容由AI生成，从产品底层设计避免用户混淆人工智能与真实用户，减少情感误判、虚假情感依赖等问题。平台配套上线AI社交时长提醒机制，当用户与虚拟伙伴连续对话满两小时，系统自动弹出提示窗口，建议用户休息、活动身体，引导用户维持现实社交连接，防止过度沉浸虚拟AI互动。
除产品提示约束外，Soul依靠多模态AI风控体系落地公约条款，针对利用AI盗图、合成图片打造虚假人设、诱导诈骗的账号，实现全链路识别拦截。平台整合图文、声纹、账号行为多维度识别能力，毫秒级研判成套虚假人设逻辑，超六成六高危账号前置拦截，杀猪盘风险触达量显著下降，依托智能技术手段保障公约各项规范落地执行。
为推动规则落地、发动用户共同参与社区监督，Soul搭建完整社区共治体系，开通多渠道举报热线与专属举报邮箱，官方账号@Soul风纪球长常态化开展打击虚假人设专项行动，公示违反AI使用规范的虚假人设案例，详细科普举报操作路径与阶梯式处罚标准，设立护星员、社区巡查岗位，鼓励用户主动反馈AI造假、虚假互动相关风险线索。用户提交的新型违规套路会反向输入风控模型，持续优化AI识别逻辑，形成规则约束、技术防控、用户监督三方协同的完整治理闭环。
Soul提出，AI的核心价值是辅助线上表达与提供情绪支持，不能替代人与人之间真实、善意、自然的社交关系。平台同步依靠动态持续的AI对抗风控、标准化社区规范、常态化用户反诈宣导，平衡AI产品体验与社区安全底线，重新确认AI时代线上社交的真实边界，在充分发挥AI陪伴价值的同时，规避人机混淆、AI造假诈骗等各类衍生社交风险。
