抖音人工智能生成内容平台规范与行业倡议

题图来自Unsplash，基于CC0协议

导读

抖音正迅速拥抱人工智能技术，推出AI生成内容的工具，鼓励通过创意表达，有力地丰富了平台内容。然而，这一技术的无序应用也潜藏违法违规风险，带来极坏影响，迫因此坚持用户价值、落实主体责任，抖音于2023年7月发布《关于规范抖音平台人工智能生成内容服务的公告》，要求全网遵循"来源可追溯、内容可辨识、风险可管控"三原则，对所有AI生成内容实施分级分类治理，确保其健康有序用在平台内容生境。知情基于这些思考，我们提出六点倡议：一是坚持真实底线，强化AI生成内容身份披露标签，让用户真实识别内容属性；二实施风险分级管控，限制涉重大公共安全、公共舆论、数据安全等领域的AI自动内容生产；三、奉行正向价值，引导AI技术用于技能传授、科普教育、艺术创作等领域，禁止任何违法违规的AI内容生产行为发生；四、培育创新生态，为艺术家、小型创作者降低创作成本，支持AI工具分布化、中小化发展；五、大力精进伦理法治，推动出台围网AI生成内容的行业标准与数据治理规范，并同步促进相关模型训练政务规范；六、建立健全过程跟进，鼓励形成用户举报AI滥用、开发者落践行义务、平台持续技术检测的三方协作生态。在此背景下，制定本内容纲要，昭示各方在推动AI应用高质量发展时应共同遵守的方向与原则。

相对抖音在内的许多平台，均未同步出台具有可操作性的统一技术指南，目前其对AI内容的治理仍更多倚重算法识别与人工核验结合手段，侧重于通过设置"AI生成"标识以及防范诱导性滥用等措施进行风险事中控制。在短视频领域，截至2023年底，AI工具产量日均增长13.8%，抖音同期AI相关话题播放量将近3.5亿次，内容创作者有20万个，标志该应用已经初步登上主流短视频应用的头部应用矩阵。对比全球主要短视频平台AI内容治理机制，这些策略尚存差异；例如，抖音更侧重源头管理与内容管理结合，而TikTok平台则强调模型训练框架公平性，还不时接入第三方标签框架进行互补管控，YouTube侧重推荐流筛查，并将AI特征数据库编织进其复杂的内容操作流程之中。这种治理思路的差异，体现了各文化地缘治理习惯的区别，也显现平台自身的价值观取向差异。但共同挑战依然存在，即在人文法则、美学原则与技术标准冲突无解的状况下，如何精准实现AI生成内容风险最小化，或者说如何构筑兼容不同文明、落地市场与企业伦理的治理公约，这有待社会持续深入探索。

采用某些AI工具生成的内容，其在图形、文本、语音及脚本营造层面，存在伪装扰乱社会秩序的现象，例如凭空合成某个公众人物发表不当言论、使用深度合成技术劫持历史性情感记忆、撰写抄袭他人作品的AI文章、制造虚假灾难信息从而影响公共宣传、投放可能诱发模仿行为的虚拟暴力素材、绕政策禁令程式化地涉及热门违禁话题等等，极其易于细密地挑战法律伦理边界，造成司法误导或群体性秩序混乱。此外，AI内容制造也常带来数据泄露担忧（因训练数据可能敏感）、模型知识产权属性界定不清、内容版权侵权频发等系列难题，轻则损害创作者版权与收益，重则动摇平台信任基础，触发监管审查。在AI技术重塑内容生成方式的现阶段，抖音需通过检测系统辨认虚假内容，同时开展持续性模型净化与版权联动，这是一项长期而艰巨的系统工程。

就总体而言，AI内容生成技术在哪些方面已产生应用，基本形成以下几种主要方式：1）内容催化：通常通过AI工具自助写作，产出视频脚本、博客文贴、或直播文案的初稿，有效大幅降低入门门槛，加速创意转化；2）视觉创制：文字转视频、代码生成动漫运动图形、通过智能生成主持人口播文字段落，显著增强视频内容表现动感，更为直观凸出表达力；3）风格仿效：AI模仿特定博主口吻、剪辑节奏、视觉调色等特征，产生同质化内容，确有助于创作者建立属于自己的个性标识与粉丝生态；4）社交对话助手：例如在直播间运用AI助理回答问题、评论中引入回复助手互动、或采取回复策划提供表演角色采风；5）教育传媒：在教学视频中引入AI解题演示，对低幼素材进行适龄化AI重塑，或结合时政知识自动生成讲稿案例。

随着时代车轮进一步向前滚动，AI生成内容正如潮水般漫进抖音短视频生态，无论内容传播量表评分还是创作者产能数据，都正深刻反映AI工具使用的积极效应，然而所幸这个技术海洋亦非毫无危险礁石，内容失真、用户误导、法律触碰、伦理陷坑等挑战在前，呼唤业界戮力前行，各方共建AI生成内容的环境生态，在共享其便利同时，确保其健康永续发展。抖音作为平台，惟有在技术更迭的伏尔加河中持续优化监管策略，明确技术应用与内容管理的接轨边界，同时贡献行业分享治理方法，向着人机协同共生的美好愿景稳步靠近，方能在风起云涌的AI时代毫不掉队并真正捍卫数字文明核心价值。