近年来，AI网红在社交媒体平台上的兴起引发了不少争议。为了规范虚拟人物的内容创作，抖音平台决定对AI网红乱象进行严厉打击，并推出了一系列措施。
AI-321 | 专注于AI工具分享的网站
AI工具集 | 人工智能工具箱 | 全球顶尖AI工具软件推荐与分享！
据了解，部分AI网红利用人工智能技术进行不正当行为，如盗用他人面孔和声音，发布虚假情感内容诱导用户等。为了打击这些违规行为，抖音平台已经掌握了部分黑产团伙利用AI生成虚拟人物进行犯罪的线索，并将报警予以打击。
抖音平台表示，将对违规使用AI生成虚拟人物的行为进行严厉处置，包括下架违规视频、取消违规账号的投稿和营利权限、抹除账号粉丝、封禁账号等。同时，平台还将利用模型和技术识别能力，进行长期系统的识别发现和处置。
为确保AI网红的合规创作，抖音平台明确了相关规范。发布者需要对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实。此外，发布者还需对人工智能生成内容产生的相应后果负责，无论内容是如何生成的。虚拟人须在平台进行注册，虚拟人技术使用者需实名认证。
AI网红背后的产业链也成为了关注的焦点。一些运营者通过AI肖像克隆软件和真人视频素材，打造出多个AI外国美女账号，以积累粉丝和带货为目的。然而，这种行为可能涉及到肖像侵权和欺诈等问题，风险较大。
业内人士认为，随着直播电商进入下半场，AI网红要想取得可持续发展，需要更加注重信任机制的建立、主播与粉丝之间的情感连接以及供应链的管理和优化。只有这样，才能真正发挥AI工具的积极作用，推动直播电商行业的健康发展。
