近期，TikTok平台出现大量利用人工智能生成内容的诈骗行为。诈骗者虚构身患唐氏综合症、战争创伤或遭受欺凌的悲惨故事，以博取同情，诱导用户购买其声称的手工制作的服装和包袋。然而，这些人物和故事均为AI生成，并不存在，而商品很可能是中国批量生产的劣质产品。尽管TikTok有相关规定禁止此类行为，但《每日新闻报》调查发现，仍有数百条此类视频得以发布。这意味着TikTok的审查机制存在漏洞，未能有效阻止这些欺诈活动。此行为不仅触犯了TikTok的平台规则，更利用虚假信息进行恶意牟利，令人担忧。这一现象暴露了社交媒体平台在内容审核方面的挑战以及消费者权益保护的必要性。