TikTok 正在面臨被控協助假冒 AI 生成廣告的指控，許多錯誤且有害的內容仍然容易通過審查過濾。在以廣告為主要收入來源的社交媒體平台背景下，AI 內容的爆炸式增長導致 TikTok 上的詐騙廣告迅速增加。
許多與減肥產品、GLP-1 貼片或“用皮質醇治療” 腹部肥胖相關的廣告被傳播，儘管沒有醫學依據，甚至冒充知名藥房。一些廣告甚至引導用戶到被複製的網站，意圖進行詐騙。
儘管 TikTok 強調嚴禁誤導性廣告並已採取措施打擊有關健康的虛假資訊，但假冒的 AI 廣告仍然大量出現。面對這一現象，歐盟當局呼籲加強保護措施，並嚴格執行有關在社交媒體上使用 AI 的法律框架。
