BBC 調查後，TikTok 移除了將黑人女性性化的 AI 視頻

TikTok 在 BBC 揭露使用 AI 生成的黑人女性網紅來引導用戶至促銷色情內容的網站後，已封禁 20 個帳號。

這些帳號是 Instagram 和 TikTok 上日益增長的趨勢的一部分，因為它們被批評為種族主義、剝削性強且具有誤導性，原因在於使用了種族刻板印象和語言。

BBC 與獨立 AI 出版物 Riddance 的研究人員 Jeremy Carrasco 和 Angel Nulani 一同發現，兩個平台上有數十個帳號，展示高度性化的黑人女性數位角色或化身。

這些圖像和影片由 AI 生成，但未標示為 AI 產物，顯然違反了平台的規範。

幾乎所有這些帳號都在 Instagram 上，約三分之一也在 TikTok 上有相應版本。Instagram 的母公司 Meta 告訴 BBC 正在調查，但未表示已採取任何行動。

這些化身經常穿著暴露的泳衣或其他暴露服裝，並被描繪成誇張的身體形狀。

一些擁有極深的膚色，經過數位操控，呈現出人工的外觀。

帳號名稱包含「black」、「noir」、「dark」和「ebony」等詞彙。有些帳號在貼文中提及白人男性，例如「愛白人男」和「我需要一個白人男在我生命中」。許多帳號互相關注或點讚。

BBC 與 Riddance 的分析師 Jeremy Carrasco 和 Angel Nulani 合作，已識別出 60 個此類帳號，主要在 Instagram 上，這些帳號鏈接或鏈接鏈通向第三方網站上的付費色情內容。這些網站標示這些圖像為 AI 生成，但 Instagram 帳號並未標示。

研究還發現，兩個平台上還有更多類似的 AI 生成化身帳號，沒有鏈接到付費內容。

「我很生氣」

其中一個被 TikTok 關閉的帳號——儘管在發稿時仍在 Instagram 上運作——因為竊取真人影片而引發更多憤怒。

該帳號以一個引人注目的 AI 生成角色為展示，創建幾週內就累積了三百萬粉絲。

但它修改並發布了來自馬來西亞模特 Riya Ulan 的真實內容創作者的影片。

這個化身的臉部，具有極深的人工創造膚色，覆蓋在 Riya 的身體上，並模仿 Riya 的動作、服裝和背景。

Riya 對 BBC 表示：「我很生氣。當然，我的影片都在那裡……這並不代表你可以拿走它，偷來並當作自己的。」

一些帳號——包括竊取 Riya 內容的那個——否認它們是 AI 生成的。

其中一個被操控的影片在 TikTok 上觀看次數超過 3500 萬，在 Instagram 上達到 1.73 億，約是 Riya 原始貼文的 47 倍。

雖然與 Riya 內容明顯相符的三個影片並非色情，但使用相同數位創建角色的其他影片則穿著暴露或表演挑逗動作。該帳號的鏈接鏈通向付費成人內容。

「我不確定我更擔心他們用我的影片來推廣他們的色情內容，還是人們真的相信那些內容，」她說。

用戶越來越難分辨內容是否真實，「人們一直在相信這些 AI 模型」，她補充。

許多觀眾似乎將這些化身視為真實，儘管它們具有不切實際的特徵。在貼文或 Instagram 故事中，一些帳號否認使用 AI，包括竊取 Riya 內容的那個。

Riya 表示，她多次向兩個平台舉報該帳號，但當時內容未被刪除。BBC 聯繫 TikTok 後，該帳號被封禁。

「不切實際的描繪」

Nulani 表示：「我認為這些帳號具有種族主義，因為它們的存在延續了長期剝削黑人的歷史。」「它們使用的漫畫式、種族遊戲術語和對黑人女性的不切實際描繪，證明它們並不關心我們的安全或福祉，而是將我們作為線上色情機器的一部分來剝削。」

Carrasco 在其社交媒體上批評 AI 趨勢和技術，他說：「現在的趨勢是大量無恥、種族主義的極端黑人描繪。」

他指出，雖然「這種癖好」在過去可能存在，但 AI「賦予了它新的購買力」。他解釋說，AI 使得移除圖像和影片中的底蘊變得更容易，能創造出不自然的深膚色，並產生以前需要動畫或膚色繪畫的效果。

此外，他說，化身沒有社會後果：「沒有羞恥……這是 AI 獨有的剝削。」

Houda Fonone / BOCHIC

內容創作者 Houda Fonone 表示，她擔心線上反映的生活經驗正被人工圖像取代。

這位摩洛哥模特和內容創作者倡導更真實的黑人女性形象，她說：「黑色之美只有在被‘精煉’後才能被接受。」

她認為這會加強刻板印象，同時「我們的故事和現實經歷被人工形象取代」。

BBC 向 Meta 和 TikTok 提供了我們識別的帳號範例，並詢問他們的回應。

兩天後，TikTok 發言人告訴 BBC，公司已「刪除違反規則的內容並封禁帳號」。

幾天內，20 個帳號在應用程式上被標記為「封禁」。

TikTok 表示：「禁止未經許可使用他人肖像的 AI 生成內容，我們對促進平台外性服務的內容採取零容忍政策。」

該公司表示，禁止並刪除有害或誤導性的 AI 生成內容，並要求用戶標註逼真的 AI 生成內容。它還表示已對多個影片進行了正確標註。

Meta 表示正在調查所反映的內容。

它表示希望用戶知道他們正在觀看由 AI 製作的貼文，並已制定政策來標註 AI 生成內容。BBC 追蹤的九個 Instagram 帳號似乎已不存在。

兩個平台都未提供對 Riya 最初舉報的回應細節。