抖音:已掌握部分黑產團夥利用AI虛擬人物犯罪線索,將報警打擊

　　《經濟通通訊社27日專訊》抖音出手打擊利用生成式AI招搖撞騙甚至犯罪的行為。抖音安全中心今日發布關於不當利用AI生成虛擬人物的治理公告指,近期平台發現站內仍有用戶違規使用AI生成虛擬人物發布內容,已作出嚴厲處置。針對有關行為,平台會對違規視頻下架,對違規帳號進行取消其投稿和營利權限、抹除帳號粉絲、封禁帳號等處置,並利用模型、技術識別能力等手段,進行長期系統的識別發現和處置。公告還指出,平台已掌握部分黑產(網絡犯罪)團夥不當使用AI生成虛擬人物用於犯罪的線索,將報警打擊。

　　公告列出不當使用AI技術生成虛擬人物發布內容的典型行為,包括:、想到中國生活、評價社會事件等言論博取眼球。

「老公」等,發布情感誘導、唱情歌、為你謀福利等表達虛假情感的內容,將用戶導流至私人聊天工具,甚至進行詐騙。

*使用AI生成內容須有顯著標識,發布者須對相應後果負責*

　　公告重申,創作者、主播、用戶、商家、廣告主等平台生態參與者,在抖音應用生成式AI技術時,須遵循相關規範:發布者應對AI生成內容進行顯著標識,幫助其他用戶區分虛擬與現

實,特別是易混淆場景;發布者需對AI生成內容產生的相應後果負責,無論內容是如何生成的;虛擬人需在平台進行註冊,虛擬人技術使用者需實名認證;禁止利用生成式AI技術創作、發布侵權內容,包括但不限於肖像權、知識產權等,一經發現,平台將嚴格處罰;禁止利用生成式AI技術創作、發布違背科學常識、弄虛作假、造謠傳謠的內容,一經發現,平台將嚴格處罰。

(sl)