抖音平臺近期針對一種名為“AI起號”的行為展開了專項治理行動，旨在打擊利用人工智能技術生成并傳播違規內容的賬號。據抖音發布的公告，此次行動主要針對的是一系列濫用AI技術的行為，包括制作低俗獵奇視頻、虛構外國幼兒教育專家形象傳播育兒內容、售賣AI視頻賬號教程以及轉讓AI虛擬賬號等。
在此次專項行動中，抖音平臺已清理了多達311條違規內容，并對15個嚴重違規的賬號實施了封禁措施，這些賬號包括“心x甜”、“向xAi同城流量”以及“瑞xxAI智習室”等。這些賬號因違規使用AI技術，嚴重破壞了抖音平臺的生態。
抖音平臺在公告中強調，人工智能技術的快速發展確實為互聯網內容生態帶來了極大的豐富，但同時也被部分人員用于造假和牟利，嚴重破壞了平臺的健康環境。為了應對這一問題，抖音在2023年和2024年分別發布了《關于人工智能生成內容的平臺規范暨行業倡議》和《關于不當利用AI生成虛擬人物的治理公告》，明確表明了對違規使用AI生成虛擬人物進行低質創作的態度，以及對相關行為的處罰措施。
除了清理違規內容和封禁違規賬號外，抖音還提醒廣大用戶，任何形式的賬號贈與、借用、出租、轉讓或售賣都是違規行為。同時，抖音鼓勵創作者在合理合法使用AI進行創作的同時，積極對生成的內容進行標注和聲明，以確保內容的真實性和合法性。
抖音表示，將繼續加大對涉及AI生成內容的違規行為的打擊力度，并不斷完善平臺的相關治理能力。平臺還呼吁廣大用戶共同監督，一旦發現不當使用人工智能技術生成內容的情況，可以在站內進行舉報或發送詳情至抖音的舉報郵箱，平臺將在第一時間進行核實和處理。
