近期，調查發現，不少社交賬號利用AI技術造假、博眼球快速“吸粉”起號，在未標注AI生成的情況下大量推送穿搭、養生、情感等內容，并可通過引流帶貨、賬號轉賣等方式變現。部分視頻細節逼真，足以讓普通網友信以為真，由此形成一條AI造假起號的灰色產業鏈。

虛擬“氛圍感美女”“銀發養生奶奶”，看似突破傳統內容創意范疇，實則扭曲了內容創作的真實邏輯。造假者利用AI博取平臺流量，本質上是將技術異化成投機牟利的工具。虛假AI人設成為追逐商業利益的“科技畫皮”，不僅藐視傳統內容創作者的時間與精力，還有突破誠信與法律底線的可能。看似無傷大雅的視頻，背后卻可能潛藏非法產品銷售、隱性廣告推廣和健康信息誤導等風險，更破壞了網絡真實生態與平臺監管信用。

技術本身是中性的，關鍵在于使用者的動機與平臺的監管。生成式AI本可讓普通人以低門檻實現內容創意表達，但落入造假逐利者手中，便有了“批量制造虛假人設”的可能。此類視頻，如若被流量推薦針對特定人群進行情感營銷，極易引發誤導效應和跟風消費，成為灰色產業發展的助推器。

AI造假批量起號亂象背后，平臺需要迫切反思技術介入內容創作背景下，如何理清流量投放的“真實邏輯”？如何避免因流量驅使推送虛假內容“為虎作倀”？傳統的內容創作流量是通過優質內容進行變現，而其中的起號、漲粉到帶貨邏輯，成熟的“技術—運營—交易”鏈條，以及誘人的短期收益，多少人正被披上科技外衣的AI“李鬼賬號”收割，平臺是否監管到位值得深思。然而， AI造假者通過壓縮文件、消除特征痕跡等手段規避審核，這也反映出目前平臺監管確實存在明顯滯后問題。

AI技術成為造假者的流量變現工具，打擊“3到15天速成萬粉號”的批量起號造假現象。平臺首先需把好“第一道關口”，內容審核機制必須與造假方式同步進化，對特定規避手段升級識別能力，壓實生成平臺對AI生成內容添加清晰標識的責任。同時，不能讓違規賬號有穩定帶貨機會，對違規賬號轉售交易零容忍，只有切斷利潤源頭，才能讓AI造假失去持續運作土壤。另外，平臺還需要強化處罰處理規則，建立違規賬號“黑名單”，對于重復進行AI造假的賬號，提高封禁和經濟處罰力度，直至剝奪其商業化資格，徹底堵死流量變現暗道。

AI應是未來內容生產的重要引擎，絕不能被造假引入流量投機的歧途。AI技術需要助力真實、優質、負責任的內容，從而獲得正向流量，成為提升社會信息質量的“加分項”，而不是消解網絡誠信的“減分題”。

來源：紅網   作者：張宜威