假帳號怎麼辨識?四層訊號與容易誤判的地方
冒用銀行或名人的詐騙帳號、集中出現的負評、灌水好評與公共議題上的協同發文,背後都可能是一批不真實的帳號。金融風控、品牌公關、電商平台與公部門都需要分辨:眼前這些帳號是自然參與、公開動員,還是隱瞞身分或彼此關係的協同操作。本文整理四層訊號、各層可能誤判真人的情況、研究工具的現況,以及查證紀錄的寫法。
快速回答:假帳號要怎麼辨識
辨識假帳號可以從四層訊號交叉檢查:帳號屬性、發文行為、內容相似度與互動網絡。帳號屬性看建立時間、名稱與頭像模式;發文行為看時段、間隔與原創比例;內容相似度看近似文本與相同連結;互動網絡看哪些帳號總是一起轉發、按讚或同時出現。任何單一訊號都可能誤判真人,新帳號、發文量大或深夜發文都不能單獨當證據;可疑程度要看不同層次的訊號是否指向同一群帳號,並排除自然原因,再由人工查證。這些方法找的是行為跡象,僅憑這些訊號不能確認帳號背後是誰。
適合誰使用
- 金融機構的風控與詐騙防制團隊:辨識冒用機構、高階主管或名人的帳號,以及針對個股或金融商品的協同發文
- 品牌與消費產業的公關團隊:分辨協同負評、帶風向與真實客訴
- 電商與平台營運團隊:判斷評論區是否有灌水好評或洗評帳號
- 公部門與研究單位:觀察公共議題上是否有帳號群協同散播
能解決什麼問題
- 看到一批說法相似的留言,不確定是巧合還是有人操作
- 不確定可疑線索該保存哪些紀錄,方便法務或平台重新檢查
個人自查和系統偵測是兩回事
一般使用者判斷單一帳號時,可以看幾個表面跡象:頭像像不像網路素材、帳號是不是剛建立、追蹤者是不是很少、名稱是不是一串數字。有帳號私訊推薦投資或自稱客服時,這些跡象可以提醒自己先查官方管道再回應。
但這些跡象拿來判斷帳號真假並不可靠。剛加入平台的真人也是新帳號,不想露臉的人也可能用風景當頭像。反過來,有計畫的操作者可以養帳號、補齊個人資料、混入日常貼文,讓單一帳號看起來很正常。
系統偵測的差別在於規模與關係。人工逐一比對受到時間與資料量限制;系統可以同時比對大量帳號在時間、內容與互動上的關聯,找出單看一個帳號看不出來的同步與重複,但產出的仍是待查線索。
四層訊號:看什麼、能抓到什麼、可能誤判什麼
本文依公開研究與平台報告,把可觀察的線索整理為四層:帳號屬性、發文行為、內容,以及帳號之間的互動。這是本文的編輯整理,不是業界統一標準。下表先整理重點,再逐層說明。
| 訊號層 | 看什麼 | 能抓到什麼 | 可能誤判 |
|---|---|---|---|
| 帳號屬性 | 建立時間、名稱與頭像模式、資料完整度 | 同一時段批次建立、命名規則雷同的帳號群 | 新加入的真人、重視隱私而少填資料的人 |
| 發文行為 | 時段分布、發文間隔、轉發與原創比例 | 固定間隔發文、只轉發不原創、作息不符的帳號 | 使用排程工具的組織、輪班工作者、不同時區的使用者 |
| 內容相似度 | 近似文本、相同連結、相同圖片 | 複製貼上或少量改寫的協同留言、集中導流到同一網址 | 響應活動的網友、引用同一則新聞的討論 |
| 互動網絡 | 共同轉發、互相按讚、同步出現 | 總是一起行動、彼此拉抬的帳號群 | 粉絲社群、同事或社團成員的自然互動 |
第一層:帳號屬性
看什麼:帳號建立時間、名稱與帳號代碼的模式、頭像來源、個人簡介與資料欄位的完整度,以及改名或更換頭像的紀錄。
能抓到什麼:單一帳號的屬性可以提供線索,一群帳號的屬性分布則能補充帳號之間的關聯。例如一批帳號在同一週建立、名稱都是姓名加一串數字、頭像風格一致,就值得往下查。頭像也要留意:頭像可能由 AI 生成,看起來像真人照片,不能只憑外觀判斷帳號是否真實。
可能誤判:新註冊的真人、重視隱私而不放照片或少填資料的人,也可能有相同特徵。各平台公開的欄位也不同,有的平台在個人頁顯示加入時間,有的不顯示,能比對的屬性因平台而異。另一個盲點是收購或盜用來的舊帳號,可能保留完整資料,只看建立時間與資料完整度,可能看不出異常。
第二層:發文行為
看什麼:一天中的發文時段分布、相鄰兩篇貼文的時間間隔、轉發與原創的比例、發文量在短期內的變化,以及長期沉寂後突然活躍的情形。
能抓到什麼:自動化程式可能以固定間隔發文,或在短時間內大量轉發;人工代操的帳號群則可能在相同時段一起上線、一起沉寂。若一個帳號平時幾乎不發文,卻在某個議題出現時密集發言,結束後又回到沉寂,這種作息就值得記下來。
可能誤判:企業或媒體帳號若採固定間隔排程,也可能呈現規律的發文間隔;輪班工作者、境外使用者與夜貓族可能在深夜發文;討論者也可能在重大事件期間增加發文。發文行為只能說明這個帳號的作息不尋常,不能說明它是假的。
第三層:內容相似度
看什麼:不同帳號的貼文或留言是否相同或高度近似、是否反覆貼出同一個網址或同一張圖片、是否使用相同的錯字、標點習慣或標籤組合。
能抓到什麼:複製貼上或只改幾個字的協同留言、集中把人導向同一個投資群組或購物網址的貼文、在多個粉專同時出現的相同負評。相同的錯字或少見的用語搭配,可以作為查證文字是否來自同一個來源的線索。
可能誤判:網友響應活動時可能貼上相同文案,轉貼同一則新聞時也可能附上相同連結,這些都是自然的相似。生成式 AI 也可能降低這一層的效果:每個帳號都能產出用詞不同、意思相同的文字,只比對字面重複會漏掉這類內容。比對可以延伸到敘事層級,但相同立場或敘事本身不是不真實行為的證據,真人也可能持相同看法,不能據此公開指認帳號。敘事比對的做法可參考假新聞偵測方法一文中生成式 AI 的段落。
第四層:互動網絡
看什麼:哪些帳號總是轉發同一批貼文、互相按讚與留言、在同一則貼文下幾乎同時出現,以及這些關係隨時間的變化。
能抓到什麼:協同操作的核心是多個帳號一起行動,互動網絡能補上單一帳號看不到的關聯。印第安納大學研究團隊在 ICWSM 2021 發表的研究,就是用帳號之間共享的行為痕跡,例如轉推相同的貼文、相同的標籤序列、相同的圖片或相近的發文時間,建立協同網絡,在多個案例中找出疑似協同的帳號群。這類方法看的是行為關聯而不是內容真假,因此原則上也可用來觀察以真實資訊選擇性放大的操作。
可能誤判:粉絲社群、同事或社團成員也可能互相按讚、一起轉發,這些互動本身不能證明不真實操作。看到帳號群之後,還要確認這個群體是公開的組織動員,還是隱瞞彼此關係的操作。依 Meta 社群守則現行版本(最近一次更新為 2025 年 12 月),不真實行為是由同一人或同一群人控制的不真實帳號、粉專或社團等資產所進行的欺騙,目的在誤導平台或使用者,或規避社群守則的執行;判斷重點在隱瞞與欺騙,而不是一群人意見一致。協同性不真實行為的完整定義,見什麼是協同性不真實行為,以及Meta 不真實行為政策原文。
為什麼「新帳號」「發文很多」「深夜發文」都不能單獨當證據
若只憑這三個跡象指認網軍,可能誤判真人。
新帳號:真人也會為了參與某個議題而註冊。新帳號突然增加,可能是有人批次開帳號,也可能只是議題吸引了新使用者,要再看這些帳號之間有沒有其他關聯。
發文很多:熱衷時事的人、社群小編、記者與意見領袖也可能大量發文。發文量只反映活躍程度,要看的是它的變化是否和其他帳號同步、內容是否大量重複。
深夜發文:本地的深夜可能是其他時區的白天,境外使用者、輪班工作者與學生都可能在深夜活躍。作息是否異常,要和同一帳號過去的作息、同議題其他帳號比較。
反過來說,單一訊號正常也不代表帳號真實,有計畫的操作可能讓每個帳號在單一層次上看起來正常。比較穩健的做法是交叉檢查不同層次的訊號:一群帳號在同一週建立、用相近的文字留言、總是一起轉發,三個層次的訊號指向同一群帳號,就值得優先查證。也要留意這些訊號是否只是同一個現象的重複呈現,例如同一場公開活動同時造成註冊、留言與轉發,避免重複計算可疑程度。明確的冒名線索,例如盜用機構名稱與標誌的帳號,即使只有單一訊號也值得查證。
公開的研究工具與它們的限制
公開研究工具中,印第安納大學社群媒體觀測站(OSoMe)開發的 Botometer 是一例,它過去可以即時評估 Twitter 帳號由程式操作的可能性,被許多學術研究採用。它的現況說明兩個限制。
第一個限制是資料取得。Twitter(現 X)停止提供研究者免費資料存取後,原本的 Botometer 網站隨之停用。OSoMe 在 2024 年 2 月推出 Botometer X,只提供以 2023 年 6 月前蒐集的歷史資料預先計算的分數,2023 年 5 月 31 日之後建立的帳號都查不到,較早建立的帳號也不一定有紀錄;OSoMe 之後也開放透過 API 批次查詢這些歷史分數。OSoMe 也說明,Botometer X 的模型是在生成式 AI 工具普及之前訓練的,無法辨識由 AI 強化的機器人。換句話說,Botometer X 是封存工具,不能評估 X 帳號的現況。OSoMe 另推出 Botometer Blue,以 Bluesky API 取得的資料分析 Bluesky 帳號,並評估近期貼文是否像 AI 生成的內容;兩者都不涵蓋其他平台。
第二個限制是準確度會隨語言與時間變動。Rauchfleisch 與 Kaiser 在 2020 年發表於 PLOS ONE 的研究,於 2019 年 3 月至 6 月以已知為機器人與已知為真人的英文、德文帳號,測試當時的 Botometer v3,發現分數用來估計機器人並不精確,在所測的德文資料上更明顯;同一個門檻在不同時間也會得到不同結果,偽陽性與偽陰性都會發生。研究者提醒,直接用固定門檻計算機器人數量,可能把真人算成機器人,也會漏掉機器人。這項研究測的是舊版工具,結果不能直接代表現行 Botometer X 或 Botometer Blue 的表現;它指出的門檻浮動問題,則可作為使用任何分數型工具時的提醒。
這項研究只測了英文與德文,不能直接推論到中文。用在 PTT、Dcard、LINE 社群等平台時,任何方法都要在當地資料上另行驗證。Cresci 在 2020 年回顧社群機器人偵測十年研究時也指出,機器人會模仿人類,偵測與規避手法持續互相調整,工具需要持續更新與驗證。
生成式 AI 也帶來變化。Meta 在 2024 年第一季的對抗性威脅報告中,記錄被移除的影響力行動使用 GAN 生成的頭像,以及疑似由生成式 AI 製作的圖片與留言;截至該報告,Meta 表示尚未看到會妨礙其瓦解相關帳號網絡的新型生成式 AI 手法。這是單一平台在當時的觀察,不能當作所有平台的保證。
從可疑帳號群到查證紀錄
可疑線索要交給法務、平台或主管機關,紀錄就要能讓沒參與分析的人重新檢查,建議保存以下內容。
- 原始內容:貼文與留言的網址、截圖、擷取時間與帳號頁的公開資料。帳號可能被刪除或改名,要盡早保存。
- 觀察到的訊號:每一層訊號的具體事實,例如哪些帳號在哪一天建立、哪幾則留言內容相同,而不是只寫疑似網軍。
- 替代解釋:列出可能造成相同現象的自然原因,例如同期新聞、行銷活動或粉絲動員,以及排除或無法排除的理由。
- 研判等級與限制:寫明判斷是高度可疑、待觀察或可能是自然現象,以及看不到哪些資料,例如私密社群或已刪除內容。
- 處置與後續:向平台檢舉的時間與結果、對外說明,以及是否持續觀察。
紀錄裡應避免對帳號背後的人下結論。行為分析能說明一群帳號在行為上高度協同,但行為訊號不足以確認是誰在操作或受誰委託;身分與委託關係需要另行查證,涉及法律責任時,依程序由權責機關處理。寫成「這群帳號有哪些協同跡象」,比寫成「這是某某的網軍」更貼近行為證據所能支持的範圍。
參考資料
- Meta Transparency Center: Inauthentic Behavior
- OSoMe: Introducing Botometer X (2024)
- Botometer: About and FAQ
- Rauchfleisch & Kaiser, The False Positive Problem of Automatic Bot Detection in Social Science Research, PLOS ONE (2020)
- Pacheco et al., Uncovering Coordinated Networks on Social Media: Methods and Case Studies, ICWSM (2021)
- Cresci, A Decade of Social Bot Detection, Communications of the ACM (2020)
- Meta Adversarial Threat Reports