假新聞偵測與認知作戰監測系統
一則改圖、一段剪接影片、一組同時出現的相似貼文,可能在不同平台與通訊軟體群組間接力轉傳。InfoMiner 假新聞偵測與認知作戰監測系統把跨平台公開內容整理成敘事與擴散路徑,標出可疑的協同散播與異常帳號集群,讓發言與應變單位及早看見訊號。
什麼是認知作戰監測系統?
認知作戰監測系統持續蒐集跨平台公開內容,辨識可疑敘事、協同散播與異常帳號集群,追蹤擴散路徑並在早期發出預警,再交由分析人員查證與研判。一般輿情監測主要整理關鍵字、聲量與情緒;認知作戰監測進一步分析敘事、帳號行為與擴散結構,提供可觀測的早期來源、擴散節點與疑似協同行為線索。
系統產出的是可疑訊號與調查線索;內容真偽、操弄歸因與後續處置,由貴單位的人工查證決定。
術語定義見什麼是認知作戰?與假新聞、資訊操弄、FIMI 的差別,偵測技術見AI 如何偵測假新聞?五種方法與它們做不到的事;本頁談系統能力、限制與導入。
適合誰使用
- 政府機關的發言、輿情與新聞聯繫單位:在擴散初期掌握來源與規模,決定是否與何時澄清
- 關鍵基礎設施營運者:關注服務中斷、停水停電或污染相關的可疑訊息,供權責單位查證與說明
- 選務機關與地方政府:關注投開票流程與公共服務相關的可疑訊息,及早準備說明資料
能解決什麼問題
- 若要等到媒體來電或長官轉傳截圖才知道,可準備說明的時間就被壓縮
- 看得到聲量升高,卻分不出是自然討論,還是一組帳號在同一時段推送相似內容
- 查證與澄清靠個人經驗,沒有分級規則與查證紀錄
這套系統解決什麼問題:從事後闢謠到早期預警
若單位目前採逐則發現、查證與澄清的流程,可從以下三個面向評估加入敘事追蹤與預警。
一、擴散速度:回應時效依實際擴散情況而定
不實訊息可能跨平台快速轉傳,也可能長期在小範圍流傳,回應時效應依實際擴散情況判斷。早期預警的作用,是在擴散曲線仍平緩時讓承辦人看到它,保留觀察、準備與回應的選擇。
二、跨平台接力:單一平台看不出全貌
同一敘事可能以論壇貼文、圖卡、短影音等不同形式跨平台轉傳。只看單一平台,看到的是零散貼文;把跨平台內容放上同一條時間軸,才能看出目前可觀測資料中最早出現的位置,以及在哪些節點被放大。
三、操弄不一定靠假內容
Wardle 與 Derakhshan 2017 年為歐洲理事會(Council of Europe)撰寫的《Information Disorder》報告,把資訊失序分成錯誤資訊、假訊息與惡意資訊三類,惡意資訊是把真實資訊用來造成傷害,並指出假新聞一詞不足以描述這些現象。選擇性放大、斷章取義與情緒動員,都不一定能用查核真偽處理,因此監測要同時看內容、帳號行為與擴散結構。
| 比較面向 | 事後闢謠 | 早期預警 |
|---|---|---|
| 發現時點 | 媒體詢問、長官轉傳或民眾陳情之後 | 敘事在少數來源出現、尚未大量轉傳時 |
| 分析單位 | 單則訊息的真偽 | 敘事、帳號群與擴散路徑 |
| 判斷依據 | 承辦人經驗與臨時查證 | 事先訂定的分級規則,搭配人工查證 |
| 處置選項 | 發布澄清稿 | 持續觀察、預備說明、主動澄清、通報平台或主管機關 |
| 留下的紀錄 | 澄清稿本身 | 原始出處、擴散時間軸、研判依據與處置決定 |
上表是兩種作業配置的對照,不代表任一單位的現況。早期預警是讓回應有更多選項:是否公開回應,可一併評估議題規模、擴散趨勢、公共利益與回應方式,再決定先觀察、先準備,還是立即回應。
監測流程五步:從蒐集到人工處置
前三步主要由系統完成,第四步由系統提出、單位確認,第五步由人負責;這個分工也是導入時劃分權責的依據。
| 步驟 | 做什麼 | 典型產出 | 主要執行者 |
|---|---|---|---|
| 一、蒐集 | 持續蒐集新聞、社群、論壇與公開資料,含圖片與影片 | 原始內容池、來源與時間戳記、缺漏紀錄 | 系統 |
| 二、敘事分群 | 把跨平台的相近說法歸成同一敘事 | 敘事清單、代表內容、各平台分布 | 系統 |
| 三、擴散與協同分析 | 標出可觀測資料中的早期節點與擴散節點,分析發文節奏、內容相似度與帳號關聯網絡 | 擴散時間軸、關鍵節點、可疑帳號集群 | 系統,分析人員檢視 |
| 四、預警分級 | 套用單位自訂的分級規則 | 分級預警、通知紀錄、升級規則 | 系統提出,單位確認 |
| 五、人工查證與處置 | 查證內容真偽、研判是否為操弄,決定觀察、澄清、通報或移送,並保存查證紀錄 | 查證結論、處置決定、查證紀錄、事後回顧 | 分析人員與權責主管 |
第五步需要明確配置人力與權責:誰負責查證、誰核定是否回應、多久內完成,建議導入前寫進作業規範。
步驟一:蒐集(記錄取得內容與已知缺漏)
範圍依議題、業務關鍵字、轄區地名與指定帳號設定,並以排除詞減少同名雜訊;圖片文字以 OCR 擷取,影片與圖片進入多模態分析。這一步保留取得內容與擷取時間;平台改版造成的已知缺漏,建議另行記錄。
步驟二:敘事分群(歸併相近說法,減少重複判讀)
同一則說法可能被換標題、改圖卡、換開頭。分群把語意相近的內容歸成一組,附上代表內容、可觀測資料中最早出現的時間與平台分布。分群是機率性的,立場相反的相近說法可能被歸在一起,每則內容因此保留原始出處供回查。
步驟三:擴散與協同分析(看行為,不只看內容)
這一步看敘事在可觀測資料中的早期節點與放大節點,以及帳號有無不自然的協同跡象:發文時間是否集中、內容是否高度相似、帳號間是否有固定轉發關係。Meta 在其 2020 年的 CIB 報告中,將協同性不真實行為定義為為了策略目標協同操弄公共討論、且假帳號是其運作核心,處置依據是行為的欺騙性而非內容本身。
步驟四:預警分級(讓該收到的人收到)
分級規則由單位自訂,維度包括擴散速度、跨平台數量、與業務的關聯及協同跡象。例如單一論壇出現的進入每日彙整;跨平台加速轉傳的即時通知發言窗口;涉及災情或投開票流程的直接通知權責主管。
步驟五:人工查證與處置(決定權在人)
查證包括比對原始出處、向業務單位確認,並參考事實查核生態(例如台灣事實查核中心、MyGoPen、Cofacts 真的假的)的結果。處置可以是觀察、澄清、向平台檢舉或移送權責機關。系統可保存截圖、原始連結與擷取時間等查證紀錄;涉及法律程序時,另確認所需的保存與鑑識方式。
InfoMiner 的對應能力
以下能力各附前置條件,建議採購時一併寫入需求說明。
| 能力 | 做什麼 | 前置條件 |
|---|---|---|
| 跨平台監測 | 新聞、社群、論壇與公開資料,可涵蓋 PTT、Dcard、Facebook、YouTube、Threads、TikTok/抖音、LINE 社群;整體監測超過 50 萬個頻道 | 實際範圍依方案與資料源授權而定;平台改版或封鎖時可能出現缺漏 |
| 議題與情緒分析 | 繁體中文文本的議題歸納與情緒分析 | 反諷與新興網路用語需在對照期校正 |
| 異常聲量警示 | 聲量偏離平時基準時發出警示 | 需累積基準期;靈敏度與誤報率互為取捨 |
| 可疑假新聞與敘事追蹤 | 辨識可疑的不實訊息,追蹤散播路徑與可觀測資料中的早期節點 | 產出為可疑訊號,真偽由人工查證 |
| 協同帶風向與異常帳號集群 | 分析發文節奏、內容相似度與關聯網絡,標出可疑的協同操作集群 | 需設定調校;依平台公開欄位,屬機率性研判 |
| 圖片與影片分析 | 擷取圖片內文字(OCR)、影像辨識,以及影片與深度偽造(deepfake)偵測 | 影片與深偽偵測需設定調校;畫質與轉錄次數影響判讀 |
| 自動化報表 | 敘事彙整、事件報告與預警紀錄匯出 | 格式依單位既有簡報設定 |
| 案件管理 | 案件建立、分派、進度追蹤與查證紀錄保存 | 可依機關流程客製建置 |
監測與分析可較快上線,協同分析、多模態與案件管理需和單位一起調校或建置,時程應分開規劃。完整功能見InfoMiner 輿情分析平台。
能力邊界:現成可用、需設定調校、需客製評估
採購時應避免把真偽認定或行為者歸因列為未約定的交付成果。以下依交付難度分類:
| 類別 | 項目 | 假訊息情境下的前置條件與限制 |
|---|---|---|
| 現成可用 | 公開新聞、社群、論壇的關鍵字與敘事監測、情緒分析、異常聲量警示 | 能指出某個說法正在升溫、出現在哪些平台,不能判定真假。私訊與非公開群組不在範圍內。 |
| 現成可用 | 圖片內文字擷取(OCR) | 圖卡上的文字可納入檢索與敘事分群;低解析度與藝術字型會降低擷取品質。 |
| 需設定調校 | 協同性不真實行為與異常帳號集群辨識 | 依賴平台公開欄位(發文時間、互動關係、內容相似度),封閉平台無法覆蓋。粉絲自發動員、媒體同步發稿也會呈現協同特徵,屬機率性研判,需人工驗證。 |
| 需設定調校 | 影片與深度偽造偵測 | 轉錄、壓縮與翻拍可能削弱判讀特徵;涉及法律程序時,應另循鑑識管道確認。 |
| 需設定調校 | 預警分級規則 | 門檻依業務與轄區特性,在對照期以實際回饋校準。 |
| 需客製評估 | 非公開來源、封閉社群、特定語系深度覆蓋 | 須先確認合法性與授權,以概念驗證確認覆蓋率後再納入。 |
| 需客製評估 | 案件管理與機關既有系統串接 | 可依機關流程客製建置,需先盤點既有公文與通報系統。 |
建議在契約中明寫:系統不做真偽的最終認定,也不提供最終歸因結論。EEAS(歐盟對外事務部)在 2023 年起發布的 FIMI 威脅報告中,把境外資訊操弄與干預描述為有意圖且協同的行為模式,行為者可以是國家或非國家行為者及其代理人;歸因需另行評估證據強度與替代解釋。
部署與資料治理
假訊息監測涉及兩類資料:來自公開、合法來源的外部內容,以及單位內部的研判紀錄與處置決定。兩類都可能含個資或機敏資訊,應依內容與用途分別設定存取權限、保存期限與部署位置。
- 資料主機與資安認證:InfoMiner 資料主機設於台灣境內。
- 地端部署:研判紀錄、內部知識與報告生成可採 RAGi On-Premise 搭配 QubicX 地端 AI 平台,資料處理與模型推論於單位內網進行,資料不傳送至外部雲端。
- 紀錄與稽核:需要保留哪些操作與處置紀錄、以什麼格式匯出,可依機關稽核需求評估,並與案件管理的客製建置一併規劃。
- 採購途徑:InfoMiner 已取得政府共同供應契約資格,可透過共同供應契約採購;客製建置項目另依需求評估。
RAGi 企業AI檢索增強生成引擎 · QubicX 地端 AI 平台
監測的界線:言論自由與個人資料
本系統以敘事與行為模式為分析目的,但指定帳號與關聯分析仍可能處理可識別個人的資料;公開可見不等於不涉及個資,應確認蒐集、處理與利用的依據及必要範圍。建議導入前由法制與業務單位訂定:哪些帳號可列為關注對象、由誰核准;保存與刪除期限;結果只用於澄清與通報等明定目的。
處置時可能涉及的法規
查證結論若要移送或通報,可能涉及《社會秩序維護法》、《災害防救法》與《公職人員選舉罷免法》中與散布謠言相關的規定,條文整理見什麼是認知作戰?與假新聞、資訊操弄、FIMI 的差別。這些法律各有不同的構成要件:內容真偽由查核人員依證據判斷,是否違法由有權機關依法認定,被判為不實不等於違法。
誰會用、怎麼用
情境一:政府機關發言與輿情單位
系統定時產出敘事彙整。建議的作業節奏如下:
- 每日彙整:晨會前提供敘事清單,區分持續觀察與建議回應。
- 即時預警:涉及民眾權益或跨平台加速的敘事,直接通知窗口。
- 澄清後追蹤:觀察澄清後可取得的公開轉傳與討論變化。
若澄清內容只在官方帳號內轉傳,而原敘事仍在其他平台增加,可考慮調整發布管道或說明方式。
情境二:關鍵基礎設施營運者
供電、供水、交通與通訊營運者,可設定服務中斷、品質或污染相關議題作為監測情境。監測範圍以服務名稱與設施地名設定,並與事故通報連動:某區域停水停電的說法快速擴散時,值班人員先比對實際營運狀態,再決定是否說明。流程設計可參考輿情危機處理 SOP:7 步驟公關危機指南。
情境三:選務機關與地方政府
本頁的選舉情境示例包括投開票流程、選務作業與冒用候選人言行的可疑內容。2026 年地方公職人員選舉投票日為 11 月 28 日,可在選前建立議題清單與分級規則,投票日前後改為高頻監測。監測須政治中立,只關注影響選舉程序的訊息類型。若要掌握公開討論的整體熱度,LargitData 另提供2026 選情研究室,它是全台 22 縣市即時聲量看板。選前作業清單可參考選舉假訊息監測怎麼做?選前 60 天的作業清單。
導入流程與驗收方式
比較準確率等指標前,應先對齊資料集、標註準則與樣本分布。本文建議驗收搭配歷史事件回測與對照期評估。
| 階段 | 主要工作 | 客戶端參與角色 | 產出 |
|---|---|---|---|
| 一、範圍盤點 | 確認關注議題、關鍵字、指定帳號與既有通報流程 | 發言、輿情與業務承辦人 | 監測範圍清單、權責分工 |
| 二、歷史事件回測 | 以單位處理過的事件,檢視系統能否重建可觀測的早期節點與擴散路徑 | 當時的承辦人 | 回測報告、可覆蓋與無法覆蓋的項目 |
| 三、對照期 | 與既有作業並行,回饋漏報、誤報與分級 | 輿情承辦人 | 校準後的分級門檻與報表格式 |
| 四、正式上線 | 自動推送彙整與預警,進行判讀訓練 | 發言窗口、業務單位聯絡人 | 每日彙整、分級預警、處置紀錄 |
回測用單位熟悉的案例檢視:當時何時發現、系統在可觀測資料中能把時間往前推多少、哪些平台資料取不到,也可據此區分哪些項目需要調校。
評估供應商時要問的 10 個問題
評估時應同時確認資料範圍、判讀流程與介面操作。建議請供應商書面回答:
- 來源清單:可監測哪些平台?哪些自建蒐集、哪些授權取得?
- 缺漏通報:平台改版時,如何得知哪段資料不完整?
- 跨平台歸併:同一敘事被改寫轉傳時如何去重與歸併?
- 敘事分群評測:用什麼資料集與標註準則評估?分群錯誤時,分析人員能否拆分或合併?
- 協同判讀依據:標示可疑協同時依據哪些欄位?能否呈現給分析人員?
- 誤報處置:正常的協同行為如何排除?誤報能否回饋調整?
- 多模態範圍:圖片、影片與深偽偵測的適用條件與限制為何?
- 可解釋性:每則預警能否說明分級理由?規則可否由單位調整?
- 查證紀錄:截圖、連結與擷取時間能否匯出?原文刪除後是否仍保有紀錄?操作紀錄保留哪些欄位?
- 歸因立場:是否宣稱能判定真偽或認定行為者?依據為何?
第十題建議寫進契約:若產品說明把可疑訊號直接寫成假新聞或境外操弄,單位在對外說明與法律程序中都要承擔額外風險。