傳統 AI 系統的能力與限制

「傳統 AI」在本文中並非指「已過時的技術」，而是指非生成式、任務專用或規則式的系統——這類技術至今仍在企業中大量運行並持續發展。它主要包括：基於規則的專家系統（Rule-based Expert Systems）、機器學習分類模型（如 SVM、隨機森林、XGBoost）、深度學習專用模型（影像辨識 CNN、語音辨識 RNN、自然語言處理 BERT 系列），以及傳統的統計分析模型。這些技術在各自的專業領域表現出色，且在許多對延遲、成本或精準度要求嚴苛的場景中，仍是比生成式模型更合適的選擇。用年份切割新舊是常見但誤導的說法：真正的分界在於「模型是否針對單一任務最佳化」，而非它問世的時間。

傳統 AI 的核心設計哲學是「窄域最優化」（Narrow Optimization）：針對一個明確定義的任務，在大量標記資料上訓練出的模型，能夠在該特定任務上達到甚至超越人類水準的表現。例如，在瑕疵類型明確、影像取得條件穩定的產線上，訓練充分的影像辨識模型可以達到相當高的判別水準，往往優於通用模型；專為特定語言設計的情感分析模型（如 LargitData InfoMiner 採用的繁體中文輿情模型）在處理台灣的語言習慣與網路用語時，比未針對繁中調校的模型更貼近實際語意。要提醒的是，任何準確率數字都只在特定資料集、類別定義與判定閾值下成立，換一批資料就可能大幅變動：同一個瑕疵偵測模型換了打光或鏡頭就可能失準，同一個情感模型遇到反諷、業配文或跨語言混雜的貼文也會掉分。因此評估專用模型時，應要求提供在自身資料上的 precision、recall 與 F1，並確認測試集是否與訓練集真正分離，而不是單看一個總體百分比。

然而，傳統 AI 的局限性也十分明顯。第一是「任務固定性」：傳統 AI 模型是為特定任務訓練的，輸入和輸出格式通常固定，無法處理超出訓練範疇的新任務，也無法根據使用者的自然語言描述靈活調整行為。第二是「資料饑渴性」：訓練傳統 AI 模型需要大量高品質的標記資料，這在許多企業場景中是巨大的瓶頸——收集、清洗、標記資料的成本和時間往往是整個 AI 專案中最昂貴的部分。第三是「碎片化問題」：企業通常需要為不同任務部署多個不同的 AI 模型，形成難以管理的「AI 孤島」，系統整合和維護成本居高不下。

LLM Agent 的技術突破

大型語言模型（LLM）的出現，從根本上改變了 AI 的設計範式。LLM 是在超大規模文字語料上訓練出的神經網路——各家模型的實際語料規模、資料組成與截止日期並不相同，且多數廠商並未完整公開，選型時應以所採用模型的官方模型卡與技術文件為準。其訓練目標並非針對單一任務的模式識別，而是學習語言與知識的通用結構。這種「通用先驗知識」（General Prior Knowledge）使 LLM 具備了傳統 AI 無法企及的幾個關鍵能力。

零樣本和少樣本學習（Zero-shot / Few-shot Learning）是 LLM 最顛覆性的能力之一。傳統 AI 需要數千甚至數萬筆標記資料才能訓練出有效的模型；LLM 在只給出幾個例子（Few-shot）甚至不給任何例子（Zero-shot）的情況下，就能處理全新的任務。這意味著企業要為新業務流程加上 AI 輔助功能時，不必先經歷完整的資料蒐集與模型訓練週期，能夠較快進入試作。實際需要多久才能得到可信的可行性結論，取決於評估集是否已備妥、需要整合幾個內部系統、以及驗收標準是否明確——若這三項尚未就緒，時間通常會落在資料整理而非模型調校上。少樣本泛化的效果也會隨任務而異：格式轉換、分類與摘要類任務通常較快見效，涉及專屬領域規則或需嚴格一致性的任務則往往仍需補充範例或評估微調。

指令跟隨（Instruction Following）與通用推理（General Reasoning）是 LLM 的另一大突破。使用者可以用自然語言向 LLM 下達複雜的多步驟指令，LLM 能夠理解指令的意圖、推理出執行步驟、並生成相應的輸出。這種靈活性使 LLM 能夠被快速應用於新場景，而無需重新設計整個 AI 系統架構。當 LLM 進一步與工具調用、記憶系統、工作流程引擎整合，就形成了能夠在受控範圍內執行多步任務的 AI Agent。這裡的「受控」是關鍵：實務上必須明確界定 Agent 可呼叫哪些工具、哪些動作需要人工核准、失敗時如何回復，以及責任歸屬在誰——缺少這些邊界，多步自動化的錯誤會被放大而非收斂。

決策推理能力的本質差異

傳統 AI 與 LLM Agent 在決策推理能力上的差異，可以透過一個具體場景來說明。假設企業需要系統回答這個問題：「這張客戶投訴信的情緒如何，投訴的核心問題是什麼，應該轉給哪個部門處理，優先級是什麼？」

傳統 AI 的解決方案需要串聯多個獨立模型：情感分析模型（判斷正負面情緒）、文本分類模型（識別投訴類別）、路由規則引擎（根據分類結果決定轉發部門）、優先級評分模型（根據情感強度和類別計算優先級）。這個多模型串聯架構的維護成本高，任何一個環節的模型更新都可能影響整體表現，而且難以處理跨越多個類別的複雜投訴。

LLM Agent 則可以用一個設計良好的提示詞（Prompt）在單次呼叫中同時產出上述各項判斷，並以結構化 JSON 格式輸出。它的相對優勢在於較能處理投訴信的語境、行間暗示的情緒，以及投訴同時涉及多個問題時的綜合判斷，這些是單一分類模型較難覆蓋的。但這不是免費的：LLM 的輸出存在變異性，同一封信在不同次呼叫可能得到不同的優先級；它也可能把不存在的部門名稱寫進 JSON。因此正式上線前應要求輸出符合 JSON Schema 並做欄位白名單驗證，同時在同一批歷史投訴上與既有多模型串聯架構做對照測試，比較各欄位的準確率、端到端延遲、單筆成本與需要人工改判的比例，再決定採用哪一種架構或如何分工。

本表為架構特性的定性比較，非實測結果。兩類系統的實際差異高度取決於任務、資料、模型版本與硬體；選型前建議在同一組任務樣本上實測任務準確率、P50／P95 延遲、單筆成本、失敗率與人工介入率，再依結果決定分工方式。

企業 AI 升級的時機判斷

並非所有的傳統 AI 系統都需要升級至 LLM Agent。關鍵是識別哪些場景的「痛點」能夠透過 LLM 的能力突破解決，以及升級的成本是否低於持續維護和局限帶來的損失。以下是幾個建議升級的明確訊號：

• 訓練資料的蒐集與標記已成為維護成本的主要項目，且每次業務調整都得重新標記——判斷方式是先算出自身的標記工時佔比基線，再與導入 LLM 後的預估投入比較，而非套用固定門檻。
• 業務流程中存在大量「例外情況」，現有規則引擎和模型無法妥善處理，持續需要人工介入。
• 同時維護多個彼此獨立的 AI 模型，且整合與版本管理成本已難以控制；此處沒有普適的模型數量門檻，關鍵在於每次業務變更需要連帶調整幾個模型。
• 業務需求快速變化，現有 AI 系統的更新週期（資料收集-標記-訓練-部署）跟不上業務節奏。
• 客戶或員工需要以自然語言與 AI 系統互動，但現有系統只支援結構化輸入格式。

相對地，以下場景的傳統 AI 系統通常不需要急於升級：高精準度要求的影像辨識（如瑕疵偵測）、有明確延遲上限的即時預測（此類場景應先寫下可接受的 P99 延遲與錯誤成本，再回頭檢查候選方案是否達標）、訓練資料充足且任務高度穩定的分類問題、以及部署環境對記憶體與算力有硬性限制的邊緣裝置場景。上述判斷都應回到自身的服務水準協議（SLA）、風險承受度與整體持有成本（TCO）評估，而非依賴通用建議。

新舊 AI 系統的協作架構

在多數已有 AI 資產的企業裡，值得優先評估的升級策略不是「全面替換」，而是建構一個新舊 AI 系統協作的分層架構。在這個架構中，傳統 AI 模型繼續負責它們最擅長的「窄域高精準任務」，而 LLM Agent 負責「理解、協調和決策」，兩者各司其職、互補不足。

以輿情分析系統為例：傳統的情感分析模型（如 InfoMiner 使用的繁體中文情感模型）在大量社群媒體文章的情緒分類上速度快、成本低、且在台灣語言習慣上已有深度優化；LLM Agent 則在高層次的分析任務上發揮優勢——例如識別多篇文章之間的議題關聯、生成品牌危機的應對策略建議、或撰寫給管理層的輿情洞察報告。這種「傳統 AI 做分類、LLM 做分析」的分工架構，既保留了傳統模型的效率優勢，又充分利用了 LLM 的推理能力。

在技術架構上，可以透過 AI Orchestration Layer（AI 協調層）將傳統 AI 模型的輸出結果作為 LLM Agent 的工具呼叫回應。例如，LLM Agent 呼叫「情感分析工具」，背後實際執行的是輕量的傳統情感分類模型，返回結果後由 LLM 進行高層次的解讀和決策。這種設計既達到了 LLM 的靈活性，又保持了傳統模型在特定任務上的效率和精準度優勢。

選型與遷移建議

對於正在評估 AI 系統升級的台灣企業，以下提供一套可自行操作的選型與遷移步驟：

第一步，建立現有 AI 系統的清單和績效評估。列出企業目前運行的所有 AI 系統，評估每個系統的：業務價值貢獻、年度維護成本（包含人工成本）、目前的主要局限性、以及業務對改善的迫切程度。這個盤點作業通常能夠清楚識別出「高維護成本、低業務價值」的老舊系統，以及「有明確升級收益」的優先候選。

第二步，選定試點場景進行 LLM Agent 的效益驗證（POC）。建議選擇一個邊界清晰、有量化成功指標、且對業務影響可控的場景。典型的良好試點場景包括：內部員工的知識問答系統（以現有文件庫為知識來源）、客服問題分類和路由（可與現有系統並行運行進行 A/B 比較）。POC 期間重點評估 LLM 的答案準確率、延遲、成本，以及員工的使用接受度。

第三步，制定分階段的遷移計畫。遷移不需要一步到位，可以採用「增量替換」策略：先讓 LLM Agent 處理傳統 AI 系統無法覆蓋的新需求，逐步擴大 Agent 的覆蓋範圍，最終在成本效益確認後再關閉被替換的傳統模型。對於核心業務系統，並行運行期的長度應由退出條件決定而非由月數決定——建議事先寫下明確的切換門檻，例如：在連續累積一定筆數的真實流量下，關鍵欄位準確率不低於舊系統、P95 延遲在容許範圍內、無重大誤判事故、且人工改判率低於設定值；未達標即延長並行期，達標才切換，並保留可隨時回退到舊系統的機制。若企業要求資料不送往外部雲端，可評估以 QubicX 地端 AI 平台承載模型推論；實際的資料邊界仍須逐一確認 Agent 可呼叫的外部工具、日誌與備份的存放位置。