傳統 AI 系統的能力與限制

「傳統 AI」是一個涵蓋範圍廣泛的概念，泛指 2020 年以前主導企業 AI 應用的技術體系，主要包括：基於規則的專家系統（Rule-based Expert Systems）、機器學習分類模型（如 SVM、隨機森林、XGBoost）、深度學習專用模型（影像辨識 CNN、語音辨識 RNN、自然語言處理 BERT 系列），以及傳統的統計分析模型。這些技術在各自的專業領域表現出色，並在全球企業中創造了可觀的商業價值。

傳統 AI 的核心設計哲學是「窄域最優化」（Narrow Optimization）：針對一個明確定義的任務，在大量標記資料上訓練出的模型，能夠在該特定任務上達到甚至超越人類水準的表現。例如，訓練良好的影像辨識模型在產品瑕疵偵測上能達到 99% 以上的準確率；專為特定語言設計的情感分析模型（如 LargitData InfoMiner 採用的繁體中文輿情模型）在分析品牌相關的社群媒體情緒上，能夠準確捕捉台灣特有的語言習慣和網路用語。

然而，傳統 AI 的局限性也十分明顯。第一是「任務固定性」：傳統 AI 模型是為特定任務訓練的，輸入和輸出格式通常固定，無法處理超出訓練範疇的新任務，也無法根據使用者的自然語言描述靈活調整行為。第二是「資料饑渴性」：訓練傳統 AI 模型需要大量高品質的標記資料，這在許多企業場景中是巨大的瓶頸——收集、清洗、標記資料的成本和時間往往是整個 AI 專案中最昂貴的部分。第三是「碎片化問題」：企業通常需要為不同任務部署多個不同的 AI 模型，形成難以管理的「AI 孤島」，系統整合和維護成本居高不下。

LLM Agent 的技術突破

大型語言模型（LLM）的出現，從根本上改變了 AI 的設計範式。LLM 是在數萬億個 Token 的文字資料上訓練出的超大規模神經網路，其訓練過程本質上是在學習人類知識的整體結構，而非針對特定任務的模式識別。這種「通用先驗知識」（General Prior Knowledge）使 LLM 具備了傳統 AI 無法企及的幾個關鍵能力。

零樣本和少樣本學習（Zero-shot / Few-shot Learning）是 LLM 最顛覆性的能力之一。傳統 AI 需要數千甚至數萬筆標記資料才能訓練出有效的模型；LLM 在只給出幾個例子（Few-shot）甚至不給任何例子（Zero-shot）的情況下，就能處理全新的任務。這意味著企業推出一個新業務流程的 AI 輔助功能，不需要等待幾個月的資料蒐集和模型訓練週期，可以在數天內驗證可行性。

指令跟隨（Instruction Following）與通用推理（General Reasoning）是 LLM 的另一大突破。使用者可以用自然語言向 LLM 下達複雜的多步驟指令，LLM 能夠理解指令的意圖、推理出執行步驟、並生成相應的輸出。這種靈活性使 LLM 能夠被快速應用於新場景，而無需重新設計整個 AI 系統架構。當 LLM 進一步與工具調用、記憶系統、工作流程引擎整合，就形成了能夠自主完成複雜任務的 AI Agent。

決策推理能力的本質差異

傳統 AI 與 LLM Agent 在決策推理能力上的差異，可以透過一個具體場景來說明。假設企業需要系統回答這個問題：「這張客戶投訴信的情緒如何，投訴的核心問題是什麼，應該轉給哪個部門處理，優先級是什麼？」

傳統 AI 的解決方案需要串聯多個獨立模型：情感分析模型（判斷正負面情緒）、文本分類模型（識別投訴類別）、路由規則引擎（根據分類結果決定轉發部門）、優先級評分模型（根據情感強度和類別計算優先級）。這個多模型串聯架構的維護成本高，任何一個環節的模型更新都可能影響整體表現，而且難以處理跨越多個類別的複雜投訴。

LLM Agent 可以透過一個設計良好的提示詞（Prompt）一次性完成上述所有分析，並以結構化 JSON 格式輸出所有決策結果。更重要的是，LLM 能夠理解投訴信的深層語境、捕捉行間暗示的情緒，以及在投訴涉及多個問題時做出綜合判斷——這些都是傳統分類模型難以勝任的能力邊界。

企業 AI 升級的時機判斷

並非所有的傳統 AI 系統都需要升級至 LLM Agent。關鍵是識別哪些場景的「痛點」能夠透過 LLM 的能力突破解決，以及升級的成本是否低於持續維護和局限帶來的損失。以下是幾個建議升級的明確訊號：

• 現有 AI 系統的訓練資料收集和標記成本佔整體維護成本的 40% 以上，且需要不斷更新。
• 業務流程中存在大量「例外情況」，現有規則引擎和模型無法妥善處理，持續需要人工介入。
• 需要同時維護超過 10 個各自獨立的 AI 模型，整合和維護成本難以控制。
• 業務需求快速變化，現有 AI 系統的更新週期（資料收集-標記-訓練-部署）跟不上業務節奏。
• 客戶或員工需要以自然語言與 AI 系統互動，但現有系統只支援結構化輸入格式。

相對地，以下場景的傳統 AI 系統通常不需要急於升級：高精準度要求的影像辨識（如瑕疵偵測）、對延遲極度敏感的即時預測（如股票交易訊號）、訓練資料充足且任務高度穩定的分類問題、以及部署環境對計算資源有嚴格限制的邊緣裝置場景。

新舊 AI 系統的協作架構

最有效的企業 AI 升級策略通常不是「全面替換」，而是建構一個新舊 AI 系統協作的分層架構。在這個架構中，傳統 AI 模型繼續負責它們最擅長的「窄域高精準任務」，而 LLM Agent 負責「理解、協調和決策」，兩者各司其職、互補不足。

以輿情分析系統為例：傳統的情感分析模型（如 InfoMiner 使用的繁體中文情感模型）在大量社群媒體文章的情緒分類上速度快、成本低、且在台灣語言習慣上已有深度優化；LLM Agent 則在高層次的分析任務上發揮優勢——例如識別多篇文章之間的議題關聯、生成品牌危機的應對策略建議、或撰寫給管理層的輿情洞察報告。這種「傳統 AI 做分類、LLM 做分析」的分工架構，既保留了傳統模型的效率優勢，又充分利用了 LLM 的推理能力。

在技術架構上，可以透過 AI Orchestration Layer（AI 協調層）將傳統 AI 模型的輸出結果作為 LLM Agent 的工具呼叫回應。例如，LLM Agent 呼叫「情感分析工具」，背後實際執行的是輕量的傳統情感分類模型，返回結果後由 LLM 進行高層次的解讀和決策。這種設計既達到了 LLM 的靈活性，又保持了傳統模型在特定任務上的效率和精準度優勢。

選型與遷移建議

對於正在評估 AI 系統升級的台灣企業，LargitData 根據服務客戶的實戰經驗，提供以下選型與遷移建議：

第一步，建立現有 AI 系統的清單和績效評估。列出企業目前運行的所有 AI 系統，評估每個系統的：業務價值貢獻、年度維護成本（包含人工成本）、目前的主要局限性、以及業務對改善的迫切程度。這個盤點作業通常能夠清楚識別出「高維護成本、低業務價值」的老舊系統，以及「有明確升級收益」的優先候選。

第二步，選定試點場景進行 LLM Agent 的效益驗證（POC）。建議選擇一個邊界清晰、有量化成功指標、且對業務影響可控的場景。典型的良好試點場景包括：內部員工的知識問答系統（以現有文件庫為知識來源）、客服問題分類和路由（可與現有系統並行運行進行 A/B 比較）。POC 期間重點評估 LLM 的答案準確率、延遲、成本，以及員工的使用接受度。

第三步，制定分階段的遷移計畫。遷移不需要一步到位，可以採用「增量替換」策略：先讓 LLM Agent 處理傳統 AI 系統無法覆蓋的新需求，逐步擴大 Agent 的覆蓋範圍，最終在成本效益確認後再關閉被替換的傳統模型。對於核心業務系統，建議至少保留 3 個月的並行運行期，確認 LLM Agent 的穩定性和準確率達標後再完成切換。QubicX 地端 AI 平台能夠讓企業在不傳送資料至外部雲端的前提下完成這整個遷移過程。