OpenAI推出兩款採用MOE架構的開源大型語言模型OSS 120B和OSS 20B，其中OSS 120B雖有120B參數但實際運行只需啟用5.1B，大幅降低了硬體需求！代表從過去動輒兩三百萬的GPU投資，降到只需20-30萬的Mac電腦即可運行。搭配大數軟體的QubicX平台，企業可快速部署AI對話、RAG知識管理、OCR語音轉文字、自動合約生成等應用，且能在本地部署確保資料隱私。這標誌著企業AI私有化時代的來臨，讓中小企業也能以可負擔的成本享受頂尖AI能力，是企業進行AI轉型的最佳時機。
閱讀更多
開源 LLM 怎麼選？比較 Llama 3、DeepSeek、Taide、Mistral 等開源大型語言模型的能力與授權，介紹 LM Studio、Ollama 本地運行方案與生產環境的 vLLM 部署，幫企業建立自主可控的 AI 競爭優勢。
閱讀更多
ASR（自動語音辨識）是什麼？解析語音轉文字背後的技術原理與深度學習模型演進，以及會議逐字稿、影片字幕、客服對話分析等實際應用，帶你掌握 AI 時代最重要的語音技術。
閱讀更多
ChatGPT 的問世，讓我們深感人工智慧的奇點已經逼近！除了每個人都應該將 ChatGPT 融入日常生活和工作中外，企業更應早日領悟人工智慧所帶來的巨大變革，將其應用融入企業運營流程，甚至創造全新的人工智慧產品，以避免被人工智慧時代的變革淘汰。 企業應用 ChatGPT 的解決方案包含自行訓練一個大型語言模型，這需要龐大的資金、計算能力和專業人才，對大多數中小型企業來說並不適合。 然而，中小企業同樣可以通過詞嵌入或微調的方式，利用公司內部知識庫來拓展 ChatGPT 的能力，提升其問答水準，避免因人工智慧無法理解企業專業術語或內部流程而引發的問題。當然，無論是自建、詞嵌入或微調，企業仍需投入適量的人力資源，才能不斷調整和優化模型，確保模型達到預期效果。
閱讀更多