OpenAI推出兩款採用MOE架構的開源大型語言模型OSS 120B和OSS 20B，其中OSS 120B雖有120B參數但實際運行只需啟用5.1B，大幅降低了硬體需求！代表從過去動輒兩三百萬的GPU投資，降到只需20-30萬的Mac電腦即可運行。搭配大數軟體的QubicX平台，企業可快速部署AI對話、RAG知識管理、OCR語音轉文字、自動合約生成等應用，且能在本地部署確保資料隱私。這標誌著企業AI私有化時代的來臨，讓中小企業也能以可負擔的成本享受頂尖AI能力，是企業進行AI轉型的最佳時機。
閱讀更多
隨著Llama3、Taide、Mistral、DeepSeek等開源大型語言模型的崛起，AI發展進入新紀元。本文深入探討如何在本地端運行和比較這些熱門開源模型，介紹LM Studio和Ollama等最佳本地運行語言模型解決方案以及適合生產環境的vLLM。透過分析MMLU、ELO評分、中文處理能力、性價比等關鍵指標，本文教你如何挑選合適的開源大型語言模型。文末提出企業擁抱開源AI的策略建議，如善用Llama3、DeepSeek等大模型進行垂直領域微調，打造AI Agent等，助你在開源時代贏得競爭優勢。
閱讀更多
Google 研究員表示「我們沒有護城河，OpenAI 也一樣沒有護城河」，文章中，該研究員表示 Google 和 OpenAI 沒有什麼獨特優勢，開源社區正在快速發展 LLM 模型。Google 應該學習和合作，將小型變體納入考慮，更多關注 LoRA 技術，並讓開源為自己工作。
閱讀更多