vLLM 開源:9.3 萬星高吞吐 LLM 推理引擎
2026-10-08
vLLM 是 GitHub 上累積 9.3 萬顆星標的開源大型語言模型推理與服務引擎,由 UC Berkeley 於 2023 年發起,以 PagedAttention 與連續批次處理提升吞吐量。本文整理其架構、最新 v0.31.0 版本、硬體與模型支援範圍、安裝方式與授權條件。
閱讀 →共 475 篇報道,現顯示第 21–40 篇(第 2 / 24 頁)
2026-10-08
vLLM 是 GitHub 上累積 9.3 萬顆星標的開源大型語言模型推理與服務引擎,由 UC Berkeley 於 2023 年發起,以 PagedAttention 與連續批次處理提升吞吐量。本文整理其架構、最新 v0.31.0 版本、硬體與模型支援範圍、安裝方式與授權條件。
閱讀 →
2026-10-08
Syncthing 是 GitHub 上累積 8.9 萬星標的開源檔案同步工具,以 Go 語言撰寫並採 MPL-2.0 授權,讓多台裝置在沒有中央伺服器的前提下直接點對點同步檔案。本文整理其技術架構、2.x 版本從 LevelDB 轉向 SQLite 的資料庫變革、安裝方式與授權條件,並分析它在雲端硬碟之外的實際定位。
閱讀 →
2026-10-08
Apache Superset 是 GitHub 上累積 7.5 萬顆星標的開源商業智慧與資料視覺化平台,由 Apache 軟體基金會維護。最新版本為 6.1.0。本文整理其架構、SQL 編輯器與語意層能力、支援的資料來源清單、安裝部署方式與授權條件,並分析它適合哪些需要自建報表平台的團隊。
閱讀 →
2026-10-08
Pathway LLM App 是 GitHub 上累積 5.8 萬顆星標的開源專案,提供可直接部署的 RAG 與企業搜尋樣板,讓檢索增強生成系統與 Google Drive、Sharepoint、S3、Kafka 等資料來源保持實時同步。本文整理其模板清單、技術架構、與其他框架的差異、入門方式與授權條件。
閱讀 →
2026-10-08
fzf 是 GitHub 上累積 8.3 萬顆星標的命令列模糊搜尋工具,以 Go 撰寫並採 MIT 授權,能在毫秒內過濾數百萬筆項目。本文整理其搜尋語法、顯示模式、Shell 與編輯器整合方式、0.74 系列的效能與 Vim 外掛改動,以及實際安裝路徑。
閱讀 →
2026-10-08
OpenAI 於 2026 年 10 月 6 日在 GitHub 開源 math 儲存庫,公開 722 篇由內部未發布模型產生的數學手稿與 372 個成果家族,並附上部分 Lean 形式化證明。儲存庫採 Apache 2.0 授權,一日內累積逾七千顆星標,本文整理其內容結構、產生方式與驗證限制。
閱讀 →
2026-10-08
Google 於二零二六年十月七日把 SynthID 檢測網站全面開放,任何人皆可上傳圖片、影片或音訊,檢查內容是否由人工智能生成。該工具此前僅供記者與研究人員試用。SynthID 自二零二三年推出,已內建於 Gemini 與 Veo 等模型,官方稱每日驗證請求達一百萬次,惟偵測並非萬無一失。
閱讀 →
2026-10-08
face_recognition 是 GitHub 上累積 5.7 萬星標的 Python 人臉辨識函式庫,以 dlib 深度學習模型為基礎,在 LFW 基準達到 99.38% 準確率,並提供命令列工具、CPU 多核心平行處理與樹莓派部署路徑,是電腦視覺最常被引用的入門項目之一。本文整理其技術架構、使用方式與生態定位。
閱讀 →
2026-10-08
Google DeepMind 於十月六日發布 EmbeddingGemma 2,一款原生支援文字、圖像、音訊與影片的開源嵌入模型,採 Apache 2.0 授權,具備七億四千萬參數。它建基於 Gemma 4,文字工作負載最低只需二億七千萬參數,並以 Matryoshka 學習把向量截斷至 128 維。
閱讀 →
2026-10-07
Anthropic 於二零二六年十月六日擴大 Claude for Startups 計劃,向合資格初創公司提供免費一年 Claude Team、最多五個高階席次與一千美元 API 額度,並開放 Claude Marketplace 建構權限及線上諮詢時段。申請條件為公司五年內成立或兩年內融資,此舉被視為以補貼換取開發者生態。
閱讀 →
2026-10-07
字節跳動的 DeerFlow 2.0 是完全重寫的開源長程代理框架,累積 83,455 顆星,採 MIT 授權並以 LangGraph 建構。它內建檔案系統、長期記憶、技能、沙箱與子代理,讓代理能連續執行數分鐘至數小時的任務。本文整理其架構演進、部署需求、模型支援與使用方式。
閱讀 →
2026-10-07
public-apis 是 GitHub 上累積 486,557 顆星的免費 API 目錄,自 2016 年起由社群共同維護。專案以 51 個分類收錄 2,037 個公開 API,並於 2026 年 9 月新增 MCP 伺服器專區。本文整理其內容結構、授權條款、社群規模與實際取用時的注意事項。
閱讀 →
2026-10-07
Jellyfin 是 GPL 授權的開源媒體系統,GitHub 累積 57,843 顆星,Docker 映像下載突破 4.29 億次。12.0 版針對資料庫結構、播放清單、字幕與直播電視進行大規模重構,並移除相容舊客戶端的路由前綴。本文整理其架構變更、效能改進與升級注意事項。
閱讀 →
2026-10-07
Mole 是 GitHub 上累積 69,455 顆星的開源 macOS 清理工具,以單一命令列介面整合清理、卸載、最佳化與磁碟分析。V1.58.0 將兩千筆項目的 Gradle 快取清理由 24 秒壓縮至 1 秒以內。本文整理其功能架構、安全機制與與商業工具的差異。
閱讀 →
2026-10-07
Godot Engine 以 118,192 顆星成為 GitHub 上最受歡迎的開源遊戲引擎,採用 MIT 授權、完全免費且不收取營收抽成。4.7.2 穩定版已於 2026 年 8 月發布,貢獻者接近四千人。本文整理其架構特色、與商業引擎的差異、社群規模與實際採用考量。
閱讀 →
2026-10-07
build-your-own-x 由 CodeCrafters 維護,是 GitHub 上星標數最高的學習型清單專案,累積 551,840 顆星。專案依三十個主題分類,收錄從 3D 渲染器、資料庫到程式語言等技術的從零實作教學連結。本文整理其內容結構、社群規模、授權注意事項與使用方式。
閱讀 →
2026-10-07
TikTok 推出對話式 AI 購物助理,能理解情境、記住偏好,即時回答商品規格、物流與尺寸問題;同時在 For You 動態牆加入一鍵結帳,並與 Salesforce、Shopify、Stripe 等平台合作。本文整理功能內容、合作生態與對電商版圖的影響。
閱讀 →
2026-10-07
美國初創 Reflection AI 於二零二六年十月五日發布首個前沿開源權重模型 Beam,總參數五千零一十億、啟用參數二百三十億,上下文視窗達一百萬詞元。該公司宣稱 Beam 在先進推理基準上與智譜 GLM-5.2 看齊,並超越現行西方開源模型,而推理算力僅需對手的三至四分之一,惟效能數據仍待第三方驗證。
閱讀 →
2026-10-07
在 GitHub 累積 56,795 顆星標的 free-claude-code(FCC),以本地代理方式把 59 家供應商、11 款編程代理整合成單一入口,宣稱每月提供超過 13 億免費 Token,並內建配額感知的自動回退與輸出壓縮。本文整理其架構設計、供應商生態、資源消耗與授權風險。
閱讀 →
2026-10-07
法國人工智慧公司 Mistral AI 發布 Mistral Large 4 公開預覽。該模型為一兆參數的原生多模態模型,每次啟用約四百九十億參數,在歐洲自有資料中心以三千八百張 NVIDIA Grace Blackwell 圖形處理器從零訓練。官方稱其效能超越美國與歐洲既有的開源權重模型,權重預計於十月底釋出。
閱讀 →