Skip to main content
發佈Preview
v2.25.11

Generators

  • ggml-llm — llama.cpp 執行環境更新至 b11385。
  • ggml-decision — 新增支援 Generator Typed Decision (GGML) 的後端。本機函式可呼叫 context.buttress.decide()。請參閱函式。
  • ggml-tts — 模型檔案會並行下載,載入期間被釋放的模型會在載入完成後釋放。OuteTTS 模型會正確朗讀所有縮寫與刪節號,包含 $ 的文字不再改變提示。

Agents

  • MCP 伺服器支援 exposure / tool_exposure(direct 或 hidden)與 timeout。請參閱 agent。
  • 設定 codemode = true 即可讓 agent 執行批次呼叫其工具的指令碼。指令碼預設 5 分鐘後停止,最長 30 分鐘。
發佈Preview
v2.25.10

Generators

  • ggml-llm — llama.cpp 執行環境更新至 b11192。
發佈Preview
v2.25.9

Generators

  • ggml-llm 多 GPU 分配 — split_mode 可選擇模型在多個 GPU 上的分配方式(none、layer、row,以及實驗性的 tensor),tensor_split 則設定各 GPU 的比例,可寫成 [3, 1] 或 "3,1"。兩者皆可在 [runtime] 設定或針對個別模型覆寫,目前僅能在 BRICKS Buttress 中設定。張量平行處理仍為實驗性功能,需要相容的後端與模型。請參閱設定。
  • ggml-stt — 在相容的 Qualcomm Linux arm64 硬體上,Whisper 支援 snapdragon 加速後端。請參閱設定。

修正

  • ggml-llm — 共用 session 快取的 Generator 不再覆寫彼此的紀錄,已儲存的 session 在重新啟動後仍會保留。
  • ggml-llm / ggml-stt — 將 context 釋放延遲設為 0 時會立即生效;載入期間被釋放的 LLM 模型,也會在載入完成後釋放。
發佈Preview
v2.25.8

Agents

  • 本機裝置(實驗性) — 在 agent 上設定 local_devices = true,即可讓它探索網路上的 BRICKS 裝置與專案預覽、擷取螢幕截圖、檢視 Brick 與紀錄、傳送點選、按鍵及文字,並透過 DevTools 執行指令碼。此功能需個別為每個 agent 啟用,必要時會使用裝置憑證。請參閱 agents。

修正

  • MLX 模型 — 卸載後重新載入模型,不再讓釋放請求持續等待,也不會導致新載入的模型無法使用。
發佈Preview
v2.25.6

Agents

  • Agents(實驗性) — 伺服器設定中的 [[agents]] 表格可定義在伺服器內執行的 LLM agent,使用已設定的 ggml 或 mlx generator(model = "buttress/<repo_id>"),或 Anthropic、OpenAI、Google 模型。每個 agent 可帶有 system prompt、作為工具的 local functions、選用的 MCP servers、回合與 token 上限,以及可恢復或分支的磁碟 session。Local functions 與 daemons 以 context.agents.run(name, { prompt, sessionId, fork }) 呼叫;HTTP 則提供 GET /agents、POST /agents/:name/run(?stream=1 為 SSE,會先送出 session id,中斷的第一回合仍可接續),以及 session 列表與中止路由。bricks-buttress agent <name> 會在終端機開啟全螢幕聊天:markdown 回答、串流 thinking、工具呼叫列、/new、/exit,Ctrl+C 中止回合,--plain 供管線使用,並支援 --sessions、--session <id> 與 --fork <id>。請參閱設定。
  • ggml-llm 與 mlx-llm 後端支援 tool calling:OpenAI 相容與 Anthropic Messages 端點回傳結構化的 tool_calls,不再是原始的 <tool_call> 文字。平行呼叫、reasoning 往返與串流中中止皆已驗證,agent 因此能在本機 GGUF 與 MLX 模型上運作。

本機函式

  • 在 bricks buttress bank-key 儲存憑證後,local function 可透過 context.bank.list、get、update 與 remove 讀寫綁定 workspace 的 Data Bank。請參閱本機函式。
  • Daemon local functions — meta.daemon = true 的 function 檔案會以長駐背景 function 執行,沒有期限。它可使用 context.setInterval、透過單一自動重連連線接收 Data Bank 變更通知的 context.bank.subscribe(propertyIds, onChange),以及供 function 對 daemon 傳訊的 context.onEvent 與 context.daemons.emit。Daemon 無法作為 MCP 工具或透過 HTTP 呼叫,檔案編輯時會重新啟動,並在 /status 顯示即時表格。
  • 在派送前 client 已斷線的 local function 呼叫會被略過,不再一路執行副作用直到自己逾時。

修正

  • CORS 依路徑一次決定:瀏覽器帶 JSON body 的 POST /functions/<name> 可通過 preflight,/anthropic-messages 保留 x-api-key 與 anthropic-version 標頭,各介面的 cors_allowed_origins 也確實生效。不再需要關閉 [autodiscover] http.cors 作為權宜之計。
  • 伺服器不再因遲到的原生回呼而結束,包括 client 在串流中途中止 completion 或轉錄(ggml-llm、mlx-llm、onnx-stt),或失敗、剛完成的 onnx-tts 與 onnx-stt 模型載入仍回報下載進度時。
  • 無法解析的 agents_options.session_max_age 會讓啟動失敗,不再無聲地改以 30 天清理 session。
  • Standalone 版本:onnx-tts 與 onnx-stt session 可再次初始化。自 v2.25.5 推論 runtime 更新後,它們會以「A boolean was expected」失敗。已在 Snapdragon 主機驗證 Chatterbox Multilingual。
發佈Preview
v2.25.5

Generator

  • onnx-tts 後端支援 Chatterbox 系列語音模型,包含 Chatterbox Multilingual,Generator TTS (ONNX) 不需下載模型即可卸載合成。請參閱設定。
發佈Preview
v2.25.4

Generator

  • 新增 ggml-tts 後端 — Generator TTS (GGML) 可將合成卸載到 Buttress 伺服器。裝置不需下載主幹或 codec GGUF 即可串流取得音訊,並附能力偵測與記憶體保護,狀態頁面也會顯示新後端。詳見設定。

Models

  • 指定精確 model id 的 generator 會解析到該 model,即使有較寬鬆的相鄰項目也符合。
發佈Preview
v2.25.2

本機函式

  • 打包後的發行版可以正常提供檔案下載 — v2.25.1 中 /functions/files/* 與 /buttress/download 會回應 HTTP 200 與 [object Object]。詳見本機函式。
  • Raw-prompt completion 會回傳實際產生的文字,不再是空字串。

Models

  • GET /v1/models 會列出指定檔案的 generator 其正式 model id,共用同一個 repository 的兩個 generator 因此可以區分,completion 回應的 id 也確實存在於清單中;相容性端點僅接受已設定的 models。詳見設定。

修正

  • 下載憑證不會出現在 log 與錯誤輸出中。
  • 安裝 rollback 失敗時會保留備份,不再將其刪除。詳見安裝。
發佈Preview
v2.25.1

本機函式

  • 本機函式(實驗性) — 放在指定目錄下的 .ts / .js 檔案會同時成為 MCP tools 與 HTTP endpoints,讓 agent 不必另外架設服務就能執行伺服器端工作 — 例如 ffmpeg,或該伺服器自身的 LLM / STT / TTS generator。一個檔案即一個函式,以 JSON Schema 宣告(MCP 會原樣接收),並支援 SSE 進度串流、每次呼叫專屬的暫存目錄(含檔案上傳與下載)、可自訂驗證、可選用 hot reload、可直接複製使用的範例,以及狀態頁上的本機函式活動卡片。
  • 函式也可以用 GET /functions/<name> 以查詢字串為輸入呼叫,讓瀏覽器、EventSource、webhook 或單純的 curl 都能直接使用。
  • 新增 simple-rag 函式範例,所需的向量搜尋支援也一併打包進發行版本。
  • bricks buttress mcp-config 可寫入 agent 所需的 .mcp.json 設定。詳見 BRICKS CLI。

安裝

  • 獨立發行版本 — bricks-buttress 現在提供自帶執行環境的執行檔。安裝程式會偵測主機的 ggml 加速器(CUDA、Vulkan、Snapdragon 或預設),只下載該版本需要的原生套件,並安裝到與 BRICKS CLI 共用的 ~/.bricks-cli/bin;bricks-buttress update 則可就地更新。詳見安裝。

Generator

  • Generator Vector Store — GGML embedding model 與 tokenizer 現在可交由 BRICKS Buttress 執行,裝置不需下載任何一個 GGUF 也能建立索引與搜尋文件。詳見 BRICKS Foundation。

修正

  • Session 上傳會取得唯一的儲存檔名,同一 session 內上傳的兩個檔案不會互相覆蓋。
  • LLM、STT 與 ONNX 後端的模型下載會限制在伺服器的快取目錄內。
  • Generator 結束流程改為依 session 授權並正確計數,同一 session 啟動同一個模型兩次時能完整釋放。
發佈Preview
v2.25.0

後端

  • ONNX 後端 — Generator STT 與 TTS 的工作負載現在可經由 transformers.js 與 ONNX Runtime 交由 BRICKS Buttress 執行,並支援 CUDA、CoreML、DirectML 與 CPU 的自動硬體偵測,以及依記憶體狀況挑選模型。詳見設定。
  • Parakeet 引擎 — GGML STT 後端現在同時支援 Whisper 與 NVIDIA Parakeet,並會宣告自身支援的引擎,讓舊版用戶端能安全回退。

自動探索

  • Web 區域網路自動探索 — Web 與虛擬裝置可透過帶簽章的 HTTP 探測,找到區域網路上的 BRICKS Buttress 並將推論轉移過去,由新的裝置層級 Local Network Access 設定控制。詳見自動探索。
發佈Preview
v2.24.6

Generators

  • Generator STT (GGML) — Buttress 載入時會正確套用 GPU/flash-attention/thread 設定。
  • Generator LLM (MLX) — Buttress 會在有設定時轉送 tokenizer 與 model config overrides。
發佈Preview
v2.24.5

WebSocket RPC

  • 二進位 payload 序列化 — ArrayBuffer 型別 payload(如來自 RealtimeTranscriber)與二進位驗證 token 改以 Uint8Array/Buffer 正確序列化與反序列化,解決先前 transcribeData 等二進位呼叫的 Invalid params 錯誤。
  • 正確的 Error 物件 — JSON-RPC 錯誤回應改以帶有伺服器 code/message 的 Error 實例呈現給呼叫端,修正先前 Transcription error: [object Object] 之類的通知。

CLI

  • buttress-server --version 會顯示獨立 CLI 的封裝版本。

Generator

  • Generator LLM (GGML) — 升級 llama.cpp 至 b9254,並新增 MTP(multi-token prediction)推測解碼參數。
發佈Preview
v2.24.4

Session

  • WebSocket Session 恢復 — 透過 Proxy/Tunnel 重連時保留 Session:伺服器在 WS 交握時發出 sessionId,用戶端重連時以該 id 還原 Session,取代先前的 IP 比對。

檔案上傳

  • Session 範圍 — 檔案上傳/下載改以目前 Session 為範圍(必須帶 X-Buttress-Sess-Id header)。上傳檔案落在以 sessionId 命名的子目錄,Session 逾時時一併清除。
發佈Preview
v2.24.3

認證

  • 工作區範圍 JWT 認證 — 每台 Buttress 伺服器皆透過 bricks buttress bind 綁定至工作區,並以 EdDSA 驗證 token;/buttress/rpc、/oai-compat、/anthropic-messages 與檔案上傳/下載端點現在都需要驗證。詳見工作區綁定。

探索

  • LAN 自動探索 — Launcher 從多伺服器池(90 秒 TTL,依硬體規格排序)中挑選,且只信任工作區綁定列表中的伺服器。詳見自動探索。
  • 簽署 UDP ANNOUNCE — 每台伺服器以 Ed25519 簽署,防止 LAN 上的 spoof 攻擊;PROTOCOL_VERSION 升至 2.0,升級後請重新執行 bricks buttress bind 並重新啟動伺服器。

相容端點

  • 新增 TOML 設定旗標 [openai_compat] enabled 與 [anthropic_messages] enabled 以啟用實驗性相容端點。詳見組態。