Generators
- Generator STT (GGML) — Buttress 載入時會正確套用 GPU/flash-attention/thread 設定。
- Generator LLM (MLX) — Buttress 會在有設定時轉送 tokenizer 與 model config overrides。
WebSocket RPC
- 二進位 payload 序列化 —
ArrayBuffer型別 payload(如來自 RealtimeTranscriber)與二進位驗證 token 改以Uint8Array/Buffer正確序列化與反序列化,解決先前transcribeData等二進位呼叫的Invalid params錯誤。 - 正確的 Error 物件 — JSON-RPC 錯誤回應改以帶有伺服器
code/message的Error實例呈現給呼叫端,修正先前Transcription error: [object Object]之類的通知。
CLI
buttress-server --version會顯示獨立 CLI 的封裝版本。
Generator
- Generator LLM (GGML) — 升級
llama.cpp至 b9254,並新增 MTP(multi-token prediction)推測解碼參數。
認證
- 工作區範圍 JWT 認證 — 每台 Buttress 伺服器皆透過
bricks buttress bind綁定至工作區,並以 EdDSA 驗證 token;/buttress/rpc、/oai-compat、/anthropic-messages與檔案上傳/下載端點現在都需要驗證。詳見工作區綁定。
探索
- LAN 自動探索 — Launcher 從多伺服器池(90 秒 TTL,依硬體規格排序)中挑選,且只信任工作區綁定列表中的伺服器。詳見自動探索。
- 簽署 UDP ANNOUNCE — 每台伺服器以 Ed25519 簽署,防止 LAN 上的 spoof 攻擊;
PROTOCOL_VERSION升至 2.0,升級後請重新執行bricks buttress bind並重新啟動伺服器。
相容端點
- 新增 TOML 設定旗標
[openai_compat] enabled與[anthropic_messages] enabled以啟用實驗性相容端點。詳見組態。