Documentation Index
Fetch the complete documentation index at: https://docs.bricks.tools/llms.txt
Use this file to discover all available pages before exploring further.
BRICKS Buttress
プレビュー重いモデルを適切なハードウェアで。
BRICKS Buttress は、LLM 推論や音声認識といった計算負荷の高い generator 処理を、BRICKS Foundation デバイスから同じ LAN 上のより高性能なマシンへオフロードするバックエンドサービスです。タブレットやキオスクで大規模モデルがローカル実行できないとき、同じ generator API のまま透過的に Buttress サーバーへ処理を委譲します。
機能
クイックスタート
Buttress を使うべきとき
適している
- • 端末に載せるには大きすぎるモデル
- • 同一 LAN 上の複数デバイスで 1 つのモデルを共有
- • 高速な最初のトークン到達が求められるデバイス
- • バッテリーに敏感なモバイル展開
必要ない
- • 端末上で問題なく動作する小さなモデル
- • LAN に接続できないエアギャップデバイス
- • 単一デバイスのプロトタイプやデモ