跳到作品內容
AI 工具 · 開源作品

slotstream

Run a 105 GB AI model on a Mac that can't hold it. Slotstream streams Qwen3.8-Flash-Next (125B mixture of experts) from your SSD and caches the busiest experts in memory, so it ru…

依公開專案資料與收錄備註整理;詳細使用方式請參閱原專案 README。

專案介紹

Run a 105 GB AI model on a Mac that can't hold it. Slotstream streams Qwen3.8-Flash-Next (125B mixture of experts) from your SSD and caches the busiest experts in memory, so it runs on Macs with 16 to 64 GB. One native Swift binary on MLX and Metal, no Python, offline. Works with Claude Code, Codex and Ollama or OpenAI clients.

來源:carloslfu/slotstream 的 GitHub 公開資料與平台收錄備註。

專案資訊

原作者
carloslfu
主要語言
Swift
GitHub 星數
455(不是銷量)
Fork 數
35
最近更新
資料查核

採用前先確認

這是公開專案資料整理,尚未經平台原始碼或專家審查。請在 GitHub 閱讀最新 README、授權範圍、安裝條件與支援方式,再決定是否採用。