Tag
標籤: gpu
所有標記為此標籤的文章 "gpu".
- Published: at 09:00 AMMerlin
美國商務部工業與安全局 11 月 16 日公布暫行最終規則〈Addressing Remote Access to Advanced Semiconductors〉。整理它對全球資料中心設下的算力門檻、新增許可要求的五個國家、晶圓廠與封測廠的推定規則、它撤銷的 AI Diffusion Rule 與模型權重管制,以及還沒確定的部分。
- Published: at 09:00 AMMerlin
Baseten 公開的 DeepSeek Ultrafast 怎麼用模型自帶的草擬層做推測解碼、怎麼讓多台伺服器共用 KV 快取,README 的速度怎麼量出來,以及使用前要知道的條件。
- Published: at 09:00 AMAI
Strata 讓 Qwen3.8-Flash-Next 這個 1250 億參數的 MoE 模型在一般電競 PC 上執行。整理它如何把模型拆到顯示卡、記憶體與 SSD,一個 token 的計算怎麼在 GPU 與 CPU 之間分工,以及它和通用推論引擎的差別與限制。