Tag
標籤: quantization
所有標記為此標籤的文章 "quantization".
- Published: at 10:00 AMAI
Tiger Data(Timescale)的 PostgreSQL 擴充套件 pg_vectorsearch 提供新的索引方法 prism,可以直接建在 pgvector 既有的欄位上。整理它的階層式 centroid 路由、RaBitQ 誤差上界兩階段篩選、VPSHUFB fastscan 頁面,以及 alpha 版本的限制。
- Published: at 09:00 AMAI
Princeton Dao AI Lab 與 NVIDIA 發表 ReplaySSM,把 SSM 層的遞迴狀態改存成「檢查點加上近期輸入緩衝」,多數解碼步不再寫回狀態。整理它怎麼減少記憶體流量、讓推測解碼的回滾只需移動指標,以及怎麼讓低精度狀態的捨入誤差不再累積。