標籤: memory

Stanford 主導的 Memorilla 讓記憶模組每次讀過整個向量庫，把問題需要的資訊寫成 16 個記憶 token，放進凍結 LLM 的輸入嵌入空間。整理它的運作方式、在作者八項評測上的成績、和 RAG 互補的地方，以及需要開放權重、每個 LLM 各訓練一個記憶模組的限制。