標籤: long-context

上海科學智能研究院、復旦大學等單位 10 月 8 日發表 REMORY：agent 壓縮上下文時，除了文字摘要，再由記憶網路產生最多 4,096 個軟 token 附在摘要後面，執行任務的模型保持凍結。整理它的設計、兩階段訓練、SummHay 與四個 agent 基準的結果，以及實驗設定上要留意的地方。