What is Memary ?
memary 是一個功能強大的Python函式庫,旨在賦予您的AI代理人持久且類似人類的記憶結構,從根本上提升其隨時間推移進行推理和維持語境的能力。它透過整合精密的知識管理和記憶分析模組,解決了大型語言模型 (LLM) 短期語境視窗的核心限制。memary 專為開發和建構進階、個人化且真正具備語境感知能力的AI代理人的開發者和工程師而設計,為建構能夠學習和演進的智慧系統提供了不可或缺的基礎。
主要功能
memary 能與您現有的代理人架構(支援透過Ollama或OpenAI的模型)無縫整合,以提供深度、分析性的記憶能力。
🧠 整合式知識圖譜 (KG) 管理
memary 利用專用的圖形資料庫(例如FalkorDB)來儲存知識,使代理人能夠超越簡單的序列式記憶。它採用一種 遞迴檢索方法,判斷查詢中的關鍵實體,建構局部子圖,並利用該語境生成精確的回應。相較於搜尋整個知識圖譜,這項技術大幅減少了延遲。
📈 雙重記憶模組:串流與儲存
此系統將記憶分為兩個互補的組件,模仿人類的認知功能:
記憶串流: 捕捉所有實體及其時間戳記,提供廣泛的曝光和互動時間軸。這使得時間軸分析能夠追蹤使用者興趣的演變。
實體知識儲存庫: 追蹤實體參考的 頻率和新近程度。透過根據這些因素對實體進行排名,該儲存庫反映了使用者對特定概念的知識深度和熟悉程度,實現高度客製化的回應。
⚙️ 自動記憶生成與系統改進
memary 一旦初始化,便會在代理人互動時自動更新其記憶結構,捕捉所有相關記憶,無需開發人員進一步介入。這種持續演進的回饋循環模仿了人類記憶隨時間學習的方式,為代理人的持續改進提供了明確的途徑。
🧩 靈活的模型與工具支援
開發人員對底層模型保有完全控制權。memary 支援透過Ollama運行的本地模型(建議使用Llama 3, LLaVA)或遠端服務(GPT-3.5-turbo, GPT-4-vision-preview)。此外,您可以輕鬆添加或移除客製化的外部工具(例如, 搜尋、 視覺、 股票)至代理人,以擴展其功能。
👥 多代理人與多圖語境切換
當利用FalkorDB等圖形資料庫時,memary 支援建立和管理 多個獨立的代理人,每個代理人對應一個獨特的知識圖譜ID。這項功能對於需要管理個人化語境的開發者至關重要,允許在不同使用者角色或專案之間無縫切換,同時避免記憶體混淆。
應用案例
memary 專為語境深度、個人化和長期記憶對使用者體驗至關重要的情境而設計。
開發個人化研究助理: 建構一個代理人,它不僅能記住所收集的事實,還能記住使用者特定的研究方法、偏好來源和先前的結論。實體知識儲存庫確保代理人優先處理最近或頻繁參考的主題,為正在進行的專案提供高度相關的語境。
擴展和管理不同的使用者角色: 對於支援多個不同使用者的平台,利用多圖譜功能為每個使用者ID分配獨特的記憶結構。這確保了使用者A的個人偏好、聊天歷史和知識庫與使用者B的完全分離,實現大規模的真正個人化。
增強對話的清晰度和效率: 應用memary的記憶壓縮技術,有效管理LLM的語境視窗。透過總結過去的對話,並在代理人的回應中僅注入 最相關的實體,您可以確保代理人維持長期語境,而不會產生過多的token使用或失去焦點。
為何選擇 memary?
memary 提供了獨特的架構優勢,使其有別於標準的向量資料庫檢索系統,為開發者帶來真正的資訊增益。
透過多跳推理加速檢索: 當複雜查詢涉及多個關鍵實體時,memary 使用 多跳推理 來連接多個相關的子圖。這種智慧遍歷確保代理人能夠快速準確地回答複雜、相互關聯的問題,這是標準單次檢索難以匹敵的能力。
深度語境洞察: 與簡單的聊天歷史儲存不同,memary的記憶模組執行分析功能(時間軸、頻率、新近程度分析)以推斷使用者知識和偏好。這使得代理人能夠更精確地根據使用者的專業水平和當前興趣來調整回應。
專為整合而設計: memary 基於最小實施工作量的原則而建構。它整合到現有的代理人框架中,儘管目前它提供了一個簡單的ReAct代理人實作以供演示,其未來設計重點在於支援任何提供者提供的任何類型代理人。
結論
透過提供一個結構化、分析性和持久性的記憶框架,memary 賦予開發者超越無狀態AI代理人限制的能力。它確保您的應用程式能夠維持深度語境、從互動中學習,並提供個人化、富有洞察力的體驗。
立即探索memary如何將您的AI代理人轉變為真正智能、可靠的合作夥伴。





