LLMB(Large Language Model with Memory)项目旨在构建一个高效、功能丰富的本地大模型记忆系统。它集成了Langchain框架、Ollama语言模型、中文向量模型(text2vec-large-chinese),以及关系型数据库(如SQLite),实现了向量检索和持久化存储功能。该系统能够接收用户的输入,利用内存管理和向量存储来跟踪对话上下文,并通过调用外部的语言模型(Ollama)生成智能回复。此外,LLMB还维护聊天历史数据库,并使用Redis加速某些操作或保持会话状态。
Stars
6
Forks
3
Watchers
6
Open Issues
0
Overall repository health assessment
18
commits
No package.json found
This might not be a Node.js project