Letta是一个开源框架,专注于构建具有高级推理能力和透明长期记忆的有状态大型语言模型(LLM)应用。它由加州大学伯克利分校的Sky Computing Lab孵化,由博士生Sarah Wooders和Charles Packer创立。Letta的前身是MemGPT,该项目在发布前便因热度而被广泛关注。Letta旨在解决大语言模型(LLM)在多轮对话和文档分析中的上下文窗口限制问题,通过虚拟上下文管理,使模型能够记住并学习,即使在上下文窗口填满后也不遗忘。
Letta开源项目官网入口网址:https://github.com/letta-ai/letta

核心亮点:
- 状态化记忆:支持分层记忆块,Agent 可以修改、删除、检索自己的记忆
- 多 Agent 协作:不同 Agent 能共享记忆块,形成复杂的协作网络
- 背景代理:提供 sleep-time agent,在后台自动维护和更新记忆
- 文件系统接入:可直接访问外部文件夹,处理 PDF、TXT、JSON 等资料
- 模型兼容性强:支持 OpenAI、Anthropic、Ollama 以及本地模型,随时切换
- 部署灵活:既有 Cloud 服务,也能本地自托管,还提供桌面版 UI
Letta是一个开源框架,支持多种部署环境,包括Docker和pip安装,推荐使用Docker进行生产环境部署。它提供CLI工具、API服务器、ADE(代理开发环境)等,支持用户创建、部署和管理代理。Letta支持多种模型提供商,如OpenAI、Anthropic等,并且支持多种数据库后端,如PostgreSQL。
Letta强调开源和透明性,鼓励社区参与和贡献,提供多种贡献途径,包括提问、报告问题、探索路线图及参加社区活动。Letta还获得了1000万美元的种子投资,估值达7000万美元,投资方包括Felicis、Jeff Dean、Hugging Face等知名投资人。
Letta的愿景是推动AI记忆管理的发展,使代理记忆和推理透明化,构建开放平台,使开发者能够透明、可控地开发状态化AI应用。
相关导航
暂无评论...