
🗨️ LLM 应用中的消息管理
在大模型(LLM)应用开发中,对话是最核心的交互方式,而消息管理则是实现高效对话的关键。本文系统梳理了 LLM 中常见的消息类型(System、User、Assistant、Tool)及其作用机制,深入分析了短期记忆与长期记忆的差异,并对比了四种典型的消息管理方案:完整保留、抽象化存储、分层存储、知识库化。通过客服机器人与金融投顾两类实际场景案例,文章探讨了不同方案的优劣与适用场景,帮助开发者在 Token 成本、上下文管理和可追溯性之间做出平衡。
在大模型(LLM)应用开发中,对话是最核心的交互方式,而消息管理则是实现高效对话的关键。本文系统梳理了 LLM 中常见的消息类型(System、User、Assistant、Tool)及其作用机制,深入分析了短期记忆与长期记忆的差异,并对比了四种典型的消息管理方案:完整保留、抽象化存储、分层存储、知识库化。通过客服机器人与金融投顾两类实际场景案例,文章探讨了不同方案的优劣与适用场景,帮助开发者在 Token 成本、上下文管理和可追溯性之间做出平衡。
本文是 《LangGraph入门全解》系列的第四篇。在这篇文章中,我们暂时移除了搜索能力,为chat bot增加向用户求助的能力,也就是人机协同,这在实际开发中非常的有用。LangGraph人机交互, Human-in-the-loop, LangGraph interrupt, AI人工干预
本文是 《LangGraph入门全解》系列的第二篇。在这篇文章中,我们为聊天机器人增加搜索工具,分别展示使用langchain的自定义工具和构建MCP Server方式。LangGraph调用工具, LangGraph ToolNode, LangGraph自定义工具, LangGraph MCP
本文是 《LangGraph入门全解》系列的第三篇。在这篇文章中,我们为聊天机器人增加长短期记忆能力,并使用redis持久化记忆。以及使用Mem0为chat bot增加用户级别的记忆。LangGraph记忆, LangGraph Checkpoint, LangGraph Redis记忆, LangGraph Mem0
本文是 《LangGraph入门全解》系列的第一篇。在这篇文章中,我们将基于LangGraph构建一个聊天机器人。并学习查看Graph的图结构。如果出你是新手,建议先阅读主指南以了解LangGraph的全貌。LangGraph入门, LangGraph教程, LangGraph聊天机器人, StateGraph使用
这是一篇LangGraph终极入门指南,从核心概念、工具调用、记忆管理,到高级的多智能体协作与实战项目,带你全面掌握新一代AI Agent开发框架。LangGraph, LangGraph教程, LangGraph指南, AI Agent框架
本文是 《LangGraph入门全解》系列的第五篇。多智能体协作是现在一个非常热门的研究领域,对于复杂问题,将问题拆解,然后使用领域Agent,能够以更高的效率和质量完成复杂任务。LangGraph多智能体, LangGraph子图, Multi-Agent, Supervisor架构
本文是 《LangGraph入门全解》系列的第六篇,也是最后一篇。今年Agent爆发,Gemini,ChatGPT等都推出了自己的深度研究功能,本篇我们使用LangGraph复现DeepResearch,也许完成度没那么高,但是功能是全的。LangGraph项目, LangGraph实战, DeepResearch Agent, 自动化研究
本文深度探讨了28种前沿的检索增强生成(RAG)技术,从基础RAG流程到幻觉检查、文本分块优化、查询增强、上下文管理,再到高级检索范式(如Agentic RAG和Graph RAG)。通过详细阐述每种方法的流程图、关键步骤、示例Prompt,旨在为RAG系统开发者和研究者提供全面的技术选型指南与优化思路,助力构建更智能、更精准、更可靠的AI问答系统。RAG优化、检索增强生成、LLM幻觉、文本分块、向量数据库、Prompt工程、查询重写、上下文管理、语义分块、混合检索、重排名、Agentic RAG、Graph RAG、知识图谱、AI问答系统、自然语言处理、大语言模型、信息检索、深度学习、AI应用开发、人工智能技术、可解释AI、智能系统。