# Wiley Blog | AI/LLM developer blog ## 介绍(Introduction) 一个专注于人工智能、大型语言模型开发和前沿技术见解的技术博客。分享在人工智能和大型语言模型方面的实践经验和深入分析。涉及的技术栈包括,LangGraph,RAG,Agent,MCP,Python,NextJS,LLM等。 每个条目的链接均为该内容的完整 Markdown 文档(含 frontmatter 元数据与 JSON-LD 结构化数据),可直接抓取使用;括注的 HTML 链接是对应的网页版本。 ## 文章(Posts) - [从ReAct Agent到Harness Agent](https://wileyzhang.com/posts/react-agent-harness-agent.md): 从ReAct Agent演进到Harness Agent,作者用个人到企业的变迁,类比Agent的发展,认为Harness Agent的诞生就是为了像企业一样完成复杂任务。并介绍了实现最小Harness Agent的方案。(HTML: https://wileyzhang.com/posts/react-agent-harness-agent) - [RAG评估的核心问题](https://wileyzhang.com/posts/rag.md): RAG(检索增强生成)系统的核心在于“先检索,再生成”,其质量取决于检索的相关性、排序的合理性和生成的可信度。Dingo框架提供三种评估方式:基于规则的校验、基于大模型的语义评估和基于本地模型的推理评估。评估指标包括答案忠实度、答案相关性、上下文相关性、上下文召回和上下文精度。推荐使用真实用户数据生成评估集,以提高评估的可信度和质量。持续评估和优化是RAG系统成功的关键。(HTML: https://wileyzhang.com/posts/rag) - [LLM 应用中的消息管理](https://wileyzhang.com/posts/llm.md): 在大模型(LLM)应用开发中,对话是最核心的交互方式,而消息管理则是实现高效对话的关键。本文系统梳理了 LLM 中常见的消息类型(System、User、Assistant、Tool)及其作用机制,深入分析了短期记忆与长期记忆的差异,并对比了四种典型的消息管理方案:完整保留、抽象化存储、分层存储、知识库化。通过客服机器人与金融投顾两类实际场景案例,文章探讨了不同方案的优劣与适用场景,帮助开发者在 Token 成本、上下文管理和可追溯性之间做出平衡。(HTML: https://wileyzhang.com/posts/llm) - [LangGraph介绍](https://wileyzhang.com/posts/langgraph.md): 这是一篇LangGraph终极入门指南,从核心概念、工具调用、记忆管理,到高级的多智能体协作与实战项目,带你全面掌握新一代AI Agent开发框架。LangGraph, LangGraph教程, LangGraph指南, AI Agent框架(HTML: https://wileyzhang.com/posts/langgraph) - [LangGraph进阶:构建多智能体协作系统(Supervisor架构与子图实战)](https://wileyzhang.com/posts/langgraph-supervisor.md): 本文是 《LangGraph入门全解》系列的第五篇。多智能体协作是现在一个非常热门的研究领域,对于复杂问题,将问题拆解,然后使用领域Agent,能够以更高的效率和质量完成复杂任务。LangGraph多智能体, LangGraph子图, Multi-Agent, Supervisor架构(HTML: https://wileyzhang.com/posts/langgraph-supervisor) - [LangGraph教程(四):实现人机协同(Human-in-the-loop)的关键技巧](https://wileyzhang.com/posts/langgraph-human-in-the-loop.md): 本文是 《LangGraph入门全解》系列的第四篇。在这篇文章中,我们暂时移除了搜索能力,为chat bot增加向用户求助的能力,也就是人机协同,这在实际开发中非常的有用。LangGraph人机交互, Human-in-the-loop, LangGraph interrupt, AI人工干预(HTML: https://wileyzhang.com/posts/langgraph-human-in-the-loop) - [LangGraph实战项目:从零复现DeepResearch自动化研究代](https://wileyzhang.com/posts/langgraph-deepresearch.md): 本文是 《LangGraph入门全解》系列的第六篇,也是最后一篇。今年Agent爆发,Gemini,ChatGPT等都推出了自己的深度研究功能,本篇我们使用LangGraph复现DeepResearch,也许完成度没那么高,但是功能是全的。LangGraph项目, LangGraph实战, DeepResearch Agent, 自动化研究(HTML: https://wileyzhang.com/posts/langgraph-deepresearch) - [LangGraph教程(一):从零开始构建你的第一个AI聊天机器人](https://wileyzhang.com/posts/langgraph-ai.md): 本文是 《LangGraph入门全解》系列的第一篇。在这篇文章中,我们将基于LangGraph构建一个聊天机器人。并学习查看Graph的图结构。如果出你是新手,建议先阅读主指南以了解LangGraph的全貌。LangGraph入门, LangGraph教程, LangGraph聊天机器人, StateGraph使用(HTML: https://wileyzhang.com/posts/langgraph-ai) - [LangGraph教程(二):掌握Agent核心能力-工具调用(自定义、预构建与MCP)](https://wileyzhang.com/posts/langgraph-agent-mcp.md): 本文是 《LangGraph入门全解》系列的第二篇。在这篇文章中,我们为聊天机器人增加搜索工具,分别展示使用langchain的自定义工具和构建MCP Server方式。LangGraph调用工具, LangGraph ToolNode, LangGraph自定义工具, LangGraph MCP(HTML: https://wileyzhang.com/posts/langgraph-agent-mcp) - [LangGraph教程(三):为你的Agent添加记忆(Checkpoint持久化与Mem0)](https://wileyzhang.com/posts/langgraph-agent-checkpoint-mem0.md): 本文是 《LangGraph入门全解》系列的第三篇。在这篇文章中,我们为聊天机器人增加长短期记忆能力,并使用redis持久化记忆。以及使用Mem0为chat bot增加用户级别的记忆。LangGraph记忆, LangGraph Checkpoint, LangGraph Redis记忆, LangGraph Mem0(HTML: https://wileyzhang.com/posts/langgraph-agent-checkpoint-mem0) - [RAG的28种优化技术](https://wileyzhang.com/posts/rag-28.md): 本文深度探讨了28种前沿的检索增强生成(RAG)技术,从基础RAG流程到幻觉检查、文本分块优化、查询增强、上下文管理,再到高级检索范式(如Agentic RAG和Graph RAG)。通过详细阐述每种方法的流程图、关键步骤、示例Prompt,旨在为RAG系统开发者和研究者提供全面的技术选型指南与优化思路,助力构建更智能、更精准、更可靠的AI问答系统。RAG优化、检索增强生成、LLM幻觉、文本分块、向量数据库、Prompt工程、查询重写、上下文管理、语义分块、混合检索、重排名、Agentic RAG、Graph RAG、知识图谱、AI问答系统、自然语言处理、大语言模型、信息检索、深度学习、AI应用开发、人工智能技术、可解释AI、智能系统。(HTML: https://wileyzhang.com/posts/rag-28) - [使用LLaMA-Factory微调Qwen3](https://wileyzhang.com/posts/llama-factory-qwen3.md): 本文从为什么需要微调开始,详细介绍了微调的作用、工具,数据集的构建、工具,数据集增强,实际微调步骤,微调参数配置。并使用gpt4o生成相关讲解图片。(HTML: https://wileyzhang.com/posts/llama-factory-qwen3) - [编写支持VLLM部署Qwen3-32B的MCP Cleint/Server](https://wileyzhang.com/posts/vllm-qwen3-32b-mcp-cleint-server.md): 本文详细介绍了MCP Server与MCP Client的开发并给出了示例代码,支持将MCP tool转换为OpenAI tool,使其支持了使用VLLM部署的本地大模型Qwen3-32B。并进行了简单的测试验证,完整的完成了数据库查询,文件写入等MCP tool的调用。(HTML: https://wileyzhang.com/posts/vllm-qwen3-32b-mcp-cleint-server) - [LLM部署](https://wileyzhang.com/posts/llm-rerank-embedding-delpoy.md): null(HTML: https://wileyzhang.com/posts/llm-rerank-embedding-delpoy) - [通往AGI-结构化输出(Structured Outputs)](https://wileyzhang.com/posts/agi-structured-outputs.md): 本文主要介绍结构化输出以及Function call的重要性,并介绍其开源实现。(HTML: https://wileyzhang.com/posts/agi-structured-outputs) - [向量数据库Milvus混合检索](https://wileyzhang.com/posts/milvus.md): 介绍Milvus的使用,以及混合检索示例代码(HTML: https://wileyzhang.com/posts/milvus) - [模型部署](https://wileyzhang.com/posts/llm-deploy-bak.md): null(HTML: https://wileyzhang.com/posts/llm-deploy-bak) - [LangGraph实战 子图、流响应](https://wileyzhang.com/posts/langgraph-subgraph.md): 记录Langgraph使用过程中遇到的问题以及解决方法(HTML: https://wileyzhang.com/posts/langgraph-subgraph) - [向量检索Chroma使用和服务端docker部署](https://wileyzhang.com/posts/chroma-docker.md): 介绍向量检索数据库Chroma的服务端Docker部署,以及客户端基本的使用(HTML: https://wileyzhang.com/posts/chroma-docker) - [使用DSPy 自动优化Prompt](https://wileyzhang.com/posts/dspy-prompt.md): null(HTML: https://wileyzhang.com/posts/dspy-prompt) - [如何选择大模型(榜单+指标)](https://wileyzhang.com/posts/llm-leaderboard.md): 在选择大模型之前,需要明确自己对语言、通识、推理、数学、代码、长文本和工具等七大能力的偏好。评测指标包括MMLU、C Eval、ARC-C、BBH、GSM8K、MBPP、Human Eval、L-Eval和T-Eval。常用榜单包括OpenCompass司南榜单、Huggingface榜单和MTEB榜单。(HTML: https://wileyzhang.com/posts/llm-leaderboard) - [LLM部署(docker+vllm+embedding+rerank) 支持工具调用](https://wileyzhang.com/posts/llm-docker-vllm-embedding-rerank.md): 该文档介绍了关于LLM模型部署的内容,包括模型选择、模型下载、模型部署方案以及模型使用和加速方法。推荐的部署方案是使用docker部署,同时提供了本地环境部署的方法。模型加速方面介绍了vllm和flash-attention两种方法。embdding模型,rerank模型(HTML: https://wileyzhang.com/posts/llm-docker-vllm-embedding-rerank) - [Prompt编写](https://wileyzhang.com/posts/prompt.md): 该文档是关于Prompt编写指南的,介绍了26种技巧与效果,以及进阶的CoT、类推提示法、PoT、ToT和GoT等方法,用于提升大模型的推理能力。(HTML: https://wileyzhang.com/posts/prompt) - [修改FastChat使支持工具调用(LangGraph适配FastChat)](https://wileyzhang.com/posts/fastchat-langgraph-fastchat.md): 本文介绍了如何修改FastChat以支持工具调用和LangGraph适配FastChat的问题。针对with_structured_output方法返回None的问题,提供了两种解决方案:使用chain替换该方法或继承ChatOpenAI并重写该方法。对于LangGraph的create_react_agent不能调用工具的问题,也提供了两种解决方案:修改FastChat接口以支持tools参数或替换create_react_agent方法。(HTML: https://wileyzhang.com/posts/fastchat-langgraph-fastchat) - [AI开发基础资料和相关技术介绍](https://wileyzhang.com/posts/ai.md): 这篇文章介绍了关于AI开发的基础资料,包括开发工具LangChain和LlamaIndex,以及LangGraph框架。还讨论了LLMs微调的挑战和提示工程技术的应用。此外,还介绍了RAG(增强检索)的基本原理和优化方法,以及向量数据库和Agent的相关内容。(HTML: https://wileyzhang.com/posts/ai) - [Airflow使用](https://wileyzhang.com/posts/airflow.md): Airflow使用心得(HTML: https://wileyzhang.com/posts/airflow) ## 读书笔记(Notes) - [习惯一 积极主动——个人愿景的原则](https://wileyzhang.com/books/1414fd46-73f5-404d-a08d-ced8bd199554.md): 《高效能人士的七个习惯》 by (美)史蒂芬·柯维(Finished)(HTML: https://wileyzhang.com/books/1414fd46-73f5-404d-a08d-ced8bd199554) - [政府行为与中央-地方关系](https://wileyzhang.com/books/48154abd-9309-44d8-8f60-6a571a2ffb4c.md): 《以利为利:财政关系与地方政府行为》 by 周飞舟(Finished)(HTML: https://wileyzhang.com/books/48154abd-9309-44d8-8f60-6a571a2ffb4c) - [地方政府特点](https://wileyzhang.com/books/bbed2480-d285-4e6e-bb5d-121a605a4861.md): 《置身事内》 by 兰小欢(Finished)(HTML: https://wileyzhang.com/books/bbed2480-d285-4e6e-bb5d-121a605a4861) - [社会规律](https://wileyzhang.com/books/6a68a10e-a737-4f94-bc98-08d4a82a45e3.md): 《和这个世界讲讲道理》 by 万维钢(Finished)(HTML: https://wileyzhang.com/books/6a68a10e-a737-4f94-bc98-08d4a82a45e3) - [最高学以致用法](https://wileyzhang.com/books/69ddd514-060a-4e34-9d53-b14a472f7565.md): 《最高学以致用法》 by 樺澤紫苑(Finished)(HTML: https://wileyzhang.com/books/69ddd514-060a-4e34-9d53-b14a472f7565) - [全球视野](https://wileyzhang.com/books/802d4173-f791-4ed4-a0c3-53167814ff71.md): 《可能性的艺术》 by 刘瑜(Finished)(HTML: https://wileyzhang.com/books/802d4173-f791-4ed4-a0c3-53167814ff71) - [奇石](https://wileyzhang.com/books/741bddce-d974-4f62-a9f8-cebe595db036.md): 《奇石》 by 彼得·海斯勒(Finished)(HTML: https://wileyzhang.com/books/741bddce-d974-4f62-a9f8-cebe595db036) - [思考问题的方法](https://wileyzhang.com/books/ca5057cd-19a1-4984-9a13-1d0acfaba448.md): 《麦肯锡方法》 by 艾森·拉塞尔(Finished)(HTML: https://wileyzhang.com/books/ca5057cd-19a1-4984-9a13-1d0acfaba448) - [不诚实的诚实真相](https://wileyzhang.com/books/f177d193-2b42-4785-8b48-95d59ea5ac29.md): 《不诚实的诚实真相》 by 丹·艾瑞里(Finished)(HTML: https://wileyzhang.com/books/f177d193-2b42-4785-8b48-95d59ea5ac29) - [我们内心的冲突](https://wileyzhang.com/books/f8171b29-b20a-468d-8ba6-e7ff8423bf30.md): 《我们内心的冲突》 by 卡伦·霍尼 (Karen Horney)(Finished)(HTML: https://wileyzhang.com/books/f8171b29-b20a-468d-8ba6-e7ff8423bf30) - [马克斯韦伯:《马克斯韦伯社会学文集》](https://wileyzhang.com/books/c40a628f-4c32-41ba-8a30-625731622e69.md): 《刘擎西方现代思想讲义》 by 刘擎(Finished)(HTML: https://wileyzhang.com/books/c40a628f-4c32-41ba-8a30-625731622e69) - [数学之美](https://wileyzhang.com/books/e9d56066-6fc0-4734-9464-b375d2bf297a.md): 《数学之美》 by 吴军(Finished)(HTML: https://wileyzhang.com/books/e9d56066-6fc0-4734-9464-b375d2bf297a)