# Wiley Blog | AI/LLM developer blog ## 介绍(Introduction) 一个专注于人工智能、大型语言模型开发和前沿技术见解的技术博客。分享在人工智能和大型语言模型方面的实践经验和深入分析。涉及的技术栈包括，LangGraph，RAG，Agent，MCP，Python，NextJS，LLM等 ## 文章(Posts) - [👑 RAG 评估--Dingo框架](https://wileyzhang.com/posts/335605ee-e889-80d6-bc6d-dc12b7fd016c): RAG（检索增强生成）系统的核心在于“先检索，再生成”，其质量取决于检索的相关性、排序的合理性和生成的可信度。Dingo框架提供三种评估方式：基于规则的校验、基于大模型的语义评估和基于本地模型的推理评估。评估指标包括答案忠实度、答案相关性、上下文相关性、上下文召回和上下文精度。推荐使用真实用户数据生成评估集，以提高评估的可信度和质量。持续评估和优化是RAG系统成功的关键。 - [🗨️ LLM 应用中的消息管理](https://wileyzhang.com/posts/27c605ee-e889-80a2-8543-ce7e1a9af9b8): 在大模型（LLM）应用开发中，对话是最核心的交互方式，而消息管理则是实现高效对话的关键。本文系统梳理了 LLM 中常见的消息类型（System、User、Assistant、Tool）及其作用机制，深入分析了短期记忆与长期记忆的差异，并对比了四种典型的消息管理方案：完整保留、抽象化存储、分层存储、知识库化。通过客服机器人与金融投顾两类实际场景案例，文章探讨了不同方案的优劣与适用场景，帮助开发者在 Token 成本、上下文管理和可追溯性之间做出平衡。 - [🧬 LangGraph教程(四)：实现人机协同（Human-in-the-loop）的关键技巧](https://wileyzhang.com/posts/264605ee-e889-80f8-a8ce-e89efa0548c5): 本文是 《LangGraph入门全解》系列的第四篇。在这篇文章中，我们暂时移除了搜索能力，为chat bot增加向用户求助的能力，也就是人机协同，这在实际开发中非常的有用。LangGraph人机交互, Human-in-the-loop, LangGraph interrupt, AI人工干预 - [🧬 LangGraph教程(二)：掌握Agent核心能力-工具调用（自定义、预构建与MCP）](https://wileyzhang.com/posts/264605ee-e889-80b3-a6c6-e66d154e6f95): 本文是 《LangGraph入门全解》系列的第二篇。在这篇文章中，我们为聊天机器人增加搜索工具，分别展示使用langchain的自定义工具和构建MCP Server方式。LangGraph调用工具, LangGraph ToolNode, LangGraph自定义工具, LangGraph MCP - [🧬 LangGraph教程(三)：为你的Agent添加记忆（Checkpoint持久化与Mem0）](https://wileyzhang.com/posts/264605ee-e889-808d-aa04-e8fe07bc9ec7): 本文是 《LangGraph入门全解》系列的第三篇。在这篇文章中，我们为聊天机器人增加长短期记忆能力，并使用redis持久化记忆。以及使用Mem0为chat bot增加用户级别的记忆。LangGraph记忆, LangGraph Checkpoint, LangGraph Redis记忆, LangGraph Mem0 - [🧬 LangGraph教程(一)：从零开始构建你的第一个AI聊天机器人](https://wileyzhang.com/posts/264605ee-e889-8089-81f9-d9bc9bb64ee8): 本文是 《LangGraph入门全解》系列的第一篇。在这篇文章中，我们将基于LangGraph构建一个聊天机器人。并学习查看Graph的图结构。如果出你是新手，建议先阅读主指南以了解LangGraph的全貌。LangGraph入门, LangGraph教程, LangGraph聊天机器人, StateGraph使用 - [🧬 LangGraph入门指南：从基础ChatBot到多智能体实战](https://wileyzhang.com/posts/264605ee-e889-806e-b847-ce4e7bcba614): 这是一篇LangGraph终极入门指南，从核心概念、工具调用、记忆管理，到高级的多智能体协作与实战项目，带你全面掌握新一代AI Agent开发框架。LangGraph, LangGraph教程, LangGraph指南, AI Agent框架 - [🧬 LangGraph进阶：构建多智能体协作系统（Supervisor架构与子图实战）](https://wileyzhang.com/posts/264605ee-e889-806a-93a7-e8acc33707b6): 本文是 《LangGraph入门全解》系列的第五篇。多智能体协作是现在一个非常热门的研究领域，对于复杂问题，将问题拆解，然后使用领域Agent，能够以更高的效率和质量完成复杂任务。LangGraph多智能体, LangGraph子图, Multi-Agent, Supervisor架构 - [🧬 LangGraph实战项目：从零复现DeepResearch自动化研究代理](https://wileyzhang.com/posts/264605ee-e889-801d-b602-c19241482cca): 本文是 《LangGraph入门全解》系列的第六篇，也是最后一篇。今年Agent爆发，Gemini，ChatGPT等都推出了自己的深度研究功能，本篇我们使用LangGraph复现DeepResearch，也许完成度没那么高，但是功能是全的。LangGraph项目, LangGraph实战, DeepResearch Agent, 自动化研究 - [🎾 RAG的28种优化技术](https://wileyzhang.com/posts/20f605ee-e889-80f3-9f61-c8c83a54504e): 本文深度探讨了28种前沿的检索增强生成（RAG）技术，从基础RAG流程到幻觉检查、文本分块优化、查询增强、上下文管理，再到高级检索范式（如Agentic RAG和Graph RAG）。通过详细阐述每种方法的流程图、关键步骤、示例Prompt，旨在为RAG系统开发者和研究者提供全面的技术选型指南与优化思路，助力构建更智能、更精准、更可靠的AI问答系统。RAG优化、检索增强生成、LLM幻觉、文本分块、向量数据库、Prompt工程、查询重写、上下文管理、语义分块、混合检索、重排名、Agentic RAG、Graph RAG、知识图谱、AI问答系统、自然语言处理、大语言模型、信息检索、深度学习、AI应用开发、人工智能技术、可解释AI、智能系统。 - [🧨 使用LLaMA-Factory微调Qwen3](https://wileyzhang.com/posts/1f3605ee-e889-808e-bedf-d661f0d90b42): 本文从为什么需要微调开始，详细介绍了微调的作用、工具，数据集的构建、工具，数据集增强，实际微调步骤，微调参数配置。并使用gpt4o生成相关讲解图片。 - [🕛 AI与人机交互演进：从浏览器自动化到接口化未来](https://wileyzhang.com/posts/1e3605ee-e889-80d4-89e3-c5f24730f271): 作者通过人机交互演进，认为AI时代，人机交互将进一步被简化。 - [⚽ 编写支持VLLM部署Qwen3-32B的MCP Cleint/Server](https://wileyzhang.com/posts/222605ee-e889-8098-b91e-f684acac99d2): 本文详细介绍了MCP Server与MCP Client的开发并给出了示例代码，支持将MCP tool转换为OpenAI tool，使其支持了使用VLLM部署的本地大模型Qwen3-32B。并进行了简单的测试验证，完整的完成了数据库查询，文件写入等MCP tool的调用。 - [🏓 通往AGI-结构化输出(Structured Outputs)](https://wileyzhang.com/posts/19d605ee-e889-805b-821e-e02e8ac1f722): 本文主要介绍结构化输出以及Function call的重要性，并介绍其开源实现。 - [🪢 窦娥冤·新编(By Claude)](https://wileyzhang.com/posts/199605ee-e889-80bd-b2aa-c34290a53cb8): 本篇是由Claude对戏剧“窦娥冤”的续写。 - [♨️ 向量数据库Milvus混合检索](https://wileyzhang.com/posts/12e605ee-e889-8093-a063-e0a44f365f2c): 介绍Milvus的使用，以及混合检索示例代码 - [💽 适用于AI的向量数据库](https://wileyzhang.com/posts/128605ee-e889-808d-b8d0-d925a4269247): 适用于LLM的数据库调查列表，Chroma，Milvus，Elasticsearch，Faiss - [🍚 向量/混合检索-Elasticsearch](https://wileyzhang.com/posts/11c605ee-e889-80ae-8ef8-f4497de6e3d5): 介绍ES的docker部署，以及在RAG应用中，向量和混合检索的使用 - [🎚️ LangGraph实战 子图、流响应](https://wileyzhang.com/posts/1738c66d-44b6-45a1-bfeb-f50062d3efec): 记录Langgraph使用过程中遇到的问题以及解决方法 - [🍚 向量检索Chroma使用和服务端docker部署](https://wileyzhang.com/posts/34871ffa-62bc-4995-af00-6faaca757ac8): 介绍向量检索数据库Chroma的服务端Docker部署，以及客户端基本的使用 - [🚢 LLM部署(docker+vllm+embedding+rerank) 支持工具调用](https://wileyzhang.com/posts/6e4516ff-0701-4009-9841-b0f023ca43a6): 该文档介绍了关于LLM模型部署的内容，包括模型选择、模型下载、模型部署方案以及模型使用和加速方法。推荐的部署方案是使用docker部署，同时提供了本地环境部署的方法。模型加速方面介绍了vllm和flash-attention两种方法。embdding模型，rerank模型 - [🚥 如何选择大模型(榜单+指标)](https://wileyzhang.com/posts/4ab81ed7-7622-4ef1-9fc6-1e1ae4edbd99): 在选择大模型之前，需要明确自己对语言、通识、推理、数学、代码、长文本和工具等七大能力的偏好。评测指标包括MMLU、C Eval、ARC-C、BBH、GSM8K、MBPP、Human Eval、L-Eval和T-Eval。常用榜单包括OpenCompass司南榜单、Huggingface榜单和MTEB榜单。 - [🔖 Prompt编写](https://wileyzhang.com/posts/ad71285d-325f-42ad-a6f9-28e6cf90571c): 该文档是关于Prompt编写指南的，介绍了26种技巧与效果，以及进阶的CoT、类推提示法、PoT、ToT和GoT等方法，用于提升大模型的推理能力。 - [🥠 修改FastChat使支持工具调用(LangGraph适配FastChat)](https://wileyzhang.com/posts/c8a30e22-25df-414c-aa1d-2582622256e5): 本文介绍了如何修改FastChat以支持工具调用和LangGraph适配FastChat的问题。针对 - [🦙 LLM](https://wileyzhang.com/posts/ad6de748-8932-498a-84ba-5f5432b43885): 需要关注的LLM 相关知识或论文 - [🤖 AI开发基础资料和相关技术介绍](https://wileyzhang.com/posts/e6d87ac6-dd5b-48b1-8e18-93f7435fdb4a): 这篇文章介绍了关于AI开发的基础资料，包括开发工具LangChain和LlamaIndex，以及LangGraph框架。还讨论了LLMs微调的挑战和提示工程技术的应用。此外，还介绍了RAG（增强检索）的基本原理和优化方法，以及向量数据库和Agent的相关内容。 - [🐳 K8S+Rancher搭建](https://wileyzhang.com/posts/efa53000-b650-4171-804f-d2d7261ab846): K8S 搭建 - [💨 Airflow使用](https://wileyzhang.com/posts/db974ca7-8565-4823-b420-12b1b204e0a9): Airflow使用心得 - [📘 企业级知识库选择](https://wileyzhang.com/posts/be4929d1-01c0-4c1c-b553-33639fdd40e7): 知识库选择 - [🤖 QQ Bot+notion实现随手记](https://wileyzhang.com/posts/224be3c3-178a-49f0-af8e-1528acf9aa94): 小玩具