## 背景介绍 大语言模型这两年火得不行，AI 辅助编程也从概念变成了 reality。GitHub Copilot、Cursor 这些工具确实好用，但用起来总有点担心——代码上传到第三方服务器合规吗？网络不稳定的时候响应慢怎么办？想用自己微调的模型完全没戏。 Ollama 解决了这个问题。它是一个开源的本地大模型运行框架，直接在你电脑上跑各种开源…

背景介绍 大语言模型已经具备了强大的文本理解和生成能力。然而，单纯依靠模型自身的知识库，往往难以满足实际业务场景的需求。我们需要 AI 不仅能"思考"，还能"行动"——这就是 Function Calling 技术出现的背景。 Function Calling 是 OpenAI 在 2023 年 6 月推出的重要功能，它允许 GPT 模型在生成回复…

使用 LangChain + Ollama 构建本地知识库问答系统 很多团队都有这样的困扰：文档散落在各处，关键时刻找不到想要的内容。关键词搜索不智能，看字面对不上意思，只能手动翻文档。 RAG 技术提供了另一种思路：把文档转成向量，用语义检索找到相关内容，再让 LLM 根据这些内容生成答案。这两年很火，很多云服务都支持。 但把文档发给第三方总让人…

# 使用 LangGraph 构建 ReAct Agent 实战指南 ## 背景介绍 大型语言模型应用领域有个老问题：AI 只能生成文字，没办法直接跟外部系统打交道。用户问"今天北京天气怎么样"或者"苹果股价多少"，LLM 训练数据截止了，回答不上来。 解决办法是让模型自己调用工具。ReAct（Reasoning + Acting）模式就是干这个的…

使用 Ollama 在本地运行 LLM 进行代码审查 代码审查是软件开发中的常规环节，但人工审查效率低、主观性强。云端 AI 审查工具又存在隐私顾虑。 Ollama 是一个开源工具，能让用户在本地机器上跑大语言模型，不用联网，不用交 API 费用，代码也不会离开你的电脑。 为什么需要本地 LLM 代码审查 把代码发给云端 API 有几个麻烦： 隐私…

使用 Ollama + LangChain 构建本地文档问答系统 背景介绍 日常工作中有大量技术文档、论文和内部知识库需要处理。关键词搜索的痛点在于无法理解语义查询——搜"如何安装软件"和"安装步骤"本应返回相同结果，但传统搜索引擎办不到。 云端大语言模型能力很强，数据隐私是个问题。把内部文档上传到第三方 A…

ollama就是用llama.cpp作为后端引擎来封装了模型下载、版本管理和API服务等便捷功能，ollama对旧的AMD显卡支持不好，这里干脆就切换到直接使用llama.cpp来在旧的AMD RTX6700显卡上本地部署大模型。 一、安装llama.cpp winget install llama.cpp 二、下载模型 1. 在魔搭社区的模型库那…

在golang世界中，复杂的包依赖是一个比较大的问题。明明代码中只引用了某个库的一些函数，但依赖库可能会一大堆。依赖库越多，最后编译生成的二进制文件越大，怎么能在保证程序运行的时候，设计一个结构良好，尽量减少依赖的库呢？这个时候monorepo成了可行的解决方案，那么什么是monorepo? Monorepo是将多个相关的项目、模块（如前端应用、后…

最近写的一个自动化程序需要go-playwright支持，但开发和部署环境是RockyLinux9, playwright安装依赖的时候是基于Ubuntu的，下面是在Rockey Linux环境下的解决办法。 安装Distrobox dnf install epel-release dnf install distrobox 创建ubuntu容器 …

在代码开发过程中，可能有些标签创建了但不建议使用，批量移除远程仓库上的标签成为一个麻烦的事情，下面提供了在windows平台上批量删除标签的方式。 Windows上的推荐方法 查看所有远程标签 git ls-remote --tags origin 删除除'EXCLUDE_TAG1|EXCLUDE_TAG2|...'之外的所有标…