使用 Ollama + LangChain 构建本地文档问答系统 背景介绍 日常工作中有大量技术文档、论文和内部知识库需要处理。关键词搜索的痛点在于无法理解语义查询——搜"如何安装软件"和"安装步骤"本应返回相同结果,但传统搜索引擎办不到。 云端大语言模型能力很强,数据隐私是个问题。把内部文档上传到第三方 A…
ollama就是用llama.cpp作为后端引擎来封装了模型下载、版本管理和API服务等便捷功能,ollama对旧的AMD显卡支持不好,这里干脆就切换到直接使用llama.cpp来在旧的AMD RTX6700显卡上本地部署大模型。 一、安装llama.cpp winget install llama.cpp 二、下载模型 1. 在魔搭社区的模型库那…
在golang世界中,复杂的包依赖是一个比较大的问题。明明代码中只引用了某个库的一些函数,但依赖库可能会一大堆。依赖库越多,最后编译生成的二进制文件越大,怎么能在保证程序运行的时候,设计一个结构良好,尽量减少依赖的库呢?这个时候monorepo成了可行的解决方案,那么什么是monorepo? Monorepo是将多个相关的项目、模块(如前端应用、后…
最近写的一个自动化程序需要go-playwright支持,但开发和部署环境是RockyLinux9, playwright安装依赖的时候是基于Ubuntu的,下面是在Rockey Linux环境下的解决办法。 安装Distrobox dnf install epel-release dnf install distrobox 创建ubuntu容器 …
在代码开发过程中,可能有些标签创建了但不建议使用,批量移除远程仓库上的标签成为一个麻烦的事情,下面提供了在windows平台上批量删除标签的方式。 Windows上的推荐方法 查看所有远程标签 git ls-remote --tags origin 删除除'EXCLUDE_TAG1|EXCLUDE_TAG2|...'之外的所有标…
最新更新 olllam对显卡6900XT支持一直不是很如意,另外本文中介绍的自己编译的ollama版本总是落后官方最新的版本很多,而且Patch后的ollama对最新的模型也支持不好。既然ollama就是用llama.cpp作为后端引擎来封装了模型下载、版本管理和API服务等便捷功能,建议直接用llama.cpp来替代ollama。请详细参考文章:…
Dapr官方文档是通过执行bash脚本来安装升级的,因为众所周知的原因,国内执行这个脚本经常会因为网络问题出错,下面提供了一个离线安装的方法。 Github下载指定版本的安装包:https://github.com/dapr/installer-bundle/releases 上传到目标服务器,并解压到指定目录,进入拷贝解压后的根目录daprbun…
一、Bind数据 1.1 如果Bind的结构引用了生成的models,请注意struct字段不能设置为指针类型 错误示例, 定义指针类型的字段会引起数据无法赋值 type Xxx struct { User *models.User `boil:",bind"` } 正确示例 type Xxx struct { User mod…
当通过https访问一个隐藏在nginx反向代理后的wordpress网站出现"mixed content"错误,其中客户端请求首先通过https到达nginx, nginx然后通过http与wordpress docker进行通讯 Mixed Content: The page at ‘’ was loaded over HT…
1. 创建数据库 create database archery default charset utf8mb4; 2. 进入docker container docker exec -ti archery /bin/bash 3. 尝试建立数据库表结构 cd /opt/archery source /opt/venv4archery/bin/ac…