# Prompt工程实战:如何用Few-Shot Learning提升LLM输出质量 调用大语言模型时,你遇到过这种情况吗?不管怎么调整提示词,输出格式总是差强人意。每次都要写大段说明,模型才能勉强理解你的需求。如果是这样,Few-Shot Learning可能正是你需要的技术。 Few-Shot Learning,翻译过来就是少样本学习,是Pro…
LLM Function Calling 实战:让大语言模型帮你执行真实操作你是否经历过这种场景?问 AI 天气怎么样,它能说出一堆建议,但没法帮你查一下实际温度。问能不能帮忙订个机票,它只能尴尬地说“抱歉,我做不到”。传统的 AI 对话本质上就是文字游戏——模型生成文字,仅此而已。Function Calling 改变了这一切。什么是 Funct…
# RAG 实战:如何用 LangChain 构建本地知识库问答系统 如果你用过 ChatGPT 这类大语言模型,大概会遇到这些问题: - 模型的知识截止日期太早,最新的专业内容它根本不知道 - 每次都得在 Prompt 里塞一大段背景信息,超长度是家常便饭 - 模型有时候会一本正经地胡说八道,给你一个看起来对但实际上错得离谱的答案 这些问题都能用…
# Python 调用 LLM API 进行文本分类实战指南 在 AI 应用开发中,文本分类是最基础也最实用的能力之一。不管是垃圾邮件过滤、情感分析还是意图识别,本质上都是分类问题。这篇文章手把手教你用 Python 调用 LLM API 实现一个完整的文本分类系统。 ## 背景介绍 传统文本分类需要大量标注数据和复杂的特征工程。2017 年 Tr…
ollama就是用llama.cpp作为后端引擎来封装了模型下载、版本管理和API服务等便捷功能,ollama对旧的AMD显卡支持不好,这里干脆就切换到直接使用llama.cpp来在旧的AMD RTX6700显卡上本地部署大模型。 一、安装llama.cpp winget install llama.cpp 二、下载模型 1. 在魔搭社区的模型库那…
在golang世界中,复杂的包依赖是一个比较大的问题。明明代码中只引用了某个库的一些函数,但依赖库可能会一大堆。依赖库越多,最后编译生成的二进制文件越大,怎么能在保证程序运行的时候,设计一个结构良好,尽量减少依赖的库呢?这个时候monorepo成了可行的解决方案,那么什么是monorepo? Monorepo是将多个相关的项目、模块(如前端应用、后…
最近写的一个自动化程序需要go-playwright支持,但开发和部署环境是RockyLinux9, playwright安装依赖的时候是基于Ubuntu的,下面是在Rockey Linux环境下的解决办法。 安装Distrobox dnf install epel-release dnf install distrobox 创建ubuntu容器 …
在代码开发过程中,可能有些标签创建了但不建议使用,批量移除远程仓库上的标签成为一个麻烦的事情,下面提供了在windows平台上批量删除标签的方式。 Windows上的推荐方法 查看所有远程标签 git ls-remote --tags origin 删除除'EXCLUDE_TAG1|EXCLUDE_TAG2|...'之外的所有标…
最新更新 olllam对显卡6900XT支持一直不是很如意,另外本文中介绍的自己编译的ollama版本总是落后官方最新的版本很多,而且Patch后的ollama对最新的模型也支持不好。既然ollama就是用llama.cpp作为后端引擎来封装了模型下载、版本管理和API服务等便捷功能,建议直接用llama.cpp来替代ollama。请详细参考文章:…
Dapr官方文档是通过执行bash脚本来安装升级的,因为众所周知的原因,国内执行这个脚本经常会因为网络问题出错,下面提供了一个离线安装的方法。 Github下载指定版本的安装包:https://github.com/dapr/installer-bundle/releases 上传到目标服务器,并解压到指定目录,进入拷贝解压后的根目录daprbun…