提示工程学习笔记
在之前的笔记中，我们学习了很多大模型的使用技巧，比如 实现一个划词翻译插件、实现基于文档的问答助手、实现基于数据库的问答助手 等等，在这些使用场景中，我们应该都或多或少听过 提示工程（Prompt Engineering） 这个概念；另...
Java 21 初体验
2023 年 9 月 19 日，Java 21 发布正式版本，这是 Java 时隔两年发布的又一个 LTS 版本，上一个 LTS 版本是 2021 年 9 月 14 日发布的 Java 17：Java 17 目前是使用最广泛的版本，但随着 Java 21 的...
在 Kubernetes 中调度 GPU 资源
在人工智能越来越普及的今天，GPU 也变得越来越常见，无论是传统的机器学习和深度学习，还是现在火热的大语言模型和文生图模型，GPU 都是绕不开的话题。最近在工作中遇到一个需求，需要在 Kubernetes 中动态地调度和使用 ...
学习 Kubernetes 流量管理之 Ingress
在 学习 Kubernetes 流量管理之 Service 这篇笔记中我们学习了 Kubernetes 是如何使用 Service 进行流量管理的，我们可以通过 NodePort 和 LoadBalancer ...
基于结构化数据的文档问答
利用大模型打造文档问答系统对于个人和企业来说都是一个非常重要的应用场景，也是各大公司争相推出的基于大模型的落地产品之一，同时，在开源领域，文档问答也是非常火热，涌现出了一大批与之相关的开源项目，比如：Quivr、PrivateGPT、documen...
学习 Kubernetes 流量管理之 Service
在 Kubernetes 使用小记 这篇笔记中我们学习了 Kubernetes 的基本用法和概念，通过 Deployment 部署应用程序，然后通过 Service 将应用程序暴露给其他人访问。其中 Servi...
使用 Arthas 排查线上问题
Arthas 是阿里开源的一款 Java 应用诊断工具，可以在线排查问题，动态跟踪 Java 代码，以及实时监控 JVM 状态。这个工具的大名我早有耳闻，之前一直听别人推荐，却没有使用过。最近在线上遇到了一个问题，由于开发人员在...
大模型应用开发框架 LangChain 学习笔记（二）
在 上一篇笔记 中，我们学习了 LangChain 中的一些基础概念：使用 LLMs 和 ChatModels 实现基本的聊天功能，使用 PromptTemplate 组装提示语，使用 Document lo...
大模型应用开发框架 LangChain 学习笔记
一场关于大模型的战役正在全世界激烈地上演着，国内外的各大科技巨头和研究机构纷纷投入到这场战役中，光是写名字就能罗列出一大串，比如国外的有 OpenAI 的 GPT-4，Meta 的 LLaMa，Stanford ...
使用 Embedding 技术打造本地知识库助手
基于不同的提示语，可以让 ChatGPT 实现各种不同的功能，比如在 基于 ChatGPT 实现一个划词翻译 Chrome 插件 这篇文章中，我基于 ChatGPT 实现了一个翻译助手，OpenAI 官方的 Examples 页面 也列出了...