RabbitMQ的队列模式你真的懂吗-牛翰网

RabbitMQ的队列模式你真的懂吗

0 前言 官网描述六类工作队列模式: 简单队列模式:最简单的工作队列,一个消息生产者,一个消息消费者,一个队列。另称点对点模式 工作模式:一个消息生产者,一个交换器,一个消息队列,多个...
改进大语言模型的最全方法!-牛翰网

改进大语言模型的最全方法!

这是一篇关于适应开源大语言模型(LLMs)的三部系列博客的第一篇。本文探讨将LLM适应领域数据的各种方法。 第二部分讨论如何确定微调(fine-tuning)是否适合您的用例。 第三部分探讨策划良好训...
如何微调:关注有效的数据集!-牛翰网

如何微调:关注有效的数据集!

如何微调:关注有效的数据集 本文关于适应开源大型语言模型(LLMs)系列博客的第三篇文章。在这篇文章中,我们将探讨一些用于策划高质量训练数据集的经验法则。 第一部分探讨了将LLM适应于领域...
高并发业务下的库存扣减技术方案设计-牛翰网

高并发业务下的库存扣减技术方案设计

扣减库存需要查询库存是否足够: 足够就占用库存 不够则返回库存不足(这里不区分库存可用、占用、已消耗等状态,统一成扣减库存数量,简化场景) 并发场景,若 查询库存和扣减库存不具备原子性...
11个月前
02613
如何在Spring Boot中无缝集成LangChain4j,玩转AI大模型!-牛翰网

如何在Spring Boot中无缝集成LangChain4j,玩转AI大模型!

0 前言 LangChain4j 提供了用于以下功能的 Spring Boot 启动器: 常用集成 声明式 AI 服务 1 常用集成的 Spring Boot starters Spring Boot 启动器帮助通过属性创建和配置 语言模型、嵌入模型、...
LangChain4j支持的API类型-牛翰网

LangChain4j支持的API类型

本文描述了底层的大语言模型(LLM)API。高级的LLM API参见AI服务。 1 LLM API的类型 1.1 LanguageModel 非常简单—,接受一个String作为输入,并返回一个String作为输出。 该API现正逐渐被聊天...
使用LangChain4J实现Agent与Tool调用-牛翰网

使用LangChain4J实现Agent与Tool调用

一些LLM除了生成文本,还可触发操作。 所有支持tools的LLMs可在此处找到(参见“Tools”栏)。 有一个被称为“工具(tools)”或“函数调用(function calling)”的概念。它允许LLM在必要时调...
使用AI进行需求分析的案例研究-牛翰网

使用AI进行需求分析的案例研究

生成式 AI 的潜在应用场景似乎无穷无尽。虽然这令人兴奋,但也可能让人不知所措。因此,团队在使用这项技术时需要有明确的目标:关键是要明确生成式 AI 在团队工作中能产生哪些实质性影响。 在...
LangServe如何革新LLM应用部署?-牛翰网

LangServe如何革新LLM应用部署?

0 前言 随LLM技术演进,AI应用开发部署越来越复杂。LangServe应运而生,旨在简化AI服务部署和运维的框架。专为LLM部署和管理而设计;本文旨在讲解LangServe的功能特点和实践运用。 1 概述 LangS...
利用LangGraph和Waii实现你的chat2db!-牛翰网

利用LangGraph和Waii实现你的chat2db!

0 前言 在数据分析领域快速发展的今天,通过自然语言与数据交互的能力变得越来越有价值。对话式分析旨在使复杂数据结构对没有专业技能的用户更易于访问。 LangGraph 是个框架,用于构建使用语言...