高并发业务下的无损技术方案设计-牛翰网

高并发业务下的无损技术方案设计

0 前言 秒杀,既有需求真实且迫切的用户,也有试图牟利的黄牛。系统挑战,就是相较于以往千倍万倍的用户规模,可能是真人可能是机器人,在同一瞬间对系统发起冲击,需要海量的计算资源才能支撑...
10个月前
06010
开放式系统互连(OSI)模型的实际意义-牛翰网

开放式系统互连(OSI)模型的实际意义

0 前言 开放式系统互连(OSI,Open Systems Interconnection)模型,由国际标准化组织(ISO)在1984年提出,目的是为了促进不同厂商生产的网络设备之间的互操作性。 定义了一种在层之间进行协议...
RabbitMQ的 RPC 消息模式你会了吗?-牛翰网

RabbitMQ的 RPC 消息模式你会了吗?

前文学习了如何使用工作队列在多个工作者之间分配耗时的任务。若需要在远程计算机上运行一个函数并等待结果呢?这种模式通常被称为远程过程调用 (RPC)。 本节使用 RabbitMQ 构建一个 RPC 系统:...
RabbitMQ的队列模式你真的懂吗-牛翰网

RabbitMQ的队列模式你真的懂吗

0 前言 官网描述六类工作队列模式: 简单队列模式:最简单的工作队列,一个消息生产者,一个消息消费者,一个队列。另称点对点模式 工作模式:一个消息生产者,一个交换器,一个消息队列,多个...
改进大语言模型的最全方法!-牛翰网

改进大语言模型的最全方法!

这是一篇关于适应开源大语言模型(LLMs)的三部系列博客的第一篇。本文探讨将LLM适应领域数据的各种方法。 第二部分讨论如何确定微调(fine-tuning)是否适合您的用例。 第三部分探讨策划良好训...
如何微调:关注有效的数据集!-牛翰网

如何微调:关注有效的数据集!

如何微调:关注有效的数据集 本文关于适应开源大型语言模型(LLMs)系列博客的第三篇文章。在这篇文章中,我们将探讨一些用于策划高质量训练数据集的经验法则。 第一部分探讨了将LLM适应于领域...
IDEA 2024.3 EAP新特征早览!-牛翰网

IDEA 2024.3 EAP新特征早览!

0 前言 IntelliJ IDEA 2024.3 第一个 EAP 版本已发布,提前体验 下一个重大版本的一部分改进。 持续关注 EAP 更新,未来几周内将推出更多 IntelliJ IDEA 新功能。尝试这些新功能,分享您的反馈...
高并发业务下的库存扣减技术方案设计-牛翰网

高并发业务下的库存扣减技术方案设计

扣减库存需要查询库存是否足够: 足够就占用库存 不够则返回库存不足(这里不区分库存可用、占用、已消耗等状态,统一成扣减库存数量,简化场景) 并发场景,若 查询库存和扣减库存不具备原子性...
11个月前
02613
LangChain4j支持的API类型-牛翰网

LangChain4j支持的API类型

本文描述了底层的大语言模型(LLM)API。高级的LLM API参见AI服务。 1 LLM API的类型 1.1 LanguageModel 非常简单—,接受一个String作为输入,并返回一个String作为输出。 该API现正逐渐被聊天...
使用LangChain4J实现Agent与Tool调用-牛翰网

使用LangChain4J实现Agent与Tool调用

一些LLM除了生成文本,还可触发操作。 所有支持tools的LLMs可在此处找到(参见“Tools”栏)。 有一个被称为“工具(tools)”或“函数调用(function calling)”的概念。它允许LLM在必要时调...