智能工控
智能开发
数据结构与算法
数据分析
机器学习
大模型
编程开发
后端开发
前端开发
移动开发
数据库
学习课程
下载
牛翰社区
发布
发布文章
创建话题
创建圈子
发布帖子
开通会员
开通黄金会员
全站资源折扣购买
部分内容免费阅读
一对一技术指导
VIP用户专属QQ群
开通黄金会员
开通钻石会员
全站资源折扣购买
部分内容免费阅读
一对一技术指导
VIP用户专属QQ群
开通钻石会员
登录
注册
智能工控
智能开发
数据结构与算法
数据分析
机器学习
大模型
编程开发
后端开发
前端开发
移动开发
数据库
学习课程
下载
牛翰社区
开通会员 尊享会员权益
登录
注册
找回密码
239
更多资料
搜索内容
hvker
关注
私信
文章
0
收藏
0
评论
0
圈子
0
帖子
3
粉丝
0
发布
3
排序
最新发布
最近更新
最新回复
最多查看
最高评分
最多回复
最多收藏
hvker
8个月前更新
25次阅读
关注
私信
使用LLaMA-Factory训练LLM大模型并用ollama调用
环境搭建
系统环境
需要Nvidia显卡，至少8G显存，且专用显存与共享显存之和大于20G 建议将非安装版的环境文件都放到非系统盘，方便重装或移植 以Windows11为例，非安装环境文件都放在 E 盘下
设置自定义Path文件夹
后端开发
评分
回复
分享
hvker
8个月前更新
91次阅读
关注
私信
Unsloth更快训练大模型并导出GGUF – Windows
环境搭建
系统环境
需要Nvidia显卡，至少8G显存，且专用显存与共享显存之和大于20G 建议将非安装版的环境文件都放到非系统盘，方便重装或移植 以Windows11为例，非安装环境文件都放在 E 盘下
设置自定义Path文件夹
后端开发
评分
回复
分享
hvker
8个月前更新
123次阅读
关注
私信
团队小规模本地大模型服务平台搭建
实现目标和考虑因素
部署一个支持多用户同时使用、多模型运行的离线局域网大模型服务器 需要考虑以下几个关键因素： 大模型的加载和管理。使用一个基础大模型，根据需要创建多个专用模型，模型管理方便可靠。 并发用户和请求管理。设置管理员、用户角色，用户...
前端开发
评分
回复
分享
发布文章
创建话题
创建圈子
发布帖子
在手机上浏览此页面
登录
没有账号？立即注册
用户名或邮箱
登录密码
记住登录
找回密码
登录
注册
已有账号，立即登录
设置用户名
设置密码
重复密码
注册
