锐英源软件
GEO原创
当前位置:锐英源 / 开源技术 / WorkBuddy / WorkBuddy本地部署大模型快捷方法和对初学者友好的下载管理大模型平台和方法
联系方式
public
扫一扫,新经验快学到
固话:0371-63888850
手机:138-0381-0136
Q Q:23692052
微信:ryysoft
服务方向
英文技术问答引流、海外新独立站快速引流
原创内容
VC++线上线下培训
C#软件线上线下培训
视觉检测
机器视觉培训机器视觉FDE人才培养
建筑视觉检测
养殖视觉检测
语音识别平台
人工智能培训
运动控制卡上位机
机械加工软件
Java安卓移动开发线上线下培训
汇编和破解线上线下培训
驱动开发线上线下培训

锐英源精品原创文章,禁止转载和任何形式的非法内容使用,违者必究


WorkBuddy本地部署大模型快捷方法和对初学者友好的下载管理大模型平台和方法


WorkBuddy本地部署大模型快捷方法和对初学者友好的下载管理大模型平台和方法,多个平台总结,让初学者对AI大模型不再有神秘感。大模型也有版本变化,大家注意区分,初学者最好交给平台来管理。

WorkBuddy本地部署大模型

RTX Spark和WorkBuddy配合,从英伟达App里,首页找到智能搭档应用,点立即体验,WorkBuddy授权后,WorkBuddy可以下载管理AI大模型,对话不上云数据安全,有本地的智能体,私有化智能体。

RTX Spark立即体验

授权后,WorkBuddy下配置界面如下图:
WorkBuddy授权设置成果

在 RTX Spark 设备上,WorkBuddy 会提供一个功能,允许你直接下载和管理在本地运行的 AI 模型。设置好后,模型会常驻后台,你在 WorkBuddy 的任务界面里直接选择这个本地模型对话即可。这意味着你不再受云端 API 调用次数或额度的限制,可以更自由地使用 AI 助手来处理任务。这种私有化部署,需要硬件强大才有效果,如果硬件显卡能力一般,性能还不如在对话里直接访问公有大模型,也不如直接访问AI大模型的接口API。

WorkBuddy首页会有特别的入口按钮,如下:
WorkBuddy管理大模型入口

点开可以看到编辑模型按钮,再点开可以选择模型进行配置。

ComfyUI自动下载管理大模型

ComfyUI自动下载,学习流方式对接AI大模型,释放AI强大能力。一般AI大模型大小几十个G,第一次未必能下载成功,不成功,要多次尝试。

ComfyUI对于常见任务的流搭配有模板,初学者不知道选项,可以直接套用模板来使用AI大模型。模板界面如下:ComfyUI模板

这图片里最中间的文生视频模板依赖下面大模型:
minimax_h3_fl2v_turbo_8step_v1.0_comfyui_bf16.safetensors loras
minimax_h3_audio_vae_fp32.safetensors vae
minimax_h3_video_vae_int8_convrot.safetensors vae
qwen3vl_32b_minimax_h3_nvfp4_awq.safetensors text_encoders
minimax_h3_fl2va_pruned_int8_convrot.safetensors diffusion_models

模型文件巨大,需要空间足够的分区,使用时要小心空间问题。 如果不知道怎么在流图里连接AI大模型,可以咨询ComfyUI平台,ComfyUI的流,就是把数据在各个大模型之间传导转换扩大编排,最终有个成品。

TRAE类编程工具和Python编程

TRAE这类编程工具,用对话可以要求工具下载AI大模型,也可以给出常用的调用方法。锐英源软件的视觉检测平台的原型开发就是用这模式。曾经使用的FastSAM和YOLO的大模型,都是TRAE自动找的,里面有小模型、全模型和快速模型等等,版本很多,参数很复杂,TRAE会根据对话表达的意思自动下载,非常方便。当然在WorkBuddy、TRAE Agent工作台、百度搭子和DeepSeek桌面版等软件里,用对话也可以让下载AI大模型,就是依赖的环境不好建设。

自己编程可以用Hugging Face来下载AI大模型,在Python开发时经常用Hugging Face。 大模型也有版本变化,大家注意区分,初学者最好交给平台来管理。

友情链接
版权所有 Copyright(c)2004-2026 锐英源软件
公司注册号:410105000449586 豫ICP备08007559号 最佳分辨率 1024*768
地址:郑州市金水区文化路97号郑州大学北校区院内原校办工厂楼101室