

锐英源精品原创文章,禁止转载和任何形式的非法内容使用,违者必究
WorkBuddy本地部署大模型快捷方法和对初学者友好的下载管理大模型平台和方法,多个平台总结,让初学者对AI大模型不再有神秘感。大模型也有版本变化,大家注意区分,初学者最好交给平台来管理。
RTX Spark和WorkBuddy配合,从英伟达App里,首页找到智能搭档应用,点立即体验,WorkBuddy授权后,WorkBuddy可以下载管理AI大模型,对话不上云数据安全,有本地的智能体,私有化智能体。
授权后,WorkBuddy下配置界面如下图:
在 RTX Spark 设备上,WorkBuddy 会提供一个功能,允许你直接下载和管理在本地运行的 AI 模型。设置好后,模型会常驻后台,你在 WorkBuddy 的任务界面里直接选择这个本地模型对话即可。这意味着你不再受云端 API 调用次数或额度的限制,可以更自由地使用 AI 助手来处理任务。这种私有化部署,需要硬件强大才有效果,如果硬件显卡能力一般,性能还不如在对话里直接访问公有大模型,也不如直接访问AI大模型的接口API。
WorkBuddy首页会有特别的入口按钮,如下:
点开可以看到编辑模型按钮,再点开可以选择模型进行配置。
ComfyUI自动下载,学习流方式对接AI大模型,释放AI强大能力。一般AI大模型大小几十个G,第一次未必能下载成功,不成功,要多次尝试。
ComfyUI对于常见任务的流搭配有模板,初学者不知道选项,可以直接套用模板来使用AI大模型。模板界面如下:
这图片里最中间的文生视频模板依赖下面大模型:
minimax_h3_fl2v_turbo_8step_v1.0_comfyui_bf16.safetensors loras
minimax_h3_audio_vae_fp32.safetensors vae
minimax_h3_video_vae_int8_convrot.safetensors vae
qwen3vl_32b_minimax_h3_nvfp4_awq.safetensors text_encoders
minimax_h3_fl2va_pruned_int8_convrot.safetensors diffusion_models
模型文件巨大,需要空间足够的分区,使用时要小心空间问题。 如果不知道怎么在流图里连接AI大模型,可以咨询ComfyUI平台,ComfyUI的流,就是把数据在各个大模型之间传导转换扩大编排,最终有个成品。
TRAE这类编程工具,用对话可以要求工具下载AI大模型,也可以给出常用的调用方法。锐英源软件的视觉检测平台的原型开发就是用这模式。曾经使用的FastSAM和YOLO的大模型,都是TRAE自动找的,里面有小模型、全模型和快速模型等等,版本很多,参数很复杂,TRAE会根据对话表达的意思自动下载,非常方便。当然在WorkBuddy、TRAE Agent工作台、百度搭子和DeepSeek桌面版等软件里,用对话也可以让下载AI大模型,就是依赖的环境不好建设。
自己编程可以用Hugging Face来下载AI大模型,在Python开发时经常用Hugging Face。 大模型也有版本变化,大家注意区分,初学者最好交给平台来管理。