有没有方便微调各种大模型的工具

[WinG]

如题，有个数据集，想对比下在各个模型下微调后的表现。

[handuo]

有很多微调的库啊,llama-factory 和 swift 都可以，我在用，还有很多比如 unsloth, axolotl 等等

[WinG]

@handuo 谢谢大佬 顺便问一下现在租什么云比较方便运行 llama-factory?微调 32B 的模型

[handuo]

国内比较主流的有 UCloud( https://www.ucloud.cn/)，商汤云大装置( https://www.sensecore.cn/product)，我还在 B 站上看到一些 up 主推广过 https://gpuez.com/ ，看你预算了呗。我公司现在刚刚从 ucloud 迁移到 sensecore ，其实都差不多

[handuo]

本质上没有什么放不方便，大部分就是用 docker 来跑现成的 llama-factory 的镜像，如果是多实例多机跑稍微注意一下环境变量配置就行，都一样的。可能有的厂商有自己配置好的镜像，但是也是以 deepseek 和 megatron 为主的，建议自己构建比较好