526互联

ChatGLM6B

聊聊ChatGLM6B的微调脚本及与Huggingface的关联

本文首先分析微调脚本trainer.sh的内容，再剖析ChatGLM是如何与Huggingface平台对接，实现transformers库的API直接调用ChatGLM模型，最后定位到了ChatGLM模型的源码文件。 脚本分析 微调脚本： PRE_SEQ_LEN=128 LR=2e-2 CUDA_V ......
Huggingface 脚本 ChatGLM6B ChatGLM6 ChatGLM

部署ChatGLM6B模型过程

背景 大语言模型的本地化部署尝试 步骤 下载项目 下载页：https://github.com/josStorer/selfhostedAI/releases/tag/v2 下载selfhostedAI-chatglm-6b-int4-widoowed-nvidia.7z.001-003压缩包 解压 ......
ChatGLM6B ChatGLM6 模型 过程 ChatGLM
共2篇  :1/1页 首页上一页1下一页尾页