526互联

为美好的世界献上佐罗兔（2）基于docker安装ChatGLM3

发布时间 2023-11-23 23:24:11作者: 浦金宏

佐罗兔——rabbitzorro

首先我找了一个B站的教学视频，但是他不是基于Docker的
https://www.bilibili.com/video/BV1gN4y1r7RX
作者一看就是专业讲课的，说三句水两句，不过教程的结构还是可以借鉴的。

我的PC配置： N卡RTX3060 12GB板、i5、32G内存

  1. 傻瓜安装了docker Desktop

  2. 对docker进行一些前置配置

    # 查看docker版本，我的版本是23.0.5
docker -v
# 查看docker目前的源，其中的Registry Mirrors就是镜像源
docker info
# 添加docker国内镜像源，docker desktop源的配置比较简单

    设置截图

  3. 在PC上安装CODA环境
    我参考了这篇博客
    https://blog.csdn.net/LTC_013/article/details/124430324
    实际上就是安装nvidia的最新驱动。
    可以执行nvidia -smi查看coda版本

    nvidia -smi

    可能PC会报没有这个命令，这时候需要将nvidia的NVSMI程序添加到环境变量

  4. 我找到一篇基于docker部署GLM的知乎，按照上面说的安装ubuntu22.4
    https://zhuanlan.zhihu.com/p/616208372

    # 这个版本比较新，而且是长期支持版本
docker pull ubuntu:22.04
# 下载完看一下镜像体积很小：ubuntu 22.04 9d28ccdc1fc7 23 months ago 76.3MB
docker images
# 把小u运行起来
docker run -name littleu

  5. 安装nvidia的GPU工具库