【Docker系列】-部署ChatGPT

小码同学2023-05-082025-01-28

前言

由于专业相关，我几乎每天都会用到ChatGPT，有时候需要在手机使用ChatGPT，代理也不是时时刻刻都稳定，想了一下，不如自己部署一个ChatGPT，用API 调用就行，偶尔用一下，对于OpenAI的限额，应该是完全够用的。

部署ChatGPT会存在一个问题，你的服务器能不能访问到ChatGPT，如果是国内的服务器，你可能需要做一层代理才能访问到ChatGPT，并且，代理的IP一定要干净，尽量不要使用代理池，不然容易被封号。

如果你有国外的服务器，就不存在这个问题了，国外的服务器可以直接访问ChatGPT，直接部署调用API就可以了，下面我使用国外的服务器来进行部署演示。

莱卡云

官网：https://www.lcayun.com/

看到国内的一个厂商莱卡云，本着不是很贵，就入手试一下。打开官网，这界面看着还挺不错，有点像腾讯云的秒杀专场。

01-20230508-758

主要是国外的机器搭网站不需要备案，不需要备案，不需要备案，随便建站，这就很方便，国内建站不备案就给你停了，麻烦。而且国内的机器带宽一般比较小，但国外的机器带宽一般比较大。

我入手的是这个，美国CN2 GIA（弹性），2G2核10M，跑几个网站绰绰有余了，重要的是，可以跑ChatGPT啊，给身边家人尝尝鲜也不错。

02-服务器-20230508-164

03-相香港-20230508-330

远程

下单到手后，先重置一下用户密码先，进入服务器实例。

01-云服务器-20230508-489

打开服务器实例，可以看到服务器的用户和密码，包括上方的服务器IP地址，还要一些其他监控参数，界面对新手还是挺友好的，一眼醒目。

02-重置用户密码-20230508-816

我这里使用Mobaxterm远程服务器，你可以去官网下载免费的版本使用。

03-远程服务器-20230508-510

机器测试

测试带宽& 硬盘读写

使用秋水的 bench.sh 脚本，这个脚本可以查看 Linux 系统信息，还可以测试网络带宽及硬盘读写速率。

1	wget -qO- bench.sh \| bash

04-测试-20230508-617

从测试结果看，硬盘平均在170M/S左右，10M基本可以跑满，这里的是10M测速是对国外国内的速度，下载都比较稳定在47M左右，还是比较满意的。

Ping延时

我分别ping了一下莱卡云的美国云服务器和我的国内华为服务器，延时181ms，丢包率0%，还是挺不错的。

05-ping-20230508-570

部署ChatGPT准备

安装常用工具

安装Git

1	yum -y install git

安装vim

1	yum -y install vim

安装Docker

安装依赖

1	yum install -y yum-utils device-mapper-persistent-data lvm2

添加yum源

1	yum-config-manager --add-repo http://download.docker.com/linux/centos/docker-ce.repo

安装最新版Docker

1	yum -y install docker-ce

01-安装docker-20230509-223

设置开启启动docker

刚安装完的docker是还没启动的，需要启动才能执行docker命令

1	systemctl start docker

安装docker-compose

1	sudo curl -L "https://github.com/docker/compose/releases/download/1.25.0/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose

添加执行权限

1	sudo chmod +x /usr/local/bin/docker-compose

查看版本

1	docker-compose --version

02-docker-compose-20230509-610

安装ChatGPT

GitHub项目：https://github.com/Chanzhaoyu/chatgpt-web

获取OpenAI API

打开官网：https://platform.openai.com/account/api-keys

创建一个API，创建完复制Key.

01-获取api-20230509-329

测试API是否可用

curl https://api.openai.com/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer sk-XXXXXX" \
  -d '{
    "model": "gpt-3.5-turbo",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

04-测试api是否可用-20230509-357

编写docker-compose

version: '3.1'
services:
   app:
     image: chenzhaoyu94/chatgpt-web # 总是使用 latest ,更新时重新 pull 该 tag 镜像即可
     ports:
       - 5355:3002
     environment:
       OPENAI_API_KEY: sk-XXXXXXX # 替换成你的API Key
       OPENAI_API_MODEL: gpt-3.5-turbo
        # 访问权限密钥，可选 推荐设置，这样就只有你自己和知道你的密钥的人可以访问这个服务，可以减少不必要的损失
       AUTH_SECRET_KEY: 123456
        # 每小时最大请求次数，可选，默认无限
       MAX_REQUEST_PER_HOUR: 0
        # 超时，单位毫秒，可选
       TIMEOUT_MS: 60000 # 超时，单位毫秒，可选