【Docker系列】-部署ChatGPT
前言
由于专业相关,我几乎每天都会用到ChatGPT,有时候需要在手机使用ChatGPT,代理也不是时时刻刻都稳定,想了一下,不如自己部署一个ChatGPT,用API 调用就行,偶尔用一下,对于OpenAI的限额,应该是完全够用的。
部署ChatGPT会存在一个问题,你的服务器能不能访问到ChatGPT,如果是国内的服务器,你可能需要做一层代理才能访问到ChatGPT,并且,代理的IP一定要干净,尽量不要使用代理池,不然容易被封号。
如果你有国外的服务器,就不存在这个问题了,国外的服务器可以直接访问ChatGPT,直接部署调用API就可以了,下面我使用国外的服务器来进行部署演示。
莱卡云
看到国内的一个厂商莱卡云,本着不是很贵,就入手试一下。打开官网,这界面看着还挺不错,有点像腾讯云的秒杀专场。
主要是国外的机器搭网站不需要备案
,不需要备案,不需要备案,随便建站,这就很方便,国内建站不备案就给你停了,麻烦。而且国内的机器带宽一般比较小,但国外的机器带宽一般比较大。
我入手的是这个,美国CN2 GIA(弹性)
,2G2核10M,跑几个网站绰绰有余了,重要的是,可以跑ChatGPT啊,给身边家人尝尝鲜也不错。
远程
下单到手后,先重置一下用户密码先,进入服务器实例。
打开服务器实例,可以看到服务器的用户和密码,包括上方的服务器IP地址,还要一些其他监控参数,界面对新手还是挺友好的,一眼醒目。
我这里使用Mobaxterm远程服务器,你可以去官网下载免费的版本使用。
机器测试
测试带宽& 硬盘读写
使用秋水的 bench.sh 脚本,这个脚本可以查看 Linux 系统信息,还可以测试网络带宽及硬盘读写速率。
1 | wget -qO- bench.sh | bash |
从测试结果看,硬盘平均在170M/S左右,10M基本可以跑满,这里的是10M测速是对国外国内的速度,下载都比较稳定在47M左右,还是比较满意的。
Ping延时
我分别ping了一下莱卡云的美国云服务器和我的国内华为服务器,延时181ms,丢包率0%,还是挺不错的。
部署ChatGPT准备
安装常用工具
安装Git
1 | yum -y install git |
安装vim
1 | yum -y install vim |
安装Docker
安装依赖
1 | yum install -y yum-utils device-mapper-persistent-data lvm2 |
添加yum源
1 | yum-config-manager --add-repo http://download.docker.com/linux/centos/docker-ce.repo |
安装最新版Docker
1 | yum -y install docker-ce |
设置开启启动docker
刚安装完的docker是还没启动的,需要启动才能执行docker命令
1 | systemctl start docker |
安装docker-compose
1 | sudo curl -L "https://github.com/docker/compose/releases/download/1.25.0/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose |
添加执行权限
1 | sudo chmod +x /usr/local/bin/docker-compose |
查看版本
1 | docker-compose --version |
安装ChatGPT
获取OpenAI API
打开官网:https://platform.openai.com/account/api-keys
创建一个API,创建完复制Key.
测试API是否可用
1 | curl https://api.openai.com/v1/chat/completions \ |
编写docker-compose
1 | version: '3.1' |
启动Docker服务
1 | docker-compose up -d |
开放端口
开放安全组
如果你还没有创建过安装组,需要自己新注册一个。
开放防火墙5355端口
1 | iptables -I INPUT -p tcp --dport 5355 -j ACCEPT |
部署成功
总结
部署一个自己的ChatGPT还是挺方便的,就不用每次都挂个梯子,主要也是方便身边的亲朋好友使用,他们不具备科学上网的能力,直接给他们使用就挺方便。关键是,你得有一台国外的云服务器,如果是国内的机器,需要做一个代理才可以正常访问,而且代理的要求也比较高,不然容易导致账号封号。
一轮体验下来,这个莱卡云的机器还是不错的,有需要可以入手一波。
本文章来源于我的博客:https://blog.hikki.site