【教程】黑五的吃灰小鸡怎么办？搭建多模型一站式AI平台

shc

大家好呀！距离上一次在loc和博客发布教程已经3年多了。

今天介绍一下如何利用吃灰小鸡搭建自己的多模型一站式AI平台，分享给身边朋友们家人们用还是相当方便的。

详细全文戳博客  https://qing.su/article/linux-ai-platform-with-coai.html

用到的程序是免费开源版的COAI/ChatNIO，支持GPT/Claude/Dalle/Midjourney/等等各种模型，也支持新的gpt-o1-preview和gpt-o1-mini.  文中使用的是Ubuntu 24.04系统，其它系统也类似。





我也不知道为啥，加上代码就直接403，于是把教程写在楼下吧

shc

1. 安装MySQL + Redis

1. apt install redis-server

复制代码

1. apt-get install npm golang-go mysql-server
   
2. mysql -u root -p
   
3. ALTER USERER 'root'@'localhost' IDENTIFIED BY 'password';
   
4. CREATE DATABASE coaidb;
   
5. CREATE USER 'coaiuser'@'localhost' IDENTIFIED BY 'password2';
   
6. GRANT ALL ON coaidb.* TO 'coaiuser'@'localhost';
   
7. FLUSH PRIVILEGES;
   
8. QUIT;

复制代码

shc

2. 编译安装COAI

1. cd /opt
   
2. git clone https://github.com/coaidev/coai.git
   
3. cd coai
   
4. cp config.example.yaml config.yaml

复制代码

在config.yaml中填好数据库信息，然后编译安装。

1. cd app
   
2. npm install -g pnpm
   
3. pnpm install
   
4. pnpm build
   
5. cd ..
   
6. go build -o coai

复制代码

建好systemD服务 /etc/systemd/system/coai.service

1. [Unit]
   
2. Description=COAI Service
   
3. 
   
4. [Service]
   
5. Type=simple
   
6. User=root
   
7. WorkingDirectory=/opt/coai
   
8. ExecStart=/opt/coai/coai
   
9. Restart=always
   
10. 
    
11. [Install]
    
12. WantedBy=multi-user.target

复制代码

1. systemctl daemon-reload
   
2. systemctl start coai.service
   
3. systemctl enable coai.service

复制代码

3. 设置Nginx反代

1. apt-get install nginx certbot python3-certbot-nginx -y
   
2. cp /opt/coai/nginx.conf /etc/nginx/conf.d/coai.conf

复制代码

编辑/etc/nginx/conf.d/coai.conf，加一行

1. server_name example.com

复制代码

重新加载Nginx

1. nginx -t
   
2. service nginx reload

复制代码

配置Let's Encrypt

1. certbot --nginx --redirect --hsts --staple-ocsp -d example.com

复制代码

安装完毕后，在后台配置好API就可以了。具体的图文可以参考我的博客文章

https://qing.su/article/linux-ai-platform-with-coai.html

如果有任何疑问，欢迎留言讨论哈~

tomcb

这种是搭建了直接能用还是要填其他平台的API进行中转？

shc

tomcb 发表于 2024-12-8 13:28
这种是搭建了直接能用还是要填其他平台的API进行中转？

要填API, 可以填官方的，也可以填第三方的。我就注册的坛子里之前老哥做的中转API，送的几块钱能用好久…

clak

tomcb 发表于 2024-12-8 13:28
这种是搭建了直接能用还是要填其他平台的API进行中转？

还得中转

Typeboom

这程序作者人品不行

FeiLai

Typeboom 发表于 2024-12-8 14:17
这程序作者人品不行

详情？

shc

Typeboom 发表于 2024-12-8 14:17
这程序作者人品不行

免费的程序，要啥自行车

Typeboom

FeiLai 发表于 2024-12-8 14:40
详情？

https://loc.442266.xyz/thread-1362820-1-1.html

作者正在里面狗叫呢