在使用“OpenAI 代理转发”应用时,发现可以使用本地服务做SSE 流,可以减少服务器性能压力。
下面我图文介绍如何使用:
-
安装好 这两个应用,然后确定本地服务监听端口,默认是9501,后台可以修改;
-
然后打开宝塔面板->网站->反向代理 如下图

-
确定后,就可以使用 绑定的域名
open.cmspro.cn来访问 -
那么OpenAI代理应用,使用本地服务的地址就为:
http://open.cmspro.cn/open/llm/openai/v1
在使用“OpenAI 代理转发”应用时,发现可以使用本地服务做SSE 流,可以减少服务器性能压力。
下面我图文介绍如何使用:
安装好 这两个应用,然后确定本地服务监听端口,默认是9501,后台可以修改;
然后打开宝塔面板->网站->反向代理 如下图

确定后,就可以使用 绑定的域名 open.cmspro.cn 来访问
那么OpenAI代理应用,使用本地服务的地址就为:http://open.cmspro.cn/open/llm/openai/v1