kelan 在 服务器部署CPA,高并发调用大规模出错问题请教 中发帖

服务器部署了cpa,本地500并发调用,每次调用都带有300k左右的图片和文本,调用模型是gpt5.4 xhigh,开启了流式输出。 
为了避免是域名的问题,而且只有我自己使用,本地发起请求时使用的ip地址。 
但是会大规模的报错,主要是下面三类: 
ReadError 
ConnectError: All connection attempts failed 
RemoteProtocolError: peer closed connection without sending complete message body (incomplete chunked read) 
服务器部署小白,请问有大佬知道是怎么回事吗?
 
 
Back to Top