aifollow.news
返回 Tibo
Tibo· @thsottiaux · X· · 原发布时间 AI 评分27

Codex 将模型请求的 WebSocket 大小上限提高至 128 MB

AI 导读

Codex 的模型请求通过 WebSocket 逐步传输数据。其团队称,大小上限已从 16 MB 提高至 128 MB,使较大的交互更少回退到 HTTP;即使请求超过上限,处理速度也约快 5 倍。

原帖引用 · 原文

该语言的正文暂不可用,当前显示已有版本。

@thsottiaux

@charliermarsh Actual engineering going on here.

回复Charlie Marsh@charliermarsh
In Codex, we use a WebSocket for model requests, to send data incrementally over time. We’ve now increased the WebSocket size limit from 16 to 128 MB (8x), so large turns avoid falling back to HTTP (bad!). And if a request _does_ go over the limit, it’s now ~5x faster.
在 X 查看这条帖子 ↗

来源:Tibo · x.com

产品
发现内容有误?提交纠错