aifollow.news
返回 Rohan Paul
Rohan Paul· @rohanpaul_ai · X· · 原发布时间 AI 评分47

NaceAI 推出 Drex Router,为 AI 任务选择模型

AI 导读

Drex Router 会读取提示词和候选模型列表,为任务选择模型及推理强度,并返回各候选模型的概率和简短理由。材料称其选择耗时约 57 至 87 毫秒;在 Nace 的 1,400 道常识考试题测试中,准确率为 87.6%,每 1,000 题成本为 0.10 美元。这些成绩来自 Nace 的测试。

原帖引用 · AI 翻译

@rohanpaul_ai
译文 · 以原文为准

Drex Router 官方网站

https://t.co/jzvCRb1o22

回复Rohan Paul@rohanpaul_ai
译文
模型在不到 90 毫秒内做出决策,速度足以在几乎任何 LLM 调用前加入一个路由器。 @NaceAI 刚刚推出 Drex Router。它会读取提示词和你的模型列表,然后使用一个基于 Gemma 构建的 12B 模型,在约 57 至 87 毫秒内返回所选模型。 在 Nace 用 1,400 道常识类考试题进行的测试中,Drex Router 的得分为 87.6%,每 1,000 道题的费用为 0.10 美元;竞争对手 Jev Router 的得分为 86.4%,费用为 1.09 美元。 只返回模型名称的路由器,无法告诉你它的选择是有把握的,还是像抛硬币一样随机。Drex Router 会返回每个候选模型的概率,并附上一段简短的理由,
原文

A model decision in under 90 ms is fast enough to put a router in front of almost any LLM call. @NaceAI just launched Drex Router, and it reads the prompt and your list of models, then returns its pick in about 57 to 87 ms, using a 12B model built on Gemma. In Nace’s tests on 1,400 general-knowledge exam questions, it scored 87.6% for $0.10 per 1,000 questions, while rival Jev Router scored 86.4% for $1.09. A router that only returns a model name can’t tell you a confident pick from a coin flip. Drex Router returns a probability for every candidate plus a short reason,

在 X 查看这条帖子 ↗
相关上下文Nace AI@NaceAI
译文
隆重推出 Drex Router。 一个小型模型,可为你的智能体执行的每一步选择合适的 LLM/SLM 和推理强度。 准确率:Drex Router 为 87.6%,Jev Router 为 86.4% 试用:https://t.co/sosFYHDDet 评论 DREX,即可额外获得 5 美元的 API 额度 https://t.co/YOKMA5jOBp
原文

Introducing Drex Router. A small model that picks the right LLM/SLM and reasoning effort for every step your agent takes. Accuracy: Drex Router 87.6% vs. Jev Router’s 86.4% Try it: https://t.co/sosFYHDDet COMMENT DREX and get extra $5 in API credits https://t.co/YOKMA5jOBp

在 X 查看这条帖子 ↗

来源:Rohan Paul · x.com

产品
发现内容有误?提交纠错