Not Diamond 解决什么问题
Not Diamond 是一个面向开发者的智能模型路由器(Intelligent Model Router),官网为 www.notdiamond.ai。它的核心问题很简单:当你构建一个长期运行的 AI Agent 时,应该为每一次 LLM 调用选择哪个模型?选太贵的模型烧钱,选便宜的模型拉低质量。
Not Diamond 的方案是自动路由——它通过预测机制来决定每个输入该发给哪个模型,目标是"花更少的钱,拿到同样好的结果"。官网给出了一组量化的性能承诺:平均准确度提升超过 5%,推理成本降低超过 30%,开发周期缩短约 2 倍。
这个工具的典型用户不是终端消费者,而是正在构建 AI Agent 产品的工程团队——特别是那些每天要处理成千上万次 LLM 调用的团队。
智能路由是怎么工作的
从官网描述来看,Not Diamond 的智能路由机制不依赖人工设定规则或简单的模型优先级排序。它会根据每个输入的特征,自动预测当前应该调用的最佳模型。这种预测考虑了准确度和成本的平衡——对于简单的提问,路由器可能会转发到便宜的小模型,而对于需要深度推理的复杂任务,则自动升级到更强的前沿模型。
官网提到,Not Diamond 的路由器在公开基准测试和生产级工作负载中均达到领先水平,声称"在准确度和成本效率上超过所有其他技术方案"。
和现有基础设施怎么集成
Not Diamond 强调与现有 AI 基础设施的无缝衔接。官网指出,路由器的智能推荐通过安全 API 执行,可以集成进用户已有的模型网关和测试框架中,不需要为了使用路由而改变整个技术栈。
官网展示了一个简化的架构图:用户的 Prompt 先进入 Not Diamond 的 Router,再由 Router 决定发往哪个 AI 网关和具体模型,最终返回结果并给出成本指标(示例为 $0.84)。这个工作流对于已经搭建了多模型部署架构的团队来说,改动成本相对较低。
合规与安全支持
Not Diamond 在官网上明确标注已通过 SOC-2 和 ISO 27001 两项安全合规认证,对于企业客户来说这是一个重要的信任信号。页面还提到提供自定义 ZDR 策略和 7x24 小时支持,面向的是"全球最精密的 AI 团队"。
如果你所在的团队对数据安全有严格的内审要求,SOC-2 和 ISO 27001 认证可以作为合规评估的起点,但具体的数据传输、存储和隐私条款仍需查阅官方服务协议确认。
哪些真实客户在用
官网上引用了三组客户评价:OpenRouter 的 CEO Alex Atallah 表示 Not Diamond 被用于驱动 OpenRouter 的智能路由功能;Replicated 的 CEO Grant Miller 提到 Not Diamond 显著降低了他们的推理成本同时提升了输出质量;Rootly 的 AI 实验室负责人 Sylvain Kalache 分享了一组量化数据——在他们的 SRE 基准测试中,Not Diamond 将平均准确度提升了 39%,部分场景性能翻倍。这些引用说明 Not Diamond 已经有一定规模的商业客户在使用。
适不适合你的团队
Not Diamond 最适合的用户画像是:已经构建了 AI Agent 产品或服务、每天产生大量 LLM 调用、正在寻找在不牺牲质量前提下降低推理成本的方法的工程团队。
不太适合的场景包括:个人开发者或小团队——如果每天的 LLM 调用量不大,路由优化的绝对收益可能不足以覆盖接入维护成本;单模型用户——如果你只用一种模型且不打算切换,路由器的意义就不大;对延迟非常敏感的实时场景——引入路由层会增加一步网络跳转,虽然官网没有明确说明延迟数据,但这仍是一个值得验证的因素。
关于定价方案和是否有免费层,官网上没有展示价格页面,具体收费模式需要联系 Not Diamond 团队或查阅官方文档确认。