我构建了一个AI路由器，它能分解你的提示并分发给最佳模型

当你调用LLM API时，你会选择一个模型并希望它是正确的。Claude用于推理，GPT用于代码，Gemini用于长上下文……你在手动进行路由。

我厌倦了这种做法，所以我构建了 Flint —— 一个智能路由引擎，它为你完成模型选择。

工作原理

Flint不会将你的提示转发给单个模型，而是：

1. 分解 —— 分析你的提示，识别它需要哪些能力领域（研究、分析、代码、内容、数学……）
2. 分发 —— 将每个子任务路由到该领域最佳的模型
3. 执行 —— 并行运行它们
4. 合成 —— 将结果编织成一个连贯的答案

You: "Compare Python and Go for an API gateway"
         ↓
   [Decompose]
    /         Research    Analysis
(qwen3.7)   (deepseek)
    \         /
   [Synthesize]
         ↓
   Structured comparison with performance data

Enter fullscreen mode Exit fullscreen mode

真实示例

以下是Flint为“比较Python和Go构建API网关”生成的内容：

1. 性能 —— Go编译为原生代码，可处理数万个并发连接。即使使用异步框架，Python的GIL也会限制吞吐量。

2. 并发性 —— Go的goroutine（约4KB栈）在I/O密集型工作负载方面比Python的asyncio高出一个数量级。

3. 生态系统 —— Go在网关领域占据主导地位（Traefik、Caddy、Kong插件）。Python有框架，但缺乏专用的网关项目。

研究子任务获取了实际的基准数据，分析子任务构建了比较结构，合成器将它们编织在一起。一个提示，多个模型，一个答案。

技术栈

• 后端： FastAPI + SQLite，部署在20美元的VPS上
• 路由引擎： 自定义Python流水线 —— 分解、分发、执行、验证、合成
• 模型： DeepSeek V4、Qwen3.7、Kimi K2、GLM-5，以及通过CloudWalk接入的30+其他模型
• API： OpenAI兼容 —— 仅需更改一个 base_url 即可保留现有代码

立即体验

有一个 在线演示 —— 无需注册。输入任何问题，即可看到Flint的路由与直接模型调用的对比。

• 演示： flintapi.ai/demo
• API： pip install openai + 设置 base_url="https://flintapi.ai/v1"
• 代码： github.com/moozechen/flintapi

欢迎提供反馈 —— 你还希望智能路由器实现哪些它目前尚未具备的功能？