FreeLLMAPI:
一个开源的 AI API 聚合路由器项目,它把多个大模型提供商的免费额度整合成一个统一的 OpenAI 兼容接口。

TIP:
它本身不提供任何免费额度,只是把你自己在各家申请的免费 key 拼成一个入口
安装
Docker Compose
services:
freellmapi:
image: ghcr.io/tashfeenahmed/freellmapi:latest
container_name: freellmapi
ports:
- 1300:1300
environment:
- PORT=1300
- NODE_ENV=production
- ENCRYPTION_KEY=523f6214ac78b910473d28e71160927b8062ad36cf941bc3597400217ac23119
volumes:
- ./data:/app/server/data
restart: always
参数说明(更多参数建议去看文档)
PORT(环境变量):指定内部监听
NODE_ENV(环境变量):生产环境
ENCRYPTION_KEY(环境变量):用于加密(建议自行生成)
使用
浏览器中输入 http://NAS的IP:1300 就能看到界面

按要求创建账号

点击创建账号,有可能会提示需要填写启动代码

查看容器日志就能找到,复制出来填写即可

进入面板,默认是没有模型的需要自行添加

可以选择提供商,也可以填写自定义的

添加完模型,记得测试一下是否正常

到试验场,路由默认自动,这里为了单独测一个模型才手动指定

模型正常调用,文字和图片也都是没有问题的

TIP:六种策略按速度/能力/可靠性给模型打分排序,想要快就切 speed 向,想要稳就留在 balanced

接下来是外部调用,切换到智能体页面,就能获取 API 密钥了

连接配置就很常规了,参考填写即可
http://NAS的IP:1300/v1
freellmapi-xxxxxxxxxxxxxxxxx
不过需要注意这个模型选择,可以按路由策略或者自定义选择模型(第一次不建议手动填写模型,先自动获取搞清有哪些模型,因为可能名称都不知道怎么填写)

测试了一下,调用也是正常的了

回到面板,分析里能看到请求量、成功率、token 进出和每个上游的分摊

总结
FreeLLMAPI 不是“送你免费 API”,它是把你自己的免费额度拼成一个入口。87 家平台、1313 个免费端点、官方口径约 10.1B token/月,数字是真的,但前提是 key 得你自己去各家注册
综合推荐:⭐⭐(免费路由,一个 API 接入所有模型)
使用体验:⭐⭐(上手简单,功能齐全)
部署难易:⭐⭐(简单)︎
作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~

登录
没有更多了