AX
Google 官方开源的 agent 集群编排运行时，用声明式 YAML 把任务丢进带网络围栏的沙箱里跑，用过 Kubernetes 会觉得眼熟；目前还在快速变动期，API 随时可能改
colibri
纯 C 写的零依赖大模型推理引擎，让前沿 MoE 模型跑在普通硬件上，小引擎跑大模型；面向技术玩家，不是小白工具
它能做什么
- 在普通硬件上本地运行 MoE 大模型
- 零依赖、纯 C 实现
- 模型按需从磁盘流式加载
- 提供命令行推理
适用场景
- 极客与开发者：想在有限硬件上本地跑前沿 MoE 模型做实验
- 技术爱好者：研究大模型推理优化、量化加载的实现
踩坑提示
- 使用限制：是底层引擎不是成品应用，需要懂命令行和模型文件
- 功能边界：推理性能受硬件限制，别指望老电脑跑大模型流畅
替代方案对比
| 替代品 | 比它强在哪 | 比它弱在哪 | 什么情况下选这个替代品 |
|---|---|---|---|
| llama.cpp | 成熟稳定、支持广 | 对前沿 MoE 支持不如 colibri 激进 | 求稳、跑主流模型时 |
| MLX | 苹果芯片优化好 | 只限 Apple 生态 | 用 Mac 时 |
更在意稳和生态选 llama.cpp；更在意前沿 MoE 和极致轻量选 colibri
资源地址
继续浏览
类似发现
简历通 ResumeForge
本地优先的 AI 简历工作台，不注册不登录、数据只落在本机的一个文件里；除了写简历还管岗位、模拟面试和投递进度；项目很新，作者只有一个人
video-use
把素材丢进文件夹、跟 Claude Code 说几句就剪出成片的开源技能包，自动去口水词、去停顿、调色、烧字幕、生成动画叠加；工具本身 MIT 免费，但要自备编码 Agent 与模型额度
随便逛逛
不知道看什么？让阿卷带你随便逛逛
想要投稿
你也找到了好东西吗？分享给所有人
告诉阿卷
没有找到想要的？告诉阿卷帮你找