Needle

一个能塞进手机和单片机的小模型，专做工具调用、结构化信息抽取和文本向量，整包只有 8–29MB；可完全离线运行，但二进制默认开着遥测，要自己关

它能做什么

截图暂不可用

注册与隐私：二进制默认开启遥测，README 明确要用 NEEDLE_TELEMETRY=0 和 DO_NOT_TRACK=1 两个环境变量关掉，介意的话落地前必须先设
收费与额度：代码和权重都免费，但官方的 2-bit 后训练与量化流程跑在 Cactus 自己的平台上，想复现完整流程可能需要用它的付费服务
使用限制：它的定位是「工具调用和抽取」，不是通用聊天模型，别拿它做开放式对话；权重与 pip 包下载国内速度可能较慢
长期可用性：模型迭代很快（已经到 Needle 3），旧版本的长期支持没有承诺

替代品	比它强在哪	比它弱在哪	什么情况下选这个替代品
FunctionGemma / 各家小参数模型	生态成熟、工具链完整、社区案例多	体积普遍在几百 MB 以上，单片机级别跑不动	设备有一定算力、更看重生态时
Whisper + 规则匹配	语音识别效果成熟、部署方案多	没有工具调用和结构化抽取能力，要自己写大量规则	只做「听到关键词就执行」的简单场景时
直接调云端 API	能力最强、不用考虑设备算力	必须联网，有延迟和隐私问题，按量计费	设备常连网且不在意隐私时