Neroued / 项目仓库

ninfer

Ninfer: High-performance single-GPU inference

AI 与智能体许可证待核实

访问项目仓库简介源于 HN 标题，原作者主张未经独立验证。

2最高 HN 分数

0评论总数

2关联讨论

回到原始讨论

看看社区怎么说

2

Ninfer: High-performance single-GPU inference

0 条评论2026-07-28by handfuloflight

1

NInfer: 271 tok/s (543 with speculative) for Qwen3.6-35B-A3B on one RTX 5090

0 条评论2026-07-23by opwizardx