← 返回热榜
magnitudedev

magnitudedev/magnitude

Rustai
在 GitHub 打开
7.0kStar
481Fork
+219今日 Star
Rust语言

Star 趋势上榜 19 天 · 累计 +5.6k · 日均 +309

项目介绍与用途

「magnitudedev/magnitude」是由 magnitudedev 维护、主要使用 Rust 开发的开源项目。Open source inference engine that tunes its kernels on your hardware to find the fastest way to run each model. 2x faster than Ollama. Works on Apple Silicon, NVIDIA, AMD, or just a CPU。目前该项目在 GitHub 上累计获得 7.0k 个 Star、481 次 Fork(今日新增 219 Star)。如果你关注 Rust 方向的开源生态,它值得收藏、学习与参考。

项目简介

Open source inference engine that tunes its kernels on your hardware to find the fastest way to run each model. 2x faster than Ollama. Works on Apple Silicon, NVIDIA, AMD, or just a CPU.

相关项目

项目体检

查看 magnitudedev/magnitude 的开源健康度评分立即体检 →

分享

分享到 XRSS 订阅