← 返回热榜
sgl-project

sgl-project/sglang

Pythonai
在 GitHub 打开
35.9kStar
8.8kFork
今日 Star
Python语言

Star 趋势上榜 3 天 · 累计 +4.6k · 日均 +2.3k

项目介绍与用途

「sgl-project/sglang」是由 sgl-project 维护、主要使用 Python 开发的开源项目。面向大语言模型与多模态模型的高性能推理服务框架。目前该项目在 GitHub 上累计获得 35.9k 个 Star、8.8k 次 Fork。如果你关注 Python 方向的开源生态,它值得收藏、学习与参考。

项目简介

面向大语言模型与多模态模型的高性能推理服务框架

相关项目

项目体检

查看 sgl-project/sglang 的开源健康度评分立即体检 →

分享

分享到 XRSS 订阅