lyogavin/airllm
24.0kStar
2.7kFork
—今日 Star
Jupyter Notebook语言
Star 趋势
项目介绍与用途
「lyogavin/airllm」是由 lyogavin 维护、主要使用 Jupyter Notebook 开发的开源项目。在单张 4GB 显卡上推理 70B 大模型的推理优化库。目前该项目在 GitHub 上累计获得 24.0k 个 Star、2.7k 次 Fork。如果你关注 Jupyter Notebook 方向的开源生态，它值得收藏、学习与参考。
项目简介
在单张 4GB 显卡上推理 70B 大模型的推理优化库
相关项目
microsoft/AI-For-Beginners12 Weeks, 24 Lessons, AI for All!
paperswithbacktest/awesome-systematic-tradingA curated list of awesome libraries, packages, strategies, books, blogs, tutorials for systematic trading.
1jehuang/jcodeThe most RAM efficient harness
WhiskeySockets/BaileysSocket-based TS/JavaScript API for WhatsApp Web
pascalorg/editorCreate and share 3D architectural projects.
grokability/snipe-itA free open source IT asset/license management system