37/100基础设施
Stars10,806
Forks1,047
语言Jupyter Notebook
许可证Apache-2.0
概览
Official inference library for Mistral models
适合场景
- 评估 mistral-inference 在 Jupyter Notebook AI 工作流中的适用性。
- 对比一个拥有 10,806 stars 且仍有仓库活动的 GitHub 项目。
优点
- mistral-inference 已有 10,806 stars，可作为开发者关注度参考。 主题：llm, llm-inference, mistralai。
- 项目提供外部主页，便于进一步评估。
限制
- 生产适配度仍取决于文档深度、issue 活跃度和发布节奏。
- 需要确认 Apache-2.0 许可证条款是否适合你的使用场景。
生产可用性
mistral-inference 在生产使用前，应结合 README、发布历史、开放 issue 和集成要求做验证。
许可证风险
GitHub 显示许可证为 Apache-2.0；再分发或商业使用前仍需核对仓库许可证。
安装方式
pip install mistral-inferencewget https://models.mistralcdn.com/mistral-nemo-2407/mistral-nemo-instruct-2407.tarwget https://models.mistralcdn.com/mixtral-8x7b-v0-1/Mixtral-8x7B-v0.1-Instruct.tarpip install packaging mamba-ssm causal-conv1d transformerspip install --upgrade mistral-common