一款开源大语言模型框架，通过企业级安全性和可扩展性加速AI应用开发，让复杂性成为过去式。

用于微调和部署的开源AI模型。

统一API，跨提供商管理LLM请求。

构建高效通用AI模型，内存占用更小，推理速度更快。

开源LLM工程平台，用于调试和改进LLM应用。

为您的网站创建AI友好的llms.txt文件。

为自托管大型语言模型推理计算GPU内存需求。

一个统一的工作空间，用于运行多个本地AI模型，采用隐私优先设计，并兼容OpenAI API。

用于构建应用程序的TypeScript MCP框架。

无缝为您的产品添加可靠的AI聊天功能。

自动化您的LLM应用评估循环

监控、评估并优化您的LLM驱动应用