オープンソースのLLMフレームワークで、エンタープライズグレードのセキュリティとスケーラビリティを備え、AIアプリ開発を加速し、複雑さを過去のものにします。

プロバイダーを超えたLLMリクエストを管理する統一API

メモリ使用量を削減し、推論を高速化する効率的な汎用AIモデルを構築。

AIに優しいllms.txtファイルをウェブサイト用に作成。

ファインチューニングとデプロイのためのオープンソースAIモデル。

LLMアプリケーションのデバッグと改善のためのオープンソースLLMエンジニアリングプラットフォーム

AI最適化されたウェブサイトコンテンツファイルを作成するための無料ツール

アプリケーション構築のためのTypeScript MCPフレームワーク

プライバシーファースト設計とOpenAI互換APIを備えた、複数のローカルAIモデルを実行するための統合ワークスペース。

LLM対応アプリケーションの監視、評価、最適化

LLMアプリケーション評価ループの自動化

セルフホスト型LLM推論のためのGPUメモリ計算ツール