LitServe| Launched | 2017-12 |
| Pricing Model | Free |
| Starting Price | |
| Tech used | Google Tag Manager,Cloudflare CDN,Google Fonts,Gzip,JSON Schema,OpenGraph,Progressive Web App,HSTS |
| Tag | Mlops,Infrastructure,Inference Apis |
| Launched | 2021 |
| Pricing Model | Paid |
| Starting Price | |
| Tech used | Google Analytics,Microsoft Clarity,Next.js,Vercel,Gzip,OpenGraph,Webpack,HSTS |
| Tag | Inference Apis |
| Global Rank | 89547 |
| Country | United States |
| Month Visit | 464583 |
| Global Rank | 1074 |
| Country | United States |
| Month Visit | 35993702 |
Estimated traffic data from Similarweb
liteLLM - 使用 OpenAI 格式呼叫所有 LLM API。使用 Bedrock、Azure、OpenAI、Cohere、Anthropic、Ollama、Sagemaker、HuggingFace、Replicate(100 多個 LLM)
Lightning - 立即打造 AI 產品!一站式平台提供 GPU 存取、零設定及訓練與部署工具,原型開發速度提升 8 倍。獲頂尖團隊信賴。
Literal AI - Literal AI:針對 RAG 與 LLM 的可觀測性與評估。除錯、監控、最佳化效能並確保 AI 應用程式已準備好上線。
Openlit - OpenLIT 是一個基於 OpenTelemetry 開發的開源 LLM 和 GPU 可觀察性工具。它提供追蹤、指標和一個遊樂場,用於偵錯和改進 LLM 應用程式。支援 20 多種整合,例如 OpenAI、LangChain,並將資料匯出至您現有的可觀察性工具。