LazyLLM| Launched | 2022-11 |
| Pricing Model | Free |
| Starting Price | |
| Tech used | Cloudflare Analytics,Fastly,Google Fonts,GitHub Pages,Highlight.js,jQuery,Varnish |
| Tag | Text Analysis |
| Launched | |
| Pricing Model | Free |
| Starting Price | |
| Tech used | |
| Tag | Low Code,Mlops |
| Global Rank | 2509184 |
| Country | United States |
| Month Visit | 8348 |
| Global Rank | |
| Country | |
| Month Visit |
Estimated traffic data from Similarweb
LM Studio - LM Studio는 로컬 및 오픈소스 거대 언어 모델(LLM)을 간편하게 실험해 볼 수 있는 데스크톱 앱입니다. LM Studio는 크로스 플랫폼 데스크톱 앱으로, Hugging Face의 모든 ggml 호환 모델을 다운로드하고 실행할 수 있게 하며, 단순하지만 강력한 모델 구성 및 추론 UI를 제공합니다. 이 앱은 가능한 경우 사용자 GPU를 활용합니다.
LLMLingua - LLM의 추론 속도를 높이고 LLM이 주요 정보를 인식하도록 하기 위해, 최대 20배 압축률과 최소한의 성능 저하로 압축된 프롬프트 및 KV-캐시
vLLM - 대규모 언어 모델에 대한 처리량이 높고 메모리 효율적인 추론 및 서비스 엔진
LLM-X - LLM-X로 LLM 개발에 혁명을 불러일으키세요! 안전한 API를 사용해 대규모 언어 모델을 워크플로에 원활하게 통합하세요. 생산성을 높이고 프로젝트에서 언어 모델의 성능을 극대화하세요.