최상의 Shimmy 대체품 2025년
-
오프라인 AI 실험을 위한 무료 앱, Local AI Playground를 경험해보세요. CPU 추론, 모델 관리 등의 기능을 제공합니다.
-
TalkCody: The open-source AI coding agent. Boost developer velocity with true privacy, model freedom & predictable costs.
-
ManyLLM: 로컬 LLM 워크플로우를 통합하고 보호하세요. 개발자 및 연구자를 위한 프라이버시 최우선 작업 공간으로, OpenAI API 호환성 및 로컬 RAG를 지원합니다.
-
-
LM Studio는 로컬 및 오픈소스 거대 언어 모델(LLM)을 간편하게 실험해 볼 수 있는 데스크톱 앱입니다. LM Studio는 크로스 플랫폼 데스크톱 앱으로, Hugging Face의 모든 ggml 호환 모델을 다운로드하고 실행할 수 있게 하며, 단순하지만 강력한 모델 구성 및 추론 UI를 제공합니다. 이 앱은 가능한 경우 사용자 GPU를 활용합니다.
-
CogniSelect SDK: 브라우저 내에서 LLM을 개인적으로 실행하는 AI 앱을 구축하세요. 런타임 비용은 0원, 완벽한 데이터 프라이버시 및 즉각적인 확장성을 확보할 수 있습니다.
-
Bodhi App을 사용하면 자신의 기기에 대규모 언어 모델을 실행할 수 있습니다. 개인 정보 보호, 사용하기 쉬운 채팅 UI, 간편한 모델 관리, OpenAI API 호환성 및 고성능을 누려보세요. 무료 오픈 소스이며, 개발자, AI 애호가, 그리고 개인 정보 보호를 중시하는 사용자에게 완벽합니다. 지금 다운로드하세요!
-
ChatFrame으로 고도화된 AI 워크플로우를 간소화하십시오. 다수의 LLM을 통합하고, 로컬 RAG를 통해 독점 데이터를 안전하게 보호하며, 데스크톱에서 복합적인 결과물을 렌더링할 수 있습니다.
-
LLM 비용은 대폭 절감하고, 개인 정보 보호는 한층 강화하세요. RunAnywhere의 하이브리드 AI가 최적의 성능과 보안을 위해 요청을 온디바이스 또는 클라우드로 지능적으로 라우팅합니다.
-
-
LlamaEdge 프로젝트를 통해 로컬 환경에서 LLM 추론 앱을 간편하게 실행하고, Llama2 시리즈 LLM을 위한 OpenAI 호환 API 서비스를 구축할 수 있습니다.
-
LazyLLM: 다중 에이전트 LLM 앱을 위한 로우코드. 프로토타입부터 실제 서비스(프로덕션)까지 복잡한 AI 솔루션을 빠르게 구축하고, 반복하며, 배포하세요. 엔지니어링에 얽매이지 않고 알고리즘에만 집중하십시오.
-
backboard.io의 API로 2200개 이상의 LLM을 통합하세요. 파편화 없이 더 스마트하고 문맥을 이해하는 애플리케이션을 구축할 수 있도록 지속적인 AI 메모리 및 RAG를 확보하세요.
-
Shadow: 보안 코드 개발을 위한 오픈소스 AI 에이전트. 하드웨어 격리 실행과 코드베이스에 대한 심층적인 이해를 바탕으로 작업을 자신감 있게 자동화할 수 있습니다.
-
FastRouter.ai는 스마트 LLM 라우팅 기술로 운영 환경의 AI 성능을 최적화합니다. 단 하나의 API로 100개 이상의 모델을 통합하여 비용을 절감하고, 안정적인 운영과 손쉬운 확장을 가능하게 합니다.
-
BrowserAI: 브라우저에서 바로 프로덕션 레디 LLM을 실행하세요. 간편하고, 빠르며, 프라이빗하고, 오픈소스입니다. WebGPU 가속, 서버 비용 제로, 오프라인 기능 등을 지원합니다. 개발자, 기업, 그리고 취미 개발자 모두에게 이상적입니다.
-
Harbor는 컨테이너화된 LLM 툴킷입니다. 완벽한 LLM 스택을 즉시 시작하고, 서비스를 원활하게 연결하며, 사용자 환경을 맞춤 설정하고, 모델 관리를 간소화하고, LLM 성능을 향상시킬 수 있습니다. AI 개발, 테스트 및 학습에 이상적입니다.
-
Shisa V2 405B: 일본 최고 성능의 이중 언어 LLM. 고도화된 애플리케이션에서 세계 최고 수준의 일본어 및 영어 AI 성능을 경험해 보세요. 오픈소스.
-
promptfoo로 언어 모델의 성과를 향상하십시오. 더 빨리 반복하고, 품질 향상 효과를 측정하고, 침체를 감지하는 등 다양한 작업을 수행할 수 있습니다. 연구원과 개발자에게 완벽한 솔루션입니다.
-
OpenMemory: 자체 호스팅 AI 메모리 엔진. 지속적이고, 구조화되어 있으며, 비공개적이고, 설명 가능한 장기 기억을 활용하여 LLM 컨텍스트의 한계를 뛰어넘으세요.
-
Moonshine 음성 인식 모델. 빠르고 정확하며 리소스 효율적입니다. 기기 내 처리에 이상적입니다. Whisper보다 뛰어납니다. 실시간 음성 기록 및 음성 명령을 위해. 다양한 애플리케이션을 강화합니다.
-
최고 수준의 AI 모델을 간편한 API로 구동하고, 사용량에 따라 비용을 지불하세요. 저비용, 확장성 및 운영 준비가 완료된 인프라를 제공합니다.
-
웹GPU를 사용하여 브라우저에서 오픈 소스 모델(Gemma, Mistral, LLama3 등)을 로컬로 실행할 수 있는 오픈 소스, 기능이 풍부한 Gemini/ChatGPT와 유사한 인터페이스입니다. 서버 측 처리가 없으므로 데이터가 PC를 벗어나지 않습니다!
-
Tsinghua 대학의 KVCache.AI 팀과 QuJing Tech에서 개발한 오픈 소스 프로젝트인 KTransformers는 대규모 언어 모델 추론을 최적화합니다. 하드웨어 제약 조건을 낮추고, 24GB VRAM의 단일 GPU에서 6710억 개 파라미터 모델을 실행하며, 추론 속도를 향상(전처리 최대 286 토큰/초, 생성 최대 14 토큰/초)시켜 개인, 기업 및 학술 용도에 적합합니다.
-
LangDB AI Gateway는 AI 워크플로우를 위한 올인원 제어 센터입니다. 150개 이상의 모델에 대한 통합 액세스를 제공하며, 스마트 라우팅을 통해 최대 70%의 비용 절감 효과와 원활한 통합을 지원합니다.
-
-
Open-Fiesta: 개발자를 위한 오픈 소스 AI 챗 플레이그라운드. 여러 AI 모델을 나란히 비교하고 평가할 수 있습니다. 완전한 제어권을 위해 직접 호스팅하세요.
-
Kolosal AI는 속도, 효율성, 개인 정보 보호 및 친환경성을 최우선으로 하여 노트북, 데스크탑, 심지어 Raspberry Pi와 같은 기기에서 대규모 언어 모델(LLM)을 로컬로 실행할 수 있도록 지원하는 오픈소스 플랫폼입니다.
-
Langbase는 조립식 인프라를 갖춘 혁신적인 AI 플랫폼입니다. 속도, 유연성, 접근성을 제공합니다. 몇 분 안에 배포할 수 있습니다. 여러 LLM을 지원합니다. 개발자에게 이상적입니다. 비용 절감 효과를 제공합니다. 다양한 사용 사례를 지원합니다. AI 진화를 강화합니다.
-
LlamaFarm: 프로덕션 수준 AI 앱을 신속하게 구축 및 배포하세요. 완벽한 제어 및 모델 이식성을 위해 AI를 코드형 설정으로 정의하세요.