BitNet.cpp
Microsoft 的 bitnet.cpp，一個革命性的 1 位元 LLM 推論架構，帶來了新的可能性。可在 CPU 上運行，無需 GPU。成本低廉，人人皆可使用。探索您本地設備上的先進 AI。
LlamaEdge
LlamaEdge 專案讓您輕鬆在本機端執行 LLM 推論應用程式，並為 Llama2 系列的 LLM 建立與 OpenAI 相容的 API 服務。
BitNet.cpp
| Launched | |
| Pricing Model | Free |
| Starting Price | |
| Tech used | |
| Tag | Inference Apis,Infrastructure,Developer Tools |
LlamaEdge
| Launched | 2024-01 |
| Pricing Model | Free |
| Starting Price | |
| Tech used | Google Analytics,Google Tag Manager,Fastly,Google Fonts,GitHub Pages,Gzip,Varnish |
| Tag | Software Development,Chatbot Builder,Code Generation |
BitNet.cpp Rank/Visit
| Global Rank | |
| Country | |
| Month Visit |
Top 5 Countries
Traffic Sources
LlamaEdge Rank/Visit
| Global Rank | 3992632 |
| Country | Germany |
| Month Visit | 2956 |
Top 5 Countries
43.76%
37.88%
15.81%
2.54%
Germany
United States
India
France
Traffic Sources
4.01%
1.54%
0.13%
10.31%
25.52%
57.47%
social
paidReferrals
mail
referrals
search
direct
Estimated traffic data from Similarweb
What are some alternatives?
When comparing BitNet.cpp and LlamaEdge, you can also consider the following products
CoreNet - CoreNet 是一個深度神經網路工具包，研究人員與工程師可以利用它訓練各種任務的標準和新穎小型與大型模型
OpenBMB - OpenBMB：建立大型預訓練語言模型中心與工具，以加速訓練、微調和推論超過 100 億參數的大型模型。加入我們的開放原始碼社群，讓每個人都能使用大型模型。
MiniCPM-2B - MiniCPM 是由 ModelBest Inc. 和 TsinghuaNLP 開發的 End-Side LLM，不包含嵌入函數的參數只有 2.4B 個（總計 2.7B 個）。
Netmind Power - NetMind：您的一站式 AI 平台。運用多元模型、高效能 GPU 與高性價比工具，助您輕鬆建構、部署與規模化您的 AI 專案。
nanochat - nanochat: 駕馭 LLM 技術棧。運用約千行可自訂的程式碼，以經濟實惠的方式在單一節點上建構及部署全端 LLM。專為開發者設計。