Megatron-LM
Monster API| Launched | |
| Pricing Model | Free |
| Starting Price | |
| Tech used | |
| Tag | Developer Tools,Software Development,Data Science |
| Launched | 2023-01 |
| Pricing Model | Free Trial |
| Starting Price | |
| Tech used | Google Analytics,Google Tag Manager,Microsoft Clarity,cdnjs,JSDelivr,Google Fonts,Bootstrap,jQuery,Popper.js,Progressive Web App,Nginx |
| Tag | Inference Apis |
| Global Rank | |
| Country | |
| Month Visit |
| Global Rank | 1246428 |
| Country | United States |
| Month Visit | 23130 |
Estimated traffic data from Similarweb
ktransformers - KTransformers – это open-source проект, разработанный командой KVCache.AI из Университета Цинхуа и компанией QuJing Tech, предназначенный для оптимизации логического вывода больших языковых моделей. Он снижает требования к аппаратному обеспечению, позволяя запускать модели с 671 миллиардом параметров на отдельных GPU с 24 ГБ VRAM, увеличивает скорость логического вывода (до 286 токенов/с на этапе предварительной обработки и 14 токенов/с на этапе генерации) и подходит для личного, корпоративного и академического использования.
Transformer Lab - Transformer Lab: Открытая платформа для создания, настройки и запуска больших языковых моделей (LLM) локально без программирования. Загрузите сотни моделей, настройте их на различном оборудовании, пообщайтесь, оцените результаты и многое другое.
Nemotron-4 340B - Nemotron-4 340B – это семейство моделей, оптимизированных для NVIDIA NeMo и NVIDIA TensorRT-LLM, включающее в себя передовые модели инструкций и вознаграждений, а также набор данных для обучения генеративного ИИ.
BERT - TensorFlow код и предварительно обученные модели для BERT