What is Foundry?
Foundry 是一個雲端平台,提供按需存取高性能 NVIDIA GPU 以進行 AI 開發。它提供彈性的選項,例如預留執行個體和搶先執行個體,以優化成本和性能。研究人員、工程師和科學家都能從其高頻寬網路、可擴展基礎架構和強大的安全功能中受益。Foundry 消除了長期合約的需求,並為 AI 訓練、微調和推論工作負載提供可靠的環境。
主要功能:
預留執行個體?️:預留 GPU 以確保在特定期間的可用性和性能。將未使用的容量轉售以產生積分並有效管理成本。
搶先執行個體?:以高達 20 倍的價格效能提升存取經濟高效的 GPU。設定最高價格並利用程式化擴展來靈活管理工作負載。
高性能網路?:使用具有 3.2 Tbps Infiniband 的 NVIDIA GPU,以優化分散式訓練和高效的數據傳輸。
原生 Kubernetes 整合☸️:使用原生 Kubernetes 支援簡化容器編排和工作負載擴展。
企業級安全性?️:受益於 SOC2 Type II 認證基礎架構、多層安全協議和粒度存取控制,以增強數據保護。
使用案例:
AI 研究與開發:研究團隊可以利用 Foundry 的預留執行個體來確保持續存取高性能 GPU,以訓練複雜的深度學習模型,而無需受長期合約的約束。他們可以根據需要調整其預留容量,並將未使用的資源轉售,從而優化其研究項目的成本。
機器學習模型訓練:AI 工程師可以使用 Foundry 的搶先執行個體來經濟高效地訓練大型語言模型。透過設定計算資源的最高價格,他們可以利用波動的市場價格,並根據工作負載需求擴展或縮減其訓練基礎架構。
快速原型設計與實驗:新創公司可以使用 Foundry 的按需 GPU 和 Kubernetes 整合來快速原型設計和實驗新的 AI 應用程式。他們可以輕鬆地佈建和管理 GPU 集群,從而加快其開發週期並縮短創新 AI 解決方案的上市時間。
結論:
Foundry 為 AI 開發人員提供了一個靈活、可擴展且安全的平台,以加速其工作。其按需存取高性能 NVIDIA GPU,結合經濟高效的選項和強大的基礎架構,使其成為需要為其 AI 工作負載提供最佳解決方案的研究人員、工程師和科學家的理想選擇。消除基礎架構限制,專注於使用 Foundry 建立尖端的 AI 解決方案。
常見問題:
Foundry 上有哪些類型的 NVIDIA GPU 可用?Foundry 提供各種 NVIDIA GPU,包括 H100、A100、A40 和 A5000,以滿足多樣化的 AI 工作負載需求。
如何使用 Foundry 的預留和搶先執行個體來管理成本?預留執行個體提供成本可預測性和保證的可用性,而搶先執行個體則為彈性工作負載提供成本節省。您可以轉售未使用的預留容量並設定搶先執行個體的最高價格以優化您的支出。
Foundry 適合運行大型分散式訓練作業嗎?是的,Foundry 的高性能 3.2 Tbps Infiniband 網路和原生 Kubernetes 支援使高效且可擴展的分散式訓練成為可能,以滿足苛刻的 AI 工作負載需求。





