What is Foundry?
Foundry是一个云平台,提供按需访问高性能NVIDIA GPU以进行AI开发。它提供灵活的选项,例如预留实例和竞价实例,以优化成本和性能。研究人员、工程师和科学家受益于其高带宽网络、可扩展的基础设施和强大的安全功能。Foundry无需长期合同,并为AI训练、微调和推理工作负载提供可靠的环境。
主要功能:
预留实例?️:预留GPU以保证特定期间的可用性和性能。转售未使用的容量以产生积分并有效管理成本。
竞价实例?:以低至20倍的性价比访问经济高效的GPU。设置最高价格并利用程序化扩展来灵活管理工作负载。
高性能网络?:利用具有3.2 Tbps InfiniBand的NVIDIA GPU,以优化分布式训练和高效的数据传输。
原生Kubernetes集成☸️:使用原生Kubernetes支持简化容器编排和工作负载扩展。
企业级安全?️:受益于SOC2 II型认证的基础设施、多层安全协议和细粒度的访问控制,以增强数据保护。
使用案例:
AI研究与开发:研究团队可以利用Foundry的预留实例,确保持续访问高性能GPU,用于训练复杂的深度学习模型,而无需受长期合同的约束。他们可以根据需要调整预留容量,并转售未使用的资源,从而优化其研究项目的成本。
机器学习模型训练:AI工程师可以使用Foundry的竞价实例经济高效地训练大型语言模型。通过为计算资源设置最高价格,他们可以利用波动的市场价格,并根据工作负载需求向上或向下扩展其训练基础设施。
快速原型设计与实验:初创公司可以使用Foundry的按需GPU和Kubernetes集成来快速原型设计和试验新的AI应用程序。他们可以轻松地配置和管理GPU集群,从而加快开发周期,缩短创新AI解决方案的上市时间。
总结:
Foundry为AI开发者提供了一个灵活、可扩展和安全的平台,以加速他们的工作。它按需访问高性能NVIDIA GPU,结合经济高效的选项和强大的基础设施,使其成为需要为其AI工作负载提供最佳解决方案的研究人员、工程师和科学家的理想选择。消除基础设施限制,专注于使用Foundry构建尖端的AI解决方案。
常见问题:
Foundry上提供哪些类型的NVIDIA GPU?Foundry提供各种NVIDIA GPU,包括H100、A100、A40和A5000,以满足不同的AI工作负载需求。
如何使用Foundry的预留实例和竞价实例来管理成本?预留实例提供成本可预测性和保证的可用性,而竞价实例为灵活的工作负载提供成本节省。您可以转售未使用的预留容量并为竞价实例设置最高价格以优化您的支出。
Foundry是否适合运行大规模分布式训练作业?是的,Foundry的高性能3.2 Tbps InfiniBand网络和原生Kubernetes支持能够为苛刻的AI工作负载实现高效且可扩展的分布式训练。





