Anyscale

Anyscale 是一款 AI 应用平台，可提供可扩展的 AI 和 Python 计算。它为机器学习和深度学习平台提供了一个统一的计算后端，使用户能够改善大型工作负载的性能、容错性、可扩展性、延迟和成本效益。

主要功能：

1. Ray：用于扩展和生成 AI 工作负载的最受欢迎的开源框架。

2. 性能：只需 60 秒即可扩展到 1000 个节点。

3. 经济高效：在多个区域和云中过渡到更便宜的现货实例，同时最大限度地减少稳态成本。

4. 弹性：弹性且独立地扩展 CPU 计算和 GPU 计算。

5. LLM（大型语言模型）：使用 Anyscale Endpoints 安全地训练您自己的 LLM 或微调开源模型，并享有更多隐私控制。

用例：

1. OpenAI 使用 Ray 训练其最大的模型，包括 ChatGPT

2. Cohere 使用 Ray 作为其机器学习平台的统一计算后端

3. 蚂蚁集团在双 11 网购节期间在 24 万个内核上部署了 Ray Serve

4. Samsara 使用 Ray 将深度学习模型的训练扩展到数亿个输入

Anyscale 的强大功能使其比以往任何时候都更容易以更低的成本开发、运行、部署和扩展 AI 应用程序，同时还能在整个 AI 生命周期中立即跨多个云利用开源社区的最新进展，从而获得快速的上市时间优势，使其成为希望优化工作流程而不影响质量或速度的企业的理想选择