本页厂商资料(点开阅读)

AI 云服务商

「AI 云服务商」这一组共 7 家厂商 / 机构,每一家都按 L1~L7 分层整理:那一层它卖什么、哪一层是它的主场。

CoreWeave

主场:L2 / L7

L1 物理层

这一层要先如实说明它实际拥有什么、租用什么。跟本站部分云域一样,它通常租用机房方的场地与电力容量,而不是自己买地建楼——它的真实投入与差异化在于机柜内部的服务器硬件配置与机柜间的网络布线设计,不在物理设施本身。这一层最值得记住的是功率密度:GPU 服务器的单机柜功耗远高于传统服务器,新一代 GPU(如 Nvidia Blackwell 一类)甚至需要液冷才能维持散热——这意味着能承接这类负载的机房本身是稀缺资源,不是随便一个机房都能改造出足够的电力与制冷容量。

L2 数据链路层

这是这个域真正的立身之本,也是它跟本站其他云域最大的差异点:大规模 GPU 训练的性能瓶颈通常不在算力本身,而在 GPU 之间交换梯度数据的速度——分布式训练里的 all-reduce/all-to-all 通信模式,要求成千上万块 GPU 之间的互联既要有极高带宽又要有极低时延,任何一处网络瓶颈都会让昂贵的 GPU 大量时间花在等待数据而不是计算上。它的答案是依托 Nvidia InfiniBand 构建无阻塞胖树(Fat-tree)网络拓扑,并配合 GPUDirect RDMA——让 GPU 显存之间直接跨网络读写数据,不需要经过 CPU 中转,进一步压低时延。

L3 网络层

这一层的核心不是常规的路由与转发(这部分机制跟本站其他云域没有本质差别),而是拓扑感知调度:把一个训练任务的 GPU 节点尽量分配在网络拓扑上物理相近的位置(同一台交换机下、同一个汇聚层内),减少跨层级通信的跳数与时延。这跟本站其他云域强调的「可用区/地域选址」是同一类思路在不同尺度上的体现——只是这里的尺度从「跨城市」缩小到了「同一个数据中心内跨机柜、跨交换机」,但道理一样:物理/拓扑距离仍然决定实际时延,调度器的任务是尽量把强相关的计算放得近一些。

L4 传输层

这一层要接续 L2 讲清 RDMA 的传输行为:InfiniBand 原生支持基于信用的流控,天然不容易丢包;但如果走的是高速以太网加 RoCEv2 的方案,传输层就要依赖显式拥塞通知(ECN)与基于优先级的流控(PFC)这类机制来模拟出接近无损网络的效果——这套机制的调优难度明显高于原生 InfiniBand,配置不当会出现丢包重传,而丢包对 RDMA 类流量的影响比对普通 TCP 流量更严重(RDMA 场景下一次重传可能导致大范围的训练同步等待)。

L5 会话层

这一层是常规的云平台访问会话——控制台与 API 认证、SSH 访问已分配的 GPU 实例、Jupyter Notebook 交互式访问——机制与本站其他云域的账号与访问会话模式没有本质差别,这个域没有在这一层做出独特的差异化。

L6 表示层

该层为空,没有产品或服务。这个域没有独立的加密/表示层产品——存储与传输层面的基础加密能力通常是底层存储与网络设施自带的能力,不构成这个域单独对外销售的产品线。

L7 应用层

这是这个域第二个星标层:用 Kubernetes 而不是传统 HPC 调度器(Slurm)来管理 GPU 集群,这在 AI 基础设施领域是相对少见的选择——传统高性能计算与 AI 研究圈更熟悉 Slurm 这类作业调度器,而 Kubernetes 是云原生生态更熟悉的容器编排平台,两边的用户群体历史上并不重叠。它的解法是自研 SUNK(Slurm on Kubernetes):让熟悉 Slurm 的研究人员继续用 Slurm 的命令与工作流提交作业,底层实际由 Kubernetes 承担资源调度与集群管理——两边的好处都要,用户不必换习惯,基础设施团队仍然用云原生工具链管理集群。除此之外,这一层还包括面向 AI 训练/推理场景的对象存储与模型部署服务。

Lambda

主场:L2 / L5

L1 物理层

这一层要先说清楚它跟本站 CoreWeave 域的一个真实差异:CoreWeave 是从加密货币挖矿硬件转型而来,这个域则是从深度学习硬件公司起步——2012 年成立时的主业是制造和销售预装深度学习框架的工作站与服务器,直到 2018 年前后才在硬件业务基础上加开云计算业务。这段更早的硬件积累意味着它进入云计算市场时,对深度学习工作负载的实际硬件需求(GPU 选型、散热、机箱设计)已经有多年一线经验,不是纯软件/运维团队现学现卖。跟本站多数云域一样,规模化的云机房场地本身通常来自租用,真正的差异化投入在服务器硬件配置与机柜网络布线上。

L2 数据链路层

这是这个域的星标层之一:1-Click Clusters——用户可以自助式地一次性拉起一个由 InfiniBand 互联的多节点 GPU 训练集群,不需要走传统的定制化销售与人工部署流程。跟本站 CoreWeave 域一样,大规模分布式训练的性能瓶颈通常在 GPU 间的梯度同步速度,而不是单卡算力,这个域给出的答案同样是 InfiniBand 互联加 GPUDirect RDMA(GPU 显存跨网络直接读写,不经过 CPU 中转)。跟 CoreWeave 相比,它更强调自助开通的简单性——延续了它零售单卡业务「几十秒内拿到可用资源」的产品哲学,即便是多节点集群这种传统上需要人工介入的产品,也尽量做成自助流程。

L3 网络层

这一层是常规的云网络能力——为实例与集群分配 IP、提供私有网络分段隔离多租户流量、通过公开 API/控制台管理网络配置——机制上跟本站其他云/Neocloud 域没有本质差异,这个域没有在这一层做出独立于 L2 集群互联之外的差异化产品。

L4 传输层

该层为空,没有产品或服务。这个域没有公开披露独立于 L2 InfiniBand 互联之外的传输层调优产品——集群内部的可靠传输机制随 InfiniBand 结构一并提供,不构成单独的产品或文档化能力,如实标注为空,避免把 L2 的内容拆开重复。

L5 会话层

这是这个域第二个星标层,也是它跟本站 CoreWeave 域在产品定位上最明显的分岔点。CoreWeave 几乎完全面向大型企业级训练任务,会话层只是常规的控制台/API/SSH 访问;这个域从早年硬件业务延伸出的另一条产品线,是面向个人研究者与小团队的零售型单卡 GPU 租用——在控制台选好 GPU 型号,几十秒内就能拿到一台预装好深度学习环境的可用实例,直接在浏览器里打开 Jupyter Notebook 开始写代码,不需要自己配置环境。这类即时可用的单卡自助租用产品,在这个域早年建立市场口碑时是相对少见的选择,本站其他 Neocloud 域大多只强调大规模集群这一端。

L6 表示层

该层为空,没有产品或服务。这个域没有独立的加密/表示层产品,存储与传输层面的基础加密能力属于底层设施自带能力,不构成单独对外销售的产品线。

L7 应用层

这一层是这个域云业务的控制面:Lambda Cloud 控制台与 API,用于管理单卡实例、1-Click Clusters 集群与账单。除了云端产品,这个域还保留着面向大型企业客户的本地部署参考架构产品线(延续 L1 提到的硬件业务),为需要自建机房而不是用云端资源的企业客户提供整柜/整集群的参考设计与集成服务——这条线跟它的云产品并行存在,服务的是不愿意把训练负载放到公有云上的客户群体。

Crusoe

主场:L1

L1 物理层

这是这个域的星标层,也是它跟本站其他 Neocloud 域最实质的差异:它不是先有云软件再补硬件,而是从能源工程起步——2018 年成立时做「数字火焰消减」,在油气井场就地捕获原本会被直接燃烧放空的伴生天然气发电,为模块化数据中心供电,最早承接的是加密货币挖矿负载。这套「快速部署模块化数据中心、就近对接非常规电力」的工程能力,后来直接延伸到了 AI GPU 集群业务——大规模 GPU 集群的电力获取本身就是扩容瓶颈,这个域比多数同行更早就在解决这个问题。公开报道显示它也承接大型 AI 数据中心园区的开发与建设(如得克萨斯州 Abilene 的大型项目),角色更接近数据中心开发运营方,而不只是这类设施的租用方。

L2 数据链路层

跟本站其他 Neocloud 域一样,大规模分布式训练要求 GPU 集群内部有极高带宽与极低时延的互联,这个域为大型 GPU 集群提供基于 InfiniBand 的节点间互联,配合 GPUDirect RDMA 减少 GPU 显存间通信的时延。这部分技术路线跟本站 CoreWeave、Lambda 两个域大方向一致(都依托 Nvidia 的 InfiniBand 技术栈),这个域没有在互联协议本身上做出独立于同行的差异化——它的差异化重心在 L1 的能源与设施工程能力上。

L3 网络层

常规的云网络能力——为实例与集群分配 IP、提供私有网络隔离多租户流量——机制上跟本站其他云/Neocloud 域没有本质差异,这个域没有在这一层做出独立的差异化产品。

L4 传输层

该层为空,没有产品或服务。这个域没有公开披露独立于 L2 InfiniBand 互联之外的传输层调优产品,可靠传输机制随网络结构一并提供,不构成单独的产品或文档化能力。

L5 会话层

常规的云平台访问会话——控制台与 API 认证、SSH 访问已分配的 GPU 实例——机制跟本站其他云/Neocloud 域没有本质差别,这个域没有在这一层做出独立的差异化。

L6 表示层

该层为空,没有产品或服务。这个域没有独立的加密/表示层产品,存储与传输层面的基础加密能力属于底层设施自带能力,不构成单独对外销售的产品线。

L7 应用层

这一层是 Crusoe Cloud 的常规云管理能力:基于 Kubernetes 的托管容器编排、GPU 实例与集群管理控制台/API。跟本站 CoreWeave 域类似都选择了 Kubernetes 而非传统 HPC 调度器,但这个域没有像 CoreWeave 的 SUNK 一样公开过自研的 Slurm 兼容层,如实按常规托管 Kubernetes 服务记录,不做过度延伸。

Nebius

主场:L1 / L7

L1 物理层

这是这个域的星标层,也是它跟本站其他 Neocloud 域相比一个独特的结构性差异:它不是一家从零起步的创业公司,而是从俄罗斯科技公司 Yandex 拆分而来的国际业务主体,2024 年重组后完全转向 AI 基础设施。这段历史意味着它继承了 Yandex 数十年积累的数据中心工程经验与实体设施——其中最值得记录的是 Yandex 在芬兰 Mäntsälä 建设的大型数据中心,一个以能效设计知名的设施(其余热被用于为周边住宅供暖)。跟本站从零起步或从相邻业务转型而来的其他 Neocloud 域相比,这个域在数据中心工程这一层的起点更为成熟。

L2 数据链路层

跟本站其他 Neocloud 域一样,这个域为大规模 GPU 训练集群提供基于 Nvidia InfiniBand 的节点间高带宽低时延互联,配合 GPUDirect RDMA 降低 GPU 显存间通信的时延。这部分技术路线跟同行大方向一致,这个域没有在互联协议本身上做出独立于同行的差异化——它的差异化重心在 L1 继承自 Yandex 的设施工程经验,以及 L7 的云平台产品化能力。

L3 网络层

常规的云网络能力——为实例与集群分配 IP、提供私有网络隔离多租户流量——机制上跟本站其他云/Neocloud 域没有本质差异。Yandex 历史上运营过俄罗斯规模最大的搜索与广告服务网络,理论上具备大规模网络工程经验,但这部分经验在这个域当前的 AI 云产品文档中没有被具体产品化地披露,如实标注为常规能力,不做未经证实的延伸。

L4 传输层

该层为空,没有产品或服务。这个域没有公开披露独立于 L2 InfiniBand 互联之外的传输层调优产品,可靠传输机制随网络结构一并提供,不构成单独的产品或文档化能力。

L5 会话层

常规的云平台访问会话——控制台与 API 认证、SSH 访问已分配的 GPU 实例——机制跟本站其他云/Neocloud 域没有本质差别,这个域没有在这一层做出独立的差异化。

L6 表示层

该层为空,没有产品或服务。这个域没有独立的加密/表示层产品,存储与传输层面的基础加密能力属于底层设施自带能力,不构成单独对外销售的产品线。

L7 应用层

这是这个域第二个星标层:Nebius AI Cloud 平台,提供 GPU 实例、托管 Kubernetes 集群管理与推理部署能力,产品形态跟本站其他 Neocloud 域的云平台大方向一致。需要如实说明的边界:Nebius Group 重组时跟随分拆出的 Toloka(数据标注)、Avride(自动驾驶)等业务是独立运营的姊妹公司,不是这个云平台域的产品线,本站不在这个域的层级内容里混入这些姊妹公司的产品。

Nscale

主场:L1

L1 物理层

这一层是这个域目前公开信息中相对确凿的部分:一家总部在英国、专注 AI 训练算力基础设施的 GPU 云服务商,公开报道显示其在挪威等北欧地区建设数据中心。北欧地区电力结构中水电占比较高,是不少数据中心选择在此选址的常见考量之一,但具体到某一座设施的实际电力构成与规模,应以其官方最新披露为准,本文不做超出已确认信息的具体数字推测。

L2 数据链路层

该层为空,没有产品或服务。这个域没有公开、可靠的集群互联技术细节(例如具体的网络拓扑或 RDMA 方案)供本文引用——本站其他 Neocloud 域在这一层的 InfiniBand/GPUDirect 内容均有相对确凿的公开信息支撑,这个域目前没有,因此如实标注为空,不套用同类公司的技术模板做无依据的推测。

L3 网络层

该层为空,没有产品或服务。理由同 L2:没有可靠的公开信息支撑具体的网络层产品细节,如实标注为空。

L4 传输层

该层为空,没有产品或服务。理由同 L2、L3:没有可靠的公开信息支撑具体的传输层产品细节,如实标注为空。

L5 会话层

该层为空,没有产品或服务。这个域的云平台控制面公开细节有限,本文不对具体的账号/会话机制做无依据的推测,如实标注为空。

L6 表示层

该层为空,没有产品或服务。这个域没有独立的加密/表示层产品的公开信息,如实标注为空。

L7 应用层

这一层是这个域另一个相对确凿的公开事实:据公开报道,它与 Microsoft 达成过 GPU 算力供应层面的合作,为 Microsoft 的 AI 算力需求提供补充产能——这是近年多家 Neocloud 公司(包括本站已收录的几家)跟大型云厂商之间常见的一种合作模式:大型云厂商向专门的 GPU 云服务商采购补充算力,而不是完全依赖自建产能。具体合作规模与条款应以双方最新公告为准,本文不做超出已确认信息的数字推测。

Together AI

主场:L7

L1 物理层

这一层要如实说明这个域跟本站其他 Neocloud 域的一个结构性差异:它没有公开资料显示拥有同等规模的自建数据中心——它的 GPU 集群算力更多通过租用机房场地与多云合作方式获取,这跟本站 CoreWeave、Crusoe 等域「physical infrastructure 是叙事起点」的路径不同。这个域的核心资产不在物理设施本身,而在 L7 的推理与微调服务软件层。

L2 数据链路层

这个域运营/租用面向大规模分布式训练与批量推理的 GPU 集群,公开资料显示其中部分集群采用 InfiniBand 互联以支持多节点分布式训练——这部分技术路线跟本站 CoreWeave、Lambda 等域大方向一致,但这个域没有公开披露独立于同行的互联协议细节或专有拓扑设计,如实按「使用而非自研这套底层网络技术」记录,不夸大为独立技术差异化。

L3 网络层

常规的云网络能力——为推理与训练任务分配 IP、提供多租户网络隔离——机制上跟本站其他云/Neocloud 域没有本质差异,这个域没有在这一层做出独立的差异化产品。

L4 传输层

该层为空,没有产品或服务。这个域没有公开披露独立的传输层调优产品,可靠传输机制随底层网络结构一并提供,不构成单独的产品或文档化能力。

L5 会话层

常规的云平台访问会话——控制台与 API 认证,用于调用推理接口、管理微调任务——机制跟本站其他云/Neocloud 域没有本质差别,这个域没有在这一层做出独立的差异化。

L6 表示层

该层为空,没有产品或服务。这个域没有独立的加密/表示层产品,存储与传输层面的基础加密能力属于底层设施自带能力,不构成单独对外销售的产品线。

L7 应用层

这是这个域的星标层,也是它真正的核心资产所在:Together Inference——面向开源大模型(如 Llama、Mixtral 一类)的优化推理服务,团队里有 FlashAttention 论文作者参与推理性能优化工作(具体团队构成以官方最新披露为准);Together Fine-tuning——面向开源大模型的微调平台;以及 RedPajama——一个致力于完全公开复现大模型训练数据集的开源项目,是这个域早年建立学术与开源社区声誉的关键贡献。跟本站其他 Neocloud 域相比,这个域的差异化重心不在底层物理网络架构,而在推理与微调服务本身的软件层优化。

Fluidstack

主场:L1

L1 物理层

这一层是这个域目前公开信息中相对确凿的部分:一家成立于 2017 年前后的 GPU 云服务商,早期业务据了解包含渲染与其他 GPU 密集型负载,后来转向以大规模 AI 训练集群租用为主的定位。跟本站 Lambda 域面向个人研究者的零售模式不同,这个域的服务对象倾向大型企业与研究机构,起售规模通常是整柜或更大。具体的机房自建/租用比例、地域分布等细节,公开资料有限,本文不做超出已确认信息的推测。

L2 数据链路层

该层为空,没有产品或服务。这个域没有公开、可靠的集群互联技术细节(例如具体的网络拓扑或 RDMA 方案)供本文引用,如实标注为空,不套用同类公司的技术模板做无依据的推测。

L3 网络层

该层为空,没有产品或服务。理由同 L2:没有可靠的公开信息支撑具体的网络层产品细节,如实标注为空。

L4 传输层

该层为空,没有产品或服务。理由同 L2、L3:没有可靠的公开信息支撑具体的传输层产品细节,如实标注为空。

L5 会话层

该层为空,没有产品或服务。这个域的云平台控制面公开细节有限,本文不对具体的账号/会话机制做无依据的推测,如实标注为空。

L6 表示层

该层为空,没有产品或服务。这个域没有独立的加密/表示层产品的公开信息,如实标注为空。

L7 应用层

该层为空,没有产品或服务。这个域的云管理控制台/API 具体形态与功能范围,公开资料有限,本文不做无依据的产品细节描述——这跟本站其他 Neocloud 域在 L7 有确凿公开信息支撑的情况不同,如实标注为空,而不是假设它跟同行有相同的产品形态。

冀ICP备2026021556号-2|冀公网安备13068302000206号