想租用1,000,000个NvidiaCUDAGPU核心吗

从2023年11月底开始，LeaderGPU将为需要AI工作负载基础设施的客户提供NvidiaGeForceRTX6000Ada显卡(目前最好的GPU之一)的租赁服务。

提供的服务器配置包括八个RTX6000AdaGPU和八个48GBGDDR6RAM单元，每个单元包含18,176个CUDA核心。它还拥有高达960GB/s的内存带宽。

由Nvidia构建的CUDA核心与CPU核心类似，旨在同时处理多个计算-并且您需要数十万个核心才能有效地承担最密集的生成式AI工作负载，您拥有的CUDA核心越多访问，越多越好。

这些配置的租赁价格为每分钟0.25欧元(或27美分)，还包括两个IntelXeonGold6248RCPU、384GBRAM以及2TBNVMe存储容量。它们可以在Ubuntu和WindowsServer上运行。

从11月30日开始，您可以每月5,682.22欧元(6,060美元)、每周1,420.55欧元(1,515美元)或每天284.11欧元(300美元)租用此配置。

对于那些寻求每小时费率的人来说，这仅相当于15欧元(16美元)，这意味着租用多达100万个CUDA核心每小时只需花费105欧元(110美元)。

运行人工智能工作负载所需的硬件的购买、维护和运行成本非常昂贵，更不用说非常耗能了。因此，租赁所需的IT基础设施(尤其是GPU)的前景对更多组织来说变得很有吸引力。

这就是像LeaderGPU这样的实体发挥作用的地方，云成为企业运行人工智能工作负载的更可行的途径。

日本公司ThirdWave上个月还宣布推出GPUCloud，让客户能够以相对实惠的价格获得最好的GPU群。