英伟达的 GPU 被广泛用于训练大模型,它的价格昂贵加上供不应求导致许多 AI 公司难以获得。现在亚马逊 AWS 推出了 Amazon Elastic Compute Cloud (EC2) Capacity Blocks for ML,允许客户在定义好的时间内租用英伟达 GPU,可用于训练机器学习模型或用现有模型做试验。客户可访问 1-64 个 NVIDIA H100 Tensor Core GPU 实例,每个实例有 8 个 GPU,可以提前 8 周以一天为单位预留最长 14 天使用时间。保留的时间结束之后,实例将会自动关闭。
https://techcrunch.com/2023/11/01/new-aws-service-lets-customers-rent-nvidia-gpus-for-quick-ai-projects/