有什么好的网站做数学题吗,网站建设和编程的区别,企业网站建设问卷,360免费wifi创建失败怎么回事Serverless Kubernetes和ACK虚拟节点都已基于ECI提供GPU容器实例功能#xff0c;让用户在云上低成本快速搭建serverless AI实验室#xff0c;用户无需维护服务器和GPU基础运行环境#xff0c;极大降低AI平台运维的负担#xff0c;显著提升整体计算效率。
如何使用GPU容器实…Serverless Kubernetes和ACK虚拟节点都已基于ECI提供GPU容器实例功能让用户在云上低成本快速搭建serverless AI实验室用户无需维护服务器和GPU基础运行环境极大降低AI平台运维的负担显著提升整体计算效率。
如何使用GPU容器实例
在pod的annotation中指定所需GPU的类型P4/P100/V100等同时在resource.limits中指定GPU的个数即可创建GPU容器实例。每个pod独占GPU暂不支持vGPUGPU实例的收费与ECS GPU类型收费一致不产生额外费用目前ECI提供多种规格的GPU类型。
示例
1. 创建Serverless Kubernetes集群
选择深圳区域可用区D。 2. 创建GPU容器实例
我们使用tensorflow模型对如下图片进行识别 使用模版创建pod其中选择P100 GPU规格。在pod中的脚本会下载上述图片文件并根据模型进行识别计算。 apiVersion: v1
kind: Pod
metadata:name: tensorflowannotations:k8s.aliyun.com/eci-gpu-type : P100
spec:containers:- image: registry-vpc.cn-shenzhen.aliyuncs.com/ack-serverless/tensorflowname: tensorflowcommand:- sh- -c- python models/tutorials/image/imagenet/classify_image.pyresources:limits:nvidia.com/gpu: 1restartPolicy: OnFailure
部署后pod会处于pending状态 等待几十秒后pod状态变成Running待计算完成后会变成Terminated状态。 从pod的日志我们可以看到pod能够识别P100 GPU硬件而且可以正确识别图片为Panda。 总结
通过以上示例可以看出从环境搭建到计算结束整个过程用户无需购买和管理服务器无需安装GPU运行环境serverless的方式可以让用户更加关注在AI模型构建而不是底层基础设施的管理和维护。
原文链接 本文为云栖社区原创内容未经允许不得转载。
