做视频网站软件有哪些,php网站建设方案,wordpress幻灯片多大,百度seo如何优化简介#xff1a; 优化镜像加速冷启动大致分为两种做法#xff1a;降低绝对延迟和降低冷启动概率。自容器镜像上线以来我们已经通过镜像加速技术#xff0c;分阶段降低了绝对延迟。本文在此基础上#xff0c;介绍借助函数计算下一代IaaS底座神龙裸金属和安全容器#xff0c…简介 优化镜像加速冷启动大致分为两种做法降低绝对延迟和降低冷启动概率。自容器镜像上线以来我们已经通过镜像加速技术分阶段降低了绝对延迟。本文在此基础上介绍借助函数计算下一代IaaS底座神龙裸金属和安全容器进一步降低绝对延迟且能够大幅降低冷启动频率。 作者 | 修踪 来源 | 阿里技术公众号
一 背景
函数计算在2020年8月创新地提供了容器镜像的函数部署方式。AWS Lambda在2020年12月Re-Invent国内其他FaaS提供商在2021年6月也相继宣布了FaaS支持容器的重磅功能。冷启动一直都是FaaS的痛点引入比代码压缩包大几十倍的容器镜像后冷启动恶化便成为开发者最大的担忧。
函数计算在支持容器镜像的设计阶段就决定要让开发者像使用代码包秒级弹性能力一样的体验使用镜像既要易用性也要保持FaaS自身的极致弹性免除用户的纠结和取舍。理想的用户体验是函数调用几乎感觉不到镜像数据远程传输带来的延迟额外消耗。
优化镜像加速冷启动大致分为两种做法降低绝对延迟和降低冷启动概率。自容器镜像上线以来我们已经通过镜像加速技术分阶段降低了绝对延迟。本文在此基础上介绍借助函数计算下一代IaaS底座神龙裸金属和安全容器进一步降低绝对延迟且能够大幅降低冷启动频率。
二 优化历程 以某一镜像为例
1 第一代架构ECS虚拟机
第一阶段2021年3月按需加载减少数据传输
过去的问题在于启动镜像前全量拉取镜像内部数据导致无用的镜像数据也会被完整下载而占用了过多的准备时间。于是我们最初的优化方向是尽量忽略无用的镜像数据达到按需加载。为此我们通过镜像加速技术省略掉了拉取无用数据的时间实现了函数计算自定义镜像冷启动从分钟级到秒级提升的相关技术细节。
第二阶段2021年6月记录容器实例启动I/O轨迹在后续实例启动中提前预取镜像数据
我们发现函数实例在容器启动和初始化阶段I/O数据访问模式高度一致。根据FaaS平台基于应用运行模式调度资源的特点我们在函数实例首次启动时记录了I/O轨迹的脱敏数据在后续的实例启动时将轨迹数据作为提示提前预取镜像数据到本地进一步减小了冷启动延时。
上述两种加速优化虽然大幅减小了冷启动绝对延迟但由于传统ECS VM在闲置一段时间后就会被回收再次启动新机器时就会重新触发冷启动。于是如何减少冷启动频次便成为了下一阶段重点攻克的题目之一。
2 下一代架构弹性裸金属服务器神龙 microVM
在设计下一代架构时我们不仅考虑解决冷启动频次问题也同样注意到缓存对于启动时延的影响。于是我们创新性的发明了Serverless Caching根据不同的存储服务特点构建数据驱动、智能高效的缓存体系实现软硬件协同优化将Custom Container体验进一步提升。函数计算后台神龙的更迭时间远大于ECS VM的闲置回收时间对于用户侧而言热启动频率大幅提升在冷启动后缓存会持续保留在神龙机器上缓存命中率可达90%以上。
对比ECS虚拟机神龙裸金属加上微型虚拟机的架构为镜像加速带来了更多的优化空间
减小回源带宽压力并且减少重复数据存储。比起ECS VM来同时几千实例启动对于镜像仓库的读放大和磁盘存储空间的写放大降低至少两个数量级。虚拟机级别的安全隔离使得函数计算组件可以安全地组成可用区级别缓存网络速度传输速度甚至优于云盘。
函数计算Custom Container登陆神龙的同时也提高了资源利用率降低成本这对用户和服务端维护是双赢。
Serverless Caching的架构则可以在不增加资源使用成本的同时提供更多的优化潜力。 (L1~L4为不同级别缓存距离和延迟从小到大
三 横向对比
到目前为止我们已经将镜像加速优化到了较高的水准。我们在函数计算的公开用例里面挑选了4个典型的镜像并将它们适配至国内外几个大型云厂商名称以厂商A、厂商B代替进行横向对比每间隔3小时调用上述镜像重复数次我们得到了以下结果
1 AI在线推理-猫狗识别
该镜像包含了基于TensorFlow深度学习框架的图像识别应用。阿里云函数计算和厂商A都能正常运行但厂商A性能较差。厂商B则无法正常运行。下图中阿里云函数计算和厂商A的延时数据包含镜像拉取容器启动执行推理运算端对端的延时而厂商B的数据只是拉取镜像部分的延时都已经是最慢。FC相对稳定可以看出函数计算在CPU消耗型如AI推理方面有着更大优势。 以云盘热启动为基准灰色对比各个厂商的额外开销彩色
2 Python Flask Web Service
此镜像为常见的网络服务内部使用Python搭配Flask服务框架。此镜像的作用旨在测试不同云产品是否有能力完成高效按需加载。FC与厂商A均有波动但后者的波动最为明显。 以云盘热启动为基准灰色对比各个厂商的额外开销彩色
3 Python机器学习运算
镜像内同样是Python运行环境可以看出各个厂商依旧保持着各自的特性厂商B全量下载厂商A部分请求有优化但不稳定。 以云盘热启动为基准灰色对比各个厂商的额外开销彩色
4 Cypress Headless Chrome
此镜像包含无头浏览器测试流程厂商A由于编程模型限制和运行环境不兼容无法运行。而厂商B过慢只能在规定时间内耗时71.1秒完成应用初始化。不难看出函数计算在重I/O的镜像方面依然有着不错的表现。 以云盘热启动为基准灰色对比各个厂商的额外开销彩色绿色部位为优于基准线的端到端耗时
四 推荐最佳实践
支持容器技术是 FaaS 的必备特质容器增加了可移植性和交付敏捷性而云服务减轻了运维与闲置成本、提供了弹性扩缩容能力。自定义镜像与函数计算结合最直接的解决了用户为云厂商定制化地移植大容量业务逻辑带来的困扰。
FaaS运行容器时需要尽可能消除额外开销使用户体验与本地运行场景相近。稳定快速的运行同样是优秀FaaS的标准FC提供了镜像加载优化的同时大大降低了冷启动频次为稳定快速的运行提供了保障。不仅如此在应用的可移植方面更加需要做到平滑不限制开发模式的同时也要尽量降低用户使用门槛。函数计算自定义镜像支持标准HTTP服务自由配置可用端口可读的同时也可写提供多种工具链以及多元化的部署方案无强制等待镜像准备完成时间自带HTTP触发而不依赖其他云服务支持自定义域名等一系列优质解决方案。
函数计算自定义镜像适用但不限于人工智能推理、大数据分析、游戏结算、在线课程教育、音视频处理等。推荐使用阿里云容器镜像服务企业版实例ACR EE自带镜像加速功能省去使用ACR镜像时手动开启加速拉取和加速镜像准备的步骤。
1 AI/ML在线推理
推理类计算依赖大体积底层训练框架以及大量的数据处理普通的AI框架如Tensorflow的镜像可以轻松达到GB级对CPU要求已经很高要再满足扩缩容就更是挑战。函数计算自定义镜像可以很好的解决此类需求用户只需直接使用底层训练框架镜像并与数据处理逻辑打包至新的镜像内便可以轻松省去更换运行环境所带来的移植开销同时又可以满足弹性扩缩容带来的快速训练结果。歌曲喜好推理、图片AI识别分析等都可以无缝与函数计算衔接以达到弹性满足大量动态的在线推理请求。 2 轻量灵活ETL
服务都依赖数据而数据处理往往需要消耗大量资源来满足高效快速的数据变更请求。自定义镜像与其他函数计算运行时一样可以满足数据处理时的安全隔离又同时保留了用户将数据处理部分的业务逻辑自由的打包成镜像的便捷能力。提供平滑迁移的同时满足了镜像启动的极低额外延时满足了用户针对如数据库治理、万物物联等应用场景的安全高效弹性的数据处理需求。 3 游戏战斗结算
各类游戏内通常会设置日常任务等场景短时间集聚大量玩家同时需要战斗结算一类的数据处理为了不让游戏玩家失去耐心战斗数据校验通常需要在短短几秒内完成且单个玩家的数据结算单位时间不能随着玩家数量增长而恶化。此类数据处理的业务逻辑通常繁杂且高度重复将玩家数据处理逻辑打包至函数计算自定义镜像内便可以弹性满足短时间大量相似的玩家结算请求。 五 未来规划
优化函数计算自定义镜像的初衷就是要让用户感受不到容器镜像传输带来的额外延迟给云原生开发者最极致的体验。优化不会停止我们最终的目标是几乎消除容器镜像拉取的额外开销和大量扩容时镜像仓库成为瓶颈极速伸缩。进一步完善Serverless Caching的同时Custom Container功能未来会帮助Kubernetes上的Web应用, Job类工作负载无缝运行在函数计算。Kubernetes负责处理常驻、流量稳定的工作负载Serverless服务分担波动明显的计算将逐渐成为云原生的最佳实践。
原文链接 本文为阿里云原创内容未经允许不得转载。
