黄岛网站建设设计公司,网络诚信 网站应怎么做,行业网站解决方案,WordPress批量注册摘要#xff1a;12月14日至17日#xff0c;第十二届全球软件案例研究峰会(简称TOP100summit)在北京国际会议中心成功举办#xff0c;亚马逊云科技资深开发者布道师郑予彬、亚马逊云科技解决方案研发中心应用科学家肖宇、可以科技产品负责人曹临杰、亚马逊云科技解决方案架构… 摘要12月14日至17日第十二届全球软件案例研究峰会(简称TOP100summit)在北京国际会议中心成功举办亚马逊云科技资深开发者布道师郑予彬、亚马逊云科技解决方案研发中心应用科学家肖宇、可以科技产品负责人曹临杰、亚马逊云科技解决方案架构师莫梓元、PingCAP TiDB Serverless 研发负责人孙晓光、亚马逊云科技资深技术讲师魏星作为《亚马逊云科技 re:Invent re:Cap专场》讲师在生成式AI方面给予了分享和实践的启发。
首先由郑予彬为大家带来了《生成式AI驱动以开发者为中心的AIOps优化》的干货分享。她分别从DevOps的发展和实践、AIOps的机遇和挑战、利用reInvent 推出的AI新技术全面实现AIOps、AIOps的未来展望等四个方面进行了详述。 亚马逊云科技资深开发者布道师 郑予彬 如今企业拥有广泛的模型选项来为其生成式 AI 应用程序提供支持。在具体应用场景中为了在准确性和性能之间取得适当的平衡企业必须有效地比较模型并根据其首选指标找到最佳选择。对于每个新场景模型这些通过主观比较所需的时间、专业知识和资源限制了企业对生成式 AI 的使用。 生成式AI技术栈包括三层架构自下而上有基础设施层、基础模型服务层、AI应用层。最下层的基础设施层有大家熟悉的GPU的使用还有亚马逊专门为训练和推理自研的芯片还有其他的一些基础设施。 亚马逊自研的模型Amazon Bedrock 可从 AI21 Labs、Amazon、Anthropic、Cohere、Meta 和 Stability AI 等行业领先的基础模型中选择最适合模型同时它具备跨组织系统和数据源执行多步骤任务兼顾安全保障可以帮助客户使用自动或人工评估来评估、比较和选择适合其特定应用场景的最佳模型。借助Agents for Amazon Bedrock客户可以提升准确性加速生成式AI应用程序的开发。 谈到今年reInvent 在工具方面的更新郑予彬介绍了可以用于代码核审和观测Amazon CodeWhisperer 和用于优化和提升效率专为业务量身定制的、生成式人工智能工作助手Amazon Q它可以解读代码逻辑还可以帮助开发人员完成日常的软件开发任务。只需点击几下就能从问题中的一个想法转变为经过完整测试、准备合并、运行的应用代码并且可以使用自然语言输入。 分享的最后郑予彬表示AIOps未来将以通过预测性维护、数据驱动的开发、运维决策支持来改变开发者的工作方式。 亚马逊云科技解决方案研发中心应用科学家肖宇为大家带来了《为扩散模型AI生图打造云上引擎聚焦业务创新》的精彩话题。 亚马逊云科技解决方案研发中心应用科学家 肖宇 肖宇首先为大家分享了一个案例客户希望通过引入生成式AI技术快速扩展现有App的功能从而实现更多业务创新。为此尝试采用了Stable Diffusion模型生成风格化图像的功能以增加App的吸引力和互动性。但遇到了本地算力资源有限自建成本高 (硬件成本 维护成本)、基于开源项目搭建稳定性不够无法保证业务正常运转、缺乏后端API调用弹性资源的能力2C业务难开展、很难跟上开源社区功能迭代的速度等挑战。 为了帮助更多企业生图业务落地亚马逊开发了生图云上的解决方案将本地的模型调优、推理等工作负载低迁移成本的无感上云云上CloudFormation模版一键部署满足UI和API两种调用模式满足两种用户需求提供弹性云上资源提供多用户权限管理和资源隔离。并通过一个扩展、一个中间件拓展到云上将SageMaker作为计算平台通过此方法可以节省80%的部署时间提升10X工作效率。 然后肖宇详细的介绍了亚马逊解决方案中包含的核心功能、多用户权限配置、计算资源弹性配置、数据资产管理、底层AI生图框架支持UI与API直接调用两种方式灵活多样支持多用户功能支持客户更便捷搭建内部媒资系统适合2B/2C多种场景并通过聚焦业务需求加速GenAI创新亚马逊云科技中国峰会GenAI展位“皮影随形”的案例为大家分享了AI生图的成功实践希望这些落地实践可以帮助企业更好的加快客户AI 生图业务的前期调研和模型验证的速度、提升客户搭建自有 AI 生图平台和工具的效率、降低客户开展 AI 生图业务的硬件要求、助力客户规范地管理同生成式 AI 业务相关的资产。 紧接着可以科技产品负责人曹临杰、亚马逊云科技解决方案架构师莫梓元共同为大家带来了《爆款云原生儿童陪伴机器人背后的AI技术揭秘》的主题分享话题主要围绕初识可以科技爆款云原生儿童陪伴机器人、可以科技智能萌宠产品化过程中遇到的挑战、借助亚马逊云科技产品可以科技通过AI让机器人自由地表达情感、技术赋能优化迭代持续提升产品体验四部分展开。 可以科技产品负责人 曹临杰 亚马逊云科技解决方案架构师 莫梓元 可以科技推出了能够带动用户长期价值又能让大众消费者接受的Loona产品它具备五位一体的机器人新品类人机多元深度交互流畅灵活的运动富有“生命感”的 设计全方位、智能化的感知可拓展的多样化功能。 在开发Loona项目中遇到了几个关键挑战一是机器人的工程设计开发二是情感交互模型设计开发三是全球各地市场的布局安全合规完善、开发运维方便、全球覆盖保障、产品智能化、合作伙伴助力。结合大模型的对话能力、交互能力以及生成能力如何能够让Loona去实现风格化对话、情绪理解和丰富功能。亚马逊云科技解决方案架构师莫梓元给出了解决方案但在这过程中也遇到了诸多技术挑战。 针对这些难题莫梓元表示为了让Loona能够听得见利用基于Alexa技术堆栈的Amazon Lex 以云原生的方式提供了ASR语音转文本、NLU语义理解能力并且使用Bedrock生成式AI大语言模型辅助Lex意图快速开发原生集成无服务器Lambda服务极大提升了开发人员的效率在短短一个月内完成了 Loona 对话式交互功能的研发、部署全球交付同时Amazon Kinesis Video Streams 支持的 Loona 双向音视频实时通话功能使得 Loona 除了给人以情感陪伴以外还具有符合安全隐私标准的远程监控功能此外还加入了 Amazon Polly 服务完成TTS文本转语音让机器人不仅“听得懂“还可以通过自然语言在语音交互中回应用户未来也将基于亚马逊云科技的大语言模型能力探索更多的智慧萌宠场景。 PingCAP TiDB Serverless 研发负责人孙晓光为大家带来的《TiDB Serverless 的云原生架构进化从0到2万集群的极速狂奔》话题火爆全场。 PingCAP TiDB Serverless 研发负责人 孙晓光 随着云原生开发模型的日渐流行serverless 服务正在成为越来越多开发者技术选型时的第一选择。借助 serverless 服务在不绑定某种具体技术架构的前提下。用户能够不再关心基础设施以高投入产出比的状态服务各种场景的多样化工作负载要求。 TiDB Serverless 是 TiDB Cloud 上全面服务化的数据库产品。在正式发布之后短短的 400 天即收获了大量用户当前正在为超过两万个用户集群持续提供高质量的服务。 TiDB Serverless 用户高速增长背后的一个原因是始终遵循着 serverless 产品目标客户的核心诉求在产品能力和设计理念上紧跟这个明确客户群体的诉求。得益于 TiDB 过去打下的扎实基础。TiDB Serverless 能够全面兼容 MySQL让用户继续使用熟悉的技术栈和工具; 具备无缝的弹性随时应对业务增长和流量激增; 以天然的高可用能力保障业务连续性提供零停机时间的服务能力; 还可以借助内置的 HTAP 能力助力企业实时洞察业务。在拥有这一切优势的前提下仍然以按需按量付费的方式极大的降低了用户的使用成本。此外TiDB Serverless 在商业上还采用了有限免费的策略。这为大量处于起步阶段的创新产品提供了 0 成本的数据库服务助力更多创新的诞生。 从客户视角看 serverless 的数据库虽然有各种美好。然而对于服务供应商来说在线交易数据库的 serverless 化道路却并非一帆风顺。孙晓光提到Serverless 数据库面临着自动化弹性扩展和冷启动等等挑战。在应对这些挑战中孙晓光强调亚马逊云科技的创新领导地位包括其在弹性资源服务和 serverless 产品上的先进技术为 TiDB Serverless 提供了坚实的基础。利用亚马逊云科技的产品和服务(如 Amazon EKS 和 Amazon S3)PingCAP 成功重构了云上的 TiDB 架构使其成为一个真正的 serverless 数据库服务。此外亚马逊云科技Marketplace 的渠道优势也为 TiDB Serverless 的客户快速增长做出了重要的贡献。 最后孙晓光认为serverless 数据库是云原生技术步入下一发展阶段时云产品矩阵的关键组成部分。随着产品的持续迭代和成熟 serverless 数据库将拥有更广泛的应用场景。 亚马逊云科技资深技术讲师魏星分享了《面向业务/技术决策者的生成式 AI 入门》话题话题围绕生成式人工智能 (AI) 简介可能性的艺术、规划生成式 AI项目、构建生成式 AI 就绪型企业三方面阐述。 亚马逊云科技资深技术讲师 魏星 魏星对生成式AI和机器学习进行了介绍对于二者的区别他表示“生成式 AI 是深度学习的一个子集因为它可以调整使用深度学习构建的模型但无需进行重新训练或微调。而深度学习使用神经元和突触的概念类似于我们大脑的连接方式。生成式 AI 是一种 AI可以创建新的内容包括对话、故事、图像、视频、音乐和代码。” 亚马逊云科技实现生成式AI主要分四层最底层是芯片层一个是称之为加速器的Trainium以及可以按照浮点数租用芯片的能力的Inferentia第二层是帮助实现几乎所有机器学习场景的平台级服务SageMaker第一层是Bedrock。 当下应用大语言模型商用使用案例包括医护、生命科学、金融服务、制造、零售、媒体和娱乐。但是它也存在法律、社会、隐私问题等风险。接着他还介绍了与生成式 AI 相关的技术基础知识和术语规划了生成式 AI 项目定义范围、选择模型、调整模型、使用模型。 最后他介绍到想要在企业构建大语言模型项目需要先从文化入手、保证团队成员理解生成式AI、解决就业问题。还要为生成式 AI 的成功定位团队、为生成式 AI 建立监管模型。 本专场论坛在热烈的讨论和意犹未尽中落下帷幕。未来亚马逊云科技将始终从客户需求出发持续深耕人工智能和机器学习技术不断创新重构致力于为企业提供负责任的 AI 应用助力企业应对挑战重塑业务并加速生成式 AI 之旅。
