郑州网站推广培训,网站建站售后服务,优化的含义,校园网站设计参考文献欢迎收藏Star我的Machine Learning Blog:https://github.com/purepisces/Wenqing-Machine_Learning_Blog。如果收藏star, 有问题可以随时与我交流, 谢谢大家#xff01;
估算送达时间
1. 问题陈述
构建一个模型来估算在给定订单详情、市场条件和交通状况下的总送达时间。 为…欢迎收藏Star我的Machine Learning Blog:https://github.com/purepisces/Wenqing-Machine_Learning_Blog。如果收藏star, 有问题可以随时与我交流, 谢谢大家
估算送达时间
1. 问题陈述
构建一个模型来估算在给定订单详情、市场条件和交通状况下的总送达时间。 为了简化我们不考虑在此练习中对订单进行分批处理在餐馆将多个订单合并处理。 在构建估算总送达时间的模型时“市场条件”指的是可能影响送餐过程的各种外部因素。一些市场条件的例子包括 星期几送达时间可能在工作日和周末之间有所不同。 一天中的时间送达时间可能会受到高峰用餐时间例如午餐或晚餐时间或非高峰时间的影响。 天气状况不利的天气如雨、雪或极端高温可能会延缓送达时间。 特殊事件如体育比赛、音乐会或节日等当地事件可能会导致交通拥堵和送达时间延长。 假期由于订单量增加和交通模式变化假期期间的送达时间可能会更长。 促销和折扣特殊促销或折扣期间订单量增加可能会影响送达时间。 送达时间计算 DeliveryTime PickupTime PointtoPointTime DropoffTime \text{DeliveryTime} \text{PickupTime} \text{PointtoPointTime} \text{DropoffTime} DeliveryTimePickupTimePointtoPointTimeDropoffTime
2. 指标设计和要求
指标
离线指标: 使用均方根误差RMSE RMSE ∑ k 1 n ( predict − y ) 2 n \text{RMSE} \sqrt{\frac{\sum\limits_{k1}^{n} (\text{predict} - y)^2}{n}} RMSEnk1∑n(predict−y)2 其中 n n n 是样本总数 predict \text{predict} predict 是估算的等待时间 y y y 是实际等待时间。
在线指标: 使用 A/B 测试并监控 RMSE、客户参与度、客户留存率等。 RMSE 是回归问题中常用的指标包括估算送达时间。RMSE 衡量预测值与实际值之间误差的平均大小。通过取 MSE 的平方根RMSE 将误差转换回目标变量的原始单位。这意味着 RMSE 与送达时间分钟具有相同的单位更易于解释。例如2.9 分钟的 RMSE 直接告诉我们预测值平均偏差约为 2.9 分钟。 A/B 测试将用户分为两组一组使用新的送达时间估算模型另一组使用现有模型。比较这些组之间的结果。 客户参与度衡量客户与应用程序的互动例如检查送达时间、订单频率和应用使用时长。 客户留存率跟踪客户是否继续使用服务这表明对送达体验的满意度。 要求
训练
在训练期间我们需要处理大量数据。为此训练管道应具有高吞吐量。为实现此目的数据可以组织在 Parquet 文件中。模型应每隔几小时重新训练一次。送达操作处于动态环境中受许多外部因素影响交通、天气状况等。因此模型必须学习并适应新环境。例如在比赛日某些地区的交通状况会变差。如果没有重新训练的模型当前模型将持续低估送达时间。调度器负责每天多次重新训练模型。平衡高估和低估。为此每天多次重新训练以适应市场动态和交通状况。 高吞吐量在机器学习中“高吞吐量”指的是快速高效地处理大量数据的能力。 为实现高吞吐量训练管道应优化速度和效率。这涉及使用允许快速读写数据的数据存储和处理技术。因此我们可以考虑使用 Parquet 文件 Apache Parquet 是一种专为高效数据处理而设计的列式存储文件格式。 以下是使用 Parquet 文件帮助实现高吞吐量的原因 Parquet 以列式格式存储数据这意味着某个列的所有值都存储在一起。这与行式格式如 CSV形成对比其中每行的数据存储在一起。对于许多机器学习任务操作是在整个列上进行的例如计算平均值、数据标准化。列式存储使这些操作更高效。 Parquet 文件支持多种压缩算法例如 Snappy、Gzip减少了磁盘上的数据大小。 速度较小的文件大小意味着需要从磁盘读取到内存的数据较少加快了数据加载时间。 推理
对于每次送达系统需要尽可能频繁地进行实时估算。为了简单起见我们假设每次送达需要进行 30 次预测。近实时更新任何状态变化都需要尽快通过模型评分即餐馆开始准备餐食司机开始驾车前往客户。每当送达有变化时模型运行新估算并向客户发送更新。捕获近实时聚合统计数据即特征管道从多个源Kafka、数据库聚合数据以减少延迟。延迟为 100ms 至 200ms 特征管道是一个系统它从不同来源收集原始数据处理并将其转化为机器学习模型用于预测的特征。 总结
类型期望目标指标优化为低 RMSE。估算时间应小于 10-15 分钟。如果我们高估客户下单的可能性较低。低估可能会导致客户不满。训练高吞吐量能够每天多次重新训练推理延迟为 100ms 至 200ms
3. 模型
特征工程
特征特征工程描述订单特征小计、菜系商品特征价格和类型订单类型团体、餐饮商户详情商店ID商店嵌入实时特征订单数量、骑手数量、交通状况、旅行时间估算时间特征一天中的时间午餐/晚餐、星期几、周末、假日历史汇总过去X周的平均送达时间商店/城市/市场/一天中的时间相似度平均停车时间、历史时间的方差经纬度测量订单送达时间到消费者与餐馆之间的预计驾驶时间 订单特征从订单详情中提取的特征。例如订单的总成本小计和菜系类型如意大利菜、中国菜。这些特征可能会影响送达时间因为不同菜系的准备时间可能不同。小计 是所有商品价格的总和。不包括税费、配送费或小费。 商品特征从订单中的单个商品中提取的特征。商品价格和类型如饮料、主菜可以影响整体准备和包装时间。 订单类型标识订单类型。与单个订单相比团体订单和餐饮服务的准备和送达时间通常更长。 商户详情关于商户餐馆的详细信息如他们的历史表现、准备速度和受欢迎程度。这些因素会影响送达时间。 商店ID商店的数值表示嵌入捕捉各种特征和历史表现。这有助于模型理解不同商店之间的差异。 实时特征捕捉实时条件的特征如当前正在处理的订单数量、可用的送餐员数量、当前交通状况和旅行时间估算。这些对准确预测实时送达时间至关重要。 时间特征指示订单下单时间的时间特征。送达时间可能会根据是否在高峰时间午餐或晚餐、周末或假日期间显著变化。 历史汇总汇总的历史数据如特定商店、城市、市场和一天中某些时间段的过去几周的平均送达时间。这有助于根据过去的表现预测未来的送达时间。 相似度捕捉条件相似性的特征如送达地点的平均停车时间和历史送达时间的方差。这些可能表明潜在的延迟。 经纬度测量从餐馆到送达地点的距离和预计驾驶时间的地理空间特征。这对于准确估算旅行时间至关重要。 训练数据
我们可以使用过去6个月的历史送达数据作为训练数据。历史送达数据包括送达数据和实际总送达时间、商店数据、订单数据、客户数据、位置和停车数据。
模型
梯度提升决策树 梯度提升决策树示例 梯度提升决策树的工作原理 计算基线给定历史送达数据模型首先计算平均送达时间。此值将用作基线。 测量残差模型测量预测值与实际送达时间之间的残差误差。 Error Actual Delivery Time − Estimated Delivery Time \text{Error} \text{Actual Delivery Time} - \text{Estimated Delivery Time} ErrorActual Delivery Time−Estimated Delivery Time 构建决策树构建决策树以预测残差。每个叶子节点将包含对残差值的预测。 使用所有树进行预测使用所有树进行预测。使用以下公式构建送达时间预测值 Estimated Delivery Time Average Delivery Time learning rate × residuals \text{Estimated Delivery Time} \text{Average Delivery Time} \text{learning rate} \times \text{residuals} Estimated Delivery TimeAverage Delivery Timelearning rate×residuals 计算新残差给定新的估算送达时间计算新的残差。使用这些值在步骤3中构建新的决策树。 重复重复步骤3-5直到达到超参数中定义的迭代次数。 在 梯度提升决策树GBDT 中目标是最小化预测值与实际值之间的差异。这些差异称为残差。通过构建决策树来预测残差模型关注于先前预测所犯的错误。其思想是通过后续迭代纠正这些错误。 RMSE 优化问题
优化RMSE的一个问题是它对低估预测和高估预测的惩罚是相同的。考虑下表。两个模型都使用提升决策树。
实际值模型1预测值模型1平方误差模型2预测值模型2平方误差303416261635374334
虽然模型1和模型2有相同的RMSE误差但模型1高估了送达时间这会阻止客户下单。模型2低估了送达时间可能会导致客户不满。
4. 计算与估算
假设
为简化我们可以做以下假设
每月有200万活跃用户总共有2000万用户30万家餐馆20万名司机送餐。平均每年有2000万次送达。
数据量 1个月内我们收集了200万次送达的数据。每次送达相关特征大约有500字节。 总大小 500 bytes × 2 × 1 0 6 1 0 9 bytes 1 Gigabytes 500 \text{ bytes} \times 2 \times 10^6 10^9 \text{ bytes} 1 \text{ Gigabytes} 500 bytes×2×106109 bytes1 Gigabytes
规模
支持2000万用户。
5. 系统设计 特征存储提供快速查找以实现低延迟。具有高可用性的任何键值存储的特征存储是一个不错的选择如 Amazon DynamoDB。特征管道从 Kafka 读取数据进行转换并汇总近实时统计数据。然后将它们存储在特征存储中。数据库送达订单数据库存储历史订单和送达数据。数据准备是一个从数据库创建训练数据的过程。我们可以将训练数据存储在云存储中例如 S3。我们有三个服务状态服务、通知服务和估算送达时间服务。前两个服务处理实时更新估算送达时间服务使用我们的机器学习模型来估算送达时间。我们有一个调度器负责协调每天多次重新训练模型。训练后我们将模型存储在模型存储中。
让我们检查系统的流程
用户请求估算送达时间 估算送达时间服务返回时间估算给应用服务器。应用服务器将时间估算返回给用户 主要有三种类型的用户消费者/用户、送餐员和餐馆。 用户流程 用户访问主页检查他们的食物订单并请求应用服务器估算送达时间。应用服务器将请求发送到估算送达时间服务。估算送达时间服务从模型存储中加载最新的机器学习模型并从特征存储中获取所有特征值。然后使用机器学习模型预测送达时间并将结果返回给应用服务器。 餐馆/送餐员流程 当餐馆有进展时例如开始制作菜肴或包装食物他们会将状态发送给状态服务。状态服务更新订单状态。此事件通常会在队列服务如 Kafka中更新因此其他服务可以订阅并相应地获取更新。通知服务订阅消息队列如 Kafka并实时接收最新的订单状态。
6. 设计扩展
我们扩展服务以处理大量每秒请求。我们还使用负载均衡器在应用服务器之间平衡负载。我们利用流处理系统如 Kafka 来处理通知以及模型预测。一旦我们的机器学习模型完成预测它会将预测结果发送到 Kafka以便其他服务可以立即获取通知。 7. 后续问题
问题答案使用 StoreID 嵌入作为特征的缺点是什么我们需要评估使用 StoreID 嵌入在处理新店方面是否有效。我们需要多久重新训练一次模型这取决于我们需要有基础设施来监控在线指标。当在线指标下降时我们可能需要触发模型重新训练。 缺点处理新店使用 StoreID 嵌入的一个重大挑战是处理没有历史数据的新店。由于新店的嵌入未定义模型可能无法很好地处理这些新店。 8. 总结
我们学习了如何使用梯度提升决策树将估算送达时间表述为一个机器学习问题。我们学习了如何收集和使用数据来训练模型。我们学习了如何使用 Kafka 处理日志和模型预测以实现近实时预测。
附录
离线指标示例
假设我们有5个送达订单实际送达时间和预测送达时间如下单位分钟
送达订单实际时间 (y)预测时间 (predict)1303222528340364353852022
首先计算平方差 ( 32 − 30 ) 2 4 (32 - 30)^2 4 (32−30)24 ( 28 − 25 ) 2 9 (28 - 25)^2 9 (28−25)29 ( 36 − 40 ) 2 16 (36 - 40)^2 16 (36−40)216 ( 38 − 35 ) 2 9 (38 - 35)^2 9 (38−35)29 ( 22 − 20 ) 2 4 (22 - 20)^2 4 (22−20)24
将这些平方差相加 4 9 16 9 4 42 4 9 16 9 4 42 49169442
除以样本数 (n 5) 并取平方根 RMSE 42 5 8.4 ≈ 2.9 \text{RMSE} \sqrt{\frac{42}{5}} \sqrt{8.4} \approx 2.9 RMSE542 8.4 ≈2.9
因此此示例中的RMSE约为2.9分钟。
梯度提升决策树的示例解释
让我们通过一个具体示例来逐步解释梯度提升决策树GBDT的工作原理。假设我们有以下历史送达数据单位分钟
送达订单实际时间 (y)特征 (X)13010225834012435115207
为了简化假设只有一个特征 ( X ) 代表一些关于订单和交通状况的汇总信息。
第一步计算基线
首先我们计算所有历史数据的平均送达时间。此平均值作为所有送达的初始预测。 平均送达时间 30 25 40 35 20 5 30 分钟 \text{平均送达时间} \frac{30 25 40 35 20}{5} 30 \text{ 分钟} 平均送达时间5302540352030 分钟
所以我们对所有送达的初始预测为30分钟。
第二步测量残差
接下来我们计算实际送达时间和初始预测之间的残差误差。
送达订单实际时间 (y)初始预测残差 (误差)13030022530-5340301043530552030-10
第三步构建决策树
我们使用特征 ( X ) 构建决策树来预测残差。
特征 (X)残差 (误差)1008-512101157-10
假设决策树如下所示 X 9.5/ \
-7.5 X 11.5/ \7.5 5此树将数据划分为不同区域并预测每个区域的平均残差。
第四步使用所有树进行预测
使用学习率调整预测值。假设学习率为0.1。更新后的预测值为 新预测 初始预测 学习率 × 残差预测 \text{新预测} \text{初始预测} \text{学习率} \times \text{残差预测} 新预测初始预测学习率×残差预测
让我们计算更新后的预测值
送达订单初始预测残差预测新预测1307.5 (对 X 9.5 X 9.5 X9.5)30 0.1 * 7.5 30.75230-7.5 (对 X ≤ 9.5 X \leq 9.5 X≤9.5)30 0.1 * -7.5 29.253307.5 (对 X 11.5 X 11.5 X11.5)30 0.1 * 7.5 30.754307.5 (对 9.5 X ≤ 11.5 9.5 X \leq 11.5 9.5X≤11.5)30 0.1 * 7.5 30.75530-7.5 (对 X ≤ 9.5 X \leq 9.5 X≤9.5)30 0.1 * -7.5 29.25
第五步计算新残差
使用更新后的预测值计算新残差。
送达订单实际时间 (y)新预测新残差 (误差)13030.7530 - 30.75 -0.7522529.2525 - 29.25 -4.2534030.7540 - 30.75 9.2543530.7535 - 30.75 4.2552029.2520 - 29.25 -9.25
第六步重复
我们根据超参数定义的迭代次数重复步骤3-5。每次迭代都会构建一个新的决策树来预测新残差并相应地调整预测值。
通过迭代地构建决策树来预测残差并调整预测值GBDT模型逐步提高其估算送达时间的准确性。学习率确保每棵树仅做出小幅调整以避免过拟合。
参考文献:
来自educative的机器学习系统设计
