建站网址建设,网站建设在哪个软件下做,百度app广告,企业服务 免费网站建设要点拓扑 AutoKeras 拓扑 要点
常规机器学习#xff1a;scikit-learn示例探索性数据分析和数据预处理#xff0c;线性回归#xff0c;决策树图像分类ResNet模型示例#xff0c;合成数据集DenseNet模型示例绘图线性回归和决策树模型使用Python工具seaborn、matplotlib、pan…要点拓扑 AutoKeras 拓扑 要点
常规机器学习scikit-learn示例探索性数据分析和数据预处理线性回归决策树图像分类ResNet模型示例合成数据集DenseNet模型示例绘图线性回归和决策树模型使用Python工具seaborn、matplotlib、pandas、scikit-learn进行特征分析数据处理Tensorflow和Keras实现多测感知器、卷积神经网络CNN和递归神经网络RNN及应用示例AutoKeras案例实现新闻热点预测、垃圾邮件检测、CIFAR-10图像分类、事故率、MNIST识别、话题分类、情绪分析
自动化机器学习
自动化机器学习是一种自动化各种机器学习模型开发流程的过程以便数据科学和机器学习方面专业知识有限的个人和组织能够更容易地使用机器学习。 它拥有一组技术和工具可以自动选择和微调机器学习模型的过程。 其目标是让数据科学专业知识有限的人们更轻松地构建和部署高性能机器学习模型。 #mermaid-svg-OQot04e5ELu0amxI {font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;fill:#333;}#mermaid-svg-OQot04e5ELu0amxI .error-icon{fill:#552222;}#mermaid-svg-OQot04e5ELu0amxI .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-OQot04e5ELu0amxI .edge-thickness-normal{stroke-width:2px;}#mermaid-svg-OQot04e5ELu0amxI .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-OQot04e5ELu0amxI .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-OQot04e5ELu0amxI .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-OQot04e5ELu0amxI .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-OQot04e5ELu0amxI .marker{fill:#333333;stroke:#333333;}#mermaid-svg-OQot04e5ELu0amxI .marker.cross{stroke:#333333;}#mermaid-svg-OQot04e5ELu0amxI svg{font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-OQot04e5ELu0amxI .label{font-family:"trebuchet ms",verdana,arial,sans-serif;color:#333;}#mermaid-svg-OQot04e5ELu0amxI .cluster-label text{fill:#333;}#mermaid-svg-OQot04e5ELu0amxI .cluster-label span{color:#333;}#mermaid-svg-OQot04e5ELu0amxI .label text,#mermaid-svg-OQot04e5ELu0amxI span{fill:#333;color:#333;}#mermaid-svg-OQot04e5ELu0amxI .node rect,#mermaid-svg-OQot04e5ELu0amxI .node circle,#mermaid-svg-OQot04e5ELu0amxI .node ellipse,#mermaid-svg-OQot04e5ELu0amxI .node polygon,#mermaid-svg-OQot04e5ELu0amxI .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-OQot04e5ELu0amxI .node .label{text-align:center;}#mermaid-svg-OQot04e5ELu0amxI .node.clickable{cursor:pointer;}#mermaid-svg-OQot04e5ELu0amxI .arrowheadPath{fill:#333333;}#mermaid-svg-OQot04e5ELu0amxI .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-OQot04e5ELu0amxI .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-OQot04e5ELu0amxI .edgeLabel{background-color:#e8e8e8;text-align:center;}#mermaid-svg-OQot04e5ELu0amxI .edgeLabel rect{opacity:0.5;background-color:#e8e8e8;fill:#e8e8e8;}#mermaid-svg-OQot04e5ELu0amxI .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-OQot04e5ELu0amxI .cluster text{fill:#333;}#mermaid-svg-OQot04e5ELu0amxI .cluster span{color:#333;}#mermaid-svg-OQot04e5ELu0amxI div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-OQot04e5ELu0amxI :root{--mermaid-font-family:"trebuchet ms",verdana,arial,sans-serif;} Predicting Training 模型训练 超参数调整模型选择 验证 特征工程 新数据 预测 目标 特征工程 原始数据和目标 训练集 验证集 测试集 机器学习 模型 它使用户能够将机器学习技术应用于不同的领域从简单的表格数据分析到图像识别、自然语言处理和预测等更复杂的任务。它不仅仅停留在模型训练上涵盖了整个生命周期包括评估、验证、部署以及持续监控和维护。
自动化目标可以自动化构建机器学习模型所涉及的多个步骤。其中一些如下
数据准备处理缺失值、缩放特征、编码分类变量以及将数据拆分为训练集和测试集特征工程从原始数据中提取有用的特征。模型选择和训练选择合适的机器学习算法和超参数。超参数调整微调机器学习模型的设置以优化性能。集成建模组合多个模型以提高性能。部署将经过训练的模型投入生产监控和维护模型部署后可以根据新数据进行维护和监控
自动机器学习用于简化和自动化将机器学习应用于现实世界问题的端到端过程
使机器学习可供更广泛的受众使用包括机器学习专业知识有限的个人。通过自动化复杂的任务它降低了非数据科学专家的用户的进入门槛。减少了开发有效的机器学习模型所需的时间和精力。其工具通常提供直观、用户友好的界面或 API让用户提供数据并接收优化的机器学习模型而无需深入了解底层算法和技术。机器学习涉及处理各种算法、超参数和数据预处理技术。机器学习可以自动为特定任务选择最合适的算法和超参数从而降低用户的复杂性。擅长自动优化超参数这对于实现最佳模型性能至关重要。这个过程可能非常耗时并且需要专业知识因此自动化非常有益。
可用于执行各种机器学习任务包括分类、回归、聚类、深度学习甚至预测。 它们能够执行从简单的表格数据分析到更复杂的图片识别或自然语言处理的任务。
表格数据分类和回归图像数据计算机视觉文本数据自然语言处理 (NLP)
使用 AutoKeras 进行图像分类的示例。
导入所需类
import os
import pathlib
import numpy as np
import tensorflow as tf
import autokeras as akimport warnings
warnings.filterwarnings(ignore)
加载数据库
dataset_url https://storage.gapis.com/download.tensorflow.org/example_images/flower_photos.tgz
data_dir tf.keras.utils.get_file(flower_photos, origindataset_url, untarTrue)
data_dir pathlib.Path(data_dir)
分类训练、测试、验证集
batch_size 32
img_height 240
img_width 240train_data ak.image_dataset_from_directory(data_dir,validation_split0.15,subsettraining,seed23,image_size(img_height, img_width),batch_sizebatch_size,
)test_data ak.image_dataset_from_directory(data_dir,validation_split0.15,subsetvalidation,seed23,image_size(img_height, img_width),batch_sizebatch_size,
)
输出
Found 3670 files belonging to 5 classes.
Using 3120 files for training.
Found 3670 files belonging to 5 classes.
Using 550 files for validation.构建自动化机器学习模型
image_classifier ak.ImageClassifier(num_classes 5,multi_label True,overwriteTrue, max_trials1)image_classifier.fit(train_data, epochs5)
输出
Search: Running Trial #1
Value |Best Value So Far |Hyperparameter
vanilla |vanilla |image_block_1/block_type
True |True |image_block_1/normalize
False |False |image_block_1/augment
3 |3 |image_block_1/conv_block_1/kernel_size
1 |1 |image_block_1/conv_block_1/num_blocks
2 |2 |image_block_1/conv_block_1/num_layers
True |True |image_block_1/conv_block_1/max_pooling
False |False |image_block_1/conv_block_1/separable
0.25 |0.25 |image_block_1/conv_block_1/dropout
32 |32 |image_block_1/conv_block_1/filters_0_0
64 |64 |image_block_1/conv_block_1/filters_0_1
flatten |flatten |classification_head_1/spatial_reduction_1/reduction_type
0.5 |0.5 |classification_head_1/dropout
adam |adam |optimizer
0.001 |0.001 |learning_rate
Trial 1 Complete [00h 08m 02s]
val_loss: 0.3753296434879303
Best val_loss So Far: 0.3753296434879303
Total elapsed time: 00h 08m 02s
INFO:tensorflow:Oracle triggered exit
Epoch 1/5
98/98 [] - 110s 1s/step - loss: 0.9031 - accuracy: 0.4234
Epoch 2/5
98/98 [] - 114s 1s/step - loss: 0.3507 - accuracy: 0.6224
Epoch 3/5
98/98 [] - 109s 1s/step - loss: 0.2060 - accuracy: 0.8490
Epoch 4/5
98/98 [] - 112s 1s/step - loss: 0.0995 - accuracy: 0.9497
Epoch 5/5
98/98 [] - 106s 1s/step - loss: 0.0795 - accuracy: 0.9686评估模型
image_classifier.evaluate(test_data)输出
18/18 [] - 5s 276ms/step - loss: 0.5662 - accuracy: 0.5600
[0.5662239789962769, 0.5600000023841858]加载图像并进行预测
from PIL import Imageimage_path sunflower.jpegnew_image Image.open(image_path)
resized_image new_image.resize((img_height, img_width))
resized_image
预测
preprocessed_image np.expand_dims(resized_image, axis0)predictions image_classifier.predict(preprocessed_image)
print(predictions)输出
1/1 [] - 0s 48ms/step
1/1 [] - 0s 16ms/step
[[sunflowers]]参阅一计算思维
参阅二亚图跨际