简述网站建设的基本思路,网络规划设计师考试全程指导(第2版) pdf,多开商城,发卡平台网站建设一、定义
自监督学习#xff08;SSL#xff09;是机器学习的一种范式#xff0c;用于处理未标记数据以获取有用的表示#xff0c;以帮助下游学习任务。SSL方法最显著的特点是它们不需要人类标注的标签#xff0c;这意味着它的训练完全基于由未标记的数据样本组成的数据集…一、定义
自监督学习SSL是机器学习的一种范式用于处理未标记数据以获取有用的表示以帮助下游学习任务。SSL方法最显著的特点是它们不需要人类标注的标签这意味着它的训练完全基于由未标记的数据样本组成的数据集。典型的SSL流程包括在第一阶段学习监督信号自动生成的标签这些监督信号将用于后续阶段中的某些监督学习任务。因此SSL可以视为无监督学习和监督学习的中间形式。
自监督学习的核心思想是从输入数据中创建虚拟的监督信号然后使用这些虚拟标签来训练模型。在训练过程中模型根据虚拟标签进行优化以学习数据中的有用特征和模式。这些虚拟标签可以是从原始数据中自动生成的例如从图像中移除一部分内容并让模型预测缺失的内容或者从文本中掩盖部分单词并让模型填补缺失的单词。
自监督学习主要是利用辅助任务pretext从大规模的无监督数据中挖掘自身的监督信息通过这种构造的监督信息对网络进行训练从而可以学习到对下游任务有价值的表征。 也就是说自监督学习不需要任何的外部标记数据这些标签是从输入数据自身中得到的。
自监督学习的模式仍然是Pretrain-Fintune的模式即先在pretext上进行预训练然后将学习到的参数迁移到下游任务网络中进行微调得到最终的网络。 二、方法
自监督学习的方法主要可以分为 3 类
1. 基于上下文Context based
基于数据本身的上下文信息可以构造很多任务比如在 NLP 领域中Word2vec 主要是利用语句的顺序例如 CBOW 通过前后的词来预测中间的词而 Skip-Gram 通过中间的词来预测前后的词。;在图像中图像拼图、图像修复、图像着色、图像旋转等任务都是典型的作为pretext的例子。
2. 基于时序Temporal Based
样本间具有很多约束关系最能体现时序的数据类型就是视频了。例如对于视频中的每一帧其实存在着特征相似的概念简单来说我们可以认为视频中的相邻帧特征是相似的而相隔较远的视频帧是不相似的通过构建这种相似position和不相似negative的样本来进行自监督约束。或者可以设计一个模型来判断当前的视频序列是否是正确的顺序。
3. 基于对比Contrastive Based
对比约束它通过学习对两个事物的相似或不相似进行编码来构建表征。通过构建正样本positive和负样本negative然后度量正负样本的距离来实现自监督学习即样本和正样本之间的距离远远大于样本和负样本之间的距离可以使用点积的方式构造距离函数然后构造一个 softmax 分类器以正确分类正样本和负样本。
https://zhuanlan.zhihu.com/p/108906502https://zhuanlan.zhihu.com/p/108906502
https://www.cnblogs.com/polly333/p/17791786.htmlhttps://www.cnblogs.com/polly333/p/17791786.html自监督学习分类 三、自监督VIO
SelfVIO: Self-supervised deep monocular Visual–Inertial Odometry and depth estimationGAN网络位姿估计与深度估计组合进行开源DeepVIO: Self-supervised Deep Learning of Monocular Visual Inertial Odometry using 3D Geometric Constraints端到端的单目VIO从双目中获取监督信息Vision-Aided Absolute Trajectory Estimation Using an Unsupervised Deep Network with Online Error CorrectionVIOLearner在网络训练过程中加入传统模型的引导开源CodeVIO: Visual-Inertial Odometry with Learned Optimizable Dense Depth通过原始图像和级联稀疏深度图预测稠密的深度图及其不确定度的编码网络通过对深度信息进行编码得到用于 VIO 优化的深度向量的变分自编码器BoomVIO: bootstrapped monocular visual-inertial odometry with absolute trajectory estimation through unsupervised deep learningUnsupervised monocular visual- inertial odometry networkUnsupervised Learning of Depth and Pose Based on Monocular Camera and Inertial Measurement Unit (IMU)Scale-Aware Visual-Inertial Depth Estimation and Odometry Using Monocular Self-Supervised LearningAttention Guided Unsupervised learning of Monocular Visual-inertial OdometryCoVIO: Online Continual Learning for Visual-Inertial OdometryUnsupervised Deep Visual-Inertial Odometry with Online Error Correction for RGB-D Imagery
