做网站还是app好,龙岩网站制作多少钱,灰产源码资源网,wordpress 标签中文乱码Introduction 这是斯坦福计算机视觉大牛李菲菲最新开设的一门关于deep learning在计算机视觉领域的相关应用的课程。这个课程重点介绍了deep learning里的一种比较流行的模型#xff1a;Convolutional Neural Networks#xff0c;简称CNN#xff0c;主要利用CNN来做visual r… Introduction 这是斯坦福计算机视觉大牛李菲菲最新开设的一门关于deep learning在计算机视觉领域的相关应用的课程。这个课程重点介绍了deep learning里的一种比较流行的模型Convolutional Neural Networks简称CNN主要利用CNN来做visual recognition或者说是image classificationobject recognition等。我自己在学习的过程中一边翻译一边总结整理出这些中文版的lecture notes英文好的同学可以直接看原文课程的网址是 http://cs231n.stanford.edu/ 学习这门课程需要一定的数学基础包括线性代数概率论统计等还要对传统的机器学习有一定的了解可以参考斯坦福大学机器学习大牛Anderw的课程另外一个前提条件是编程这门课程没有用matlab而是用了当下比较流行的一种语言python课程中所有的程序都是用python写成的所以还要学习python编程这门课程对python有简单的介绍并且还推荐了相应的python版本及编译器这些信息都可以在课程网站上找到。 我在这里转译的中文lecture notes认为大家都已经搞定了上述所需的前提条件就是有一定的数学基础也了解机器学习并且安装了相应的python和IDE推荐EclipsePydev能够利用python进行编程。所以没有这些基础知识。下面是正式的课程内容。 Image Classification 首先介绍的是计算机视觉领域一个重要而基础的问题图像分类。简单来说就是将一幅图像赋以一个语义标签对这幅图像进行标识如下图所示 图像分类的任务就是将一个给定的图像赋予一个或者一组语义标签。 我们看到的是一只猫但是对于计算机来说看到的只是一个三维的数组这个图像是248个像素宽400像素高而且有R,G,B三个通道所以是一个248×400×3的数组一共有296700个像素每个像素的值在0-255的范围内图像分类的任务就行将这所有的像素用一个语义标签进行标识比如“cat”。 一般来说对于visual recognition我们需要解决以下一些困难或挑战 Viewpoint variation一个物体由于照相机拍摄的视角不同会呈现不同的方向。 Scale variation 尺度的变化这是比较常见的一个问题。 Deformation 有些物体可能会发现形变。 Occlusion 物体的局部有可能被遮挡。 Illumination conditions光照条件的变化有可能改变图像的像素值的分布。 Background clutter 背景纹理与物体的纹理相似的话会对识别造成很大影响。 Intra-class variation 即使属于同一类的物体也有可能呈现不同的形状比如椅子杯子等。 一个好的图像分类模型应该能够很好地处理这些问题。 我们如何写一个算法来做这项工作呢这个不像排序那么简单因为我们不能直接写一个算法来确定图像里的物体。因此一般来说我们会先给计算机一些样本通过这些样本让计算机了解每一类物体的性质这种方法称为data-driven(数据驱动)因为这类方法要依赖于事先收集的一些训练数据。下图给出了一些训练数据的示例 在实际的应用中可能会有几千个类别而每一类可能会有成千上万个样本。一个完整的图像分类模型包含以下几个步骤 Input我们的输入包括N张图像每张图像都有相应的标签这些标签属于K个不同的类别这组图像称为训练集。 Learning 我们的任务是通过训练集让计算机知道每一类的性质这个过程称为训练阶段或者学习阶段。 Evaluation 最后我们要用训练好的模型来评估一些从未见过的图像对这些图像进行分类并将预测标签与该图像的真实标签比较。 Nearest Neighbor Classifier 我们先介绍一种很简单的分类模型最近邻分类器这个模型与我们将要介绍的CNN没有什么关系而且在实际应用中也很少用到这个模型但是可以用这个模型来了解图像分类的处理流程。 这里我们要用到的数据库是:\textbf{CIFAR-10}这是一个非常流行的用于图像分类的数据库这个数据库包含10类图像一共含有60000张图每张图的宽和高都是32每张图都有一个类标签这60000万张图分成两部分其中50000张图作为训练集剩下的10000张图作为测试集。下图给出了该训练集的一些样图 左图训练集里的一些样图。右图第一列是测试图其它图是与该测试图最相似的训练图。 现在假设我们有这样一个数据库包含属于10个类别的共50000个训练样本每个类别有5000张图最近邻分类器拿到一张测试图会将该测试图与训练集的每一个 样本进行比较挑出离该测试图最近的训练样本并且将该训练样本的类标签赋给该测试图换句话说离该测试图最近的样本是什么类那么该测试图就属于该类 我们可以看到利用这个分类器上面右边的10个测试样本只有三个赋予了正确的类标签其它7个样本都错了比如第8个样本是一个马的头但是离它最近的训练样本 是汽车这样这个马头的图像就被赋予汽车的标签了。 现在我们来定义Nearest Neighbor Classifier最简单的一种定义就是像素级的比较我们将一张32×32×3的图看成一个高维的向量两张图的差距 定义为L1距离 d1(I1,I2)∑p|Ip1−IP2| 还有一种常用的度量是L2距离 d2(I1,I2)∑p(Ip1−IP2)2−−−−−−−−−−−√ 实验证明利用L1,L2度量的效果并不理想只有30%多一点一种比较常见的改进是K-NN我们不能只参考离测试样本最近的一个样本我们要参考离测试样本最近的K个样本然后利用投票策略即这K个样本中哪一类的样本最多我们就认为测试样本属于这一类。但是K-NN中的K到底要取多大这个K可以称为hyperparameters在机器学习中如何选择参数也是一个需要仔细考虑的问题一般来说test set只能用来做最后的评估而且只能用一次不能用test set来选择最佳的hyperparameters一个可行的方案是将训练集分成两部分我们将拥有绝大多数训练样本的那部分用来训练称为training set而只有很少一部分训练样本的那部分用来评估不同的参数对模型的影响这部分称为validation set。 当样本总数很少的时候我们一般会采取另外一种策略称为cross validation将样本分为相同规模的几份比如5份或者10份然后挑出一份做validation剩下的做训练这样循环一遍以保证每一份都能被评估这种策略相对来说比较耗时因为需要循环地做训练和测试。 Pros and Cons of Nearest Neighbor classifier 接下来我们要总结一下Nearest Neighbor classifier的优缺点很显然这种分类器的优点就是简单易懂而且不需要训练但是它的缺点也很明显一个是效率太低测试的时候非常耗时因为要和训练集 的样本逐个比较在实际应用中我们比较关心测试阶段的效率因为训练可以提前做好所以最近邻分类器不能满足实时检测在实际应用中很少用到这种分类器。最近邻分类器另外一个缺点是对像素亮度值的变化非常敏感因为这个是基于像素值的比较所以同一个物体在不同光照或者有遮挡的情况下会出现很大的差距更加合理的度量应该基于物体的语义及结构信息。如下图所示 图像的偏移部分遮挡光照变化会使距离度量相差很大。 最后做一点总结 我们介绍了图像分类的概念并且介绍了一种很简单的分类器最近邻分类器而且我们也介绍了如何利用validation set或者cross validation来调整hyperparameters我们也看到最近邻分类器的效果并不是很理想最后我们探讨了L1L2度量的缺陷就是对像素值的变化比较敏感而没有基于物体的语义及结构信息来进行度量。 声明lecture notes里的图片都来源于该课程的网站只能用于学习请勿作其它用途如需转载请说明该课程为引用来源。 课程网站 http://cs231n.stanford.edu/ 转载于:https://www.cnblogs.com/mtcnn/p/9412617.html
