wordpress让超链接不显示蓝字,网站排名优化培训课程,建设网站的建设费用包括什么科目,北京三快在线科技有限公司来源#xff1a;凹非寺 机器学习全靠调参#xff1f;这个思路已经过时了。谷歌大脑团队发布了一项新研究#xff1a;只靠神经网络架构搜索出的网络#xff0c;不训练#xff0c;不调参#xff0c;就能直接执行任务。这样的网络叫做WANN#xff0c;权重不可知神经网络。它… 来源凹非寺 机器学习全靠调参这个思路已经过时了。谷歌大脑团队发布了一项新研究只靠神经网络架构搜索出的网络不训练不调参就能直接执行任务。这样的网络叫做WANN权重不可知神经网络。它在MNIST数字分类任务上未经训练和权重调整就达到了92%的准确率和训练后的线性分类器表现相当。除了监督学习WANN还能胜任许多强化学习任务。团队成员之一的大佬David Ha把成果发上了推特已经获得了1300多赞那么先来看看效果吧。效果谷歌大脑用WANN处理了3种强化学习任务。给每一组神经元共享同一个权重。)第一项任务Cart-Pole Swing-Up。这是经典的控制任务一条滑轨一台小车车上一根杆子。小车在滑轨的范围里跑要把杆子从自然下垂的状态摇上来保持在直立的位置不掉下来。(这个任务比单纯的Cart-Pole要难一些Cart-Pole杆子的初始位置就是向上直立不需要小车把它摇上来只要保持就可以。)难度体现在没有办法用线性控制器 (Linear Controller) 来解决。每一个时间步的奖励都是基于小车到滑轨一头的距离以及杆子摆动的角度。WANN的最佳网络 (Champion Network) 长这样它在没有训练的状态下已经表现优异表现最好的共享权重给了团队十分满意的结果只用几次摆动便达到了平衡状态。第二项任务Bipedal Waker-v2。一只两足“生物”要在随机生成的道路上往前走越过凸起跨过陷坑。奖励多少就看它从出发到挂掉走了多长的路以及电机扭矩的成本 (为了鼓励高效运动) 。每条腿的运动都是由一个髋关节、和一个膝关节来控制的。有24个输入会指导它的运动包括“激光雷达”探测的前方地形数据本体感受到的关节运动速度等等。比起第一项任务中的低维输入这里可能的网络连接就更多样了所以需要WANN对从输入到输出的布线方式有所选择。这个高维任务WANN也优质完成了。你看这是搜索出的最佳架构比刚才的低维任务复杂了许多它在-1.5的权重下奔跑长这样第三项任务CarRacing-v0。这是一个自上而下的 (Top-Down) 、像素环境里的赛车游戏。一辆车由三个连续命令来控制油门、转向、制动。目标是在规定的时间里经过尽可能多的砖块。赛道是随机生成的。研究人员把解释每个像素 (Pixel Interpretation) 的工作交给了一个预训练的变分自编码器 (VAE) 它可以把像素表征压缩到16个潜在维度。这16维就是网络输入的维度。学到的特征是用来检测WANN学习抽象关联 (Abstract Associations) 的能力而不是编码不同输入之间显式的几何关系。这是WANN最佳网络在-1.4共享权重下、未经训练的赛车成果虽然路走得有些蜿蜒但很少偏离跑到。而把最佳网络微调一下不用训练便更加顺滑了总结一下在简单程度和模块化程度上第二、三项任务都表现得优秀两足控制器只用了25个可能输入中的17个忽略了许多LIDAR传感器和膝关节的速度。WANN架构不止能在不训练单个权重的情况下完成任务而且只用了210个网络连接 (Connections) 比当前State-of-the-Art模型用到的2804个连接少了一个数量级。做完强化学习团队又瞄准了MNIST把WANN拓展到了监督学习的分类任务上。一个普通的网络在参数随机初始化的情况下MNIST上面的准确率可能只有10%左右。而新方法搜索到的网络架构WANN用随机权重去跑准确率已经超过了80%如果像刚刚提到的那样喂给它多个权值的合集准确率就达到了91.6%。对比一下经过微调的权重带来的准确率是91.9%训练过的权重可以带来94.2%的准确率。再对比一下拥有几千个权重的线性分类器也只是和WANN完全没训练、没微调、仅仅喂食了一些随机权重时的准确率相当。论文里强调MINST手写数字分类是高维分类任务。WANN表现得非常出色。并且没有哪个权值显得比其他值更优秀大家表现得十分均衡所以随机权重是可行的。不过每个不同的权重形成的不同网络有各自擅长分辨的数字所以可以把一个拥有多个权值的WANN用作一个自给自足的合集 (Self-Contained Ensemble) 。实现原理不训练权重参数获得极高准确度WANN是如何做到的呢神经网络不仅有权重偏置这些参数网络的拓扑结构、激活函数的选择都会影响最终结果。谷歌大脑的研究人员在论文开头就提出质疑神经网络的权重参数与其架构相比有多重要在没有学习任何权重参数的情况下神经网络架构可以在多大程度上影响给定任务的解决方案。为此研究人员提出了一种神经网络架构的搜索方法无需训练权重找到执行强化学习任务的最小神经网络架构。谷歌研究人员还把这种方法用在监督学习领域仅使用随机权重就能在MNIST上实现就比随机猜测高得多的准确率。论文从架构搜索、贝叶斯神经网络、算法信息论、网络剪枝、神经科学这些理论中获得启发。为了生成WANN必须将权重对网络的影响最小化用权重随机采样可以保证最终的网络是架构优化的产物但是在高维空间进行权重随机采样的难度太大。研究人员采取了“简单粗暴”的方法对所有权重强制进行权重共享weight-sharing让权重值的数量减少到一个。这种高效的近似可以推动对更好架构的搜索。操作步骤解决了权重初始化的问题接下来的问题就是如何收搜索权重不可知神经网络。它分为四个步骤1、创建初始的最小神经网络拓扑群。2、通过多个rollout评估每个网络并对每个rollout分配不同的共享权重值。3、根据性能和复杂程度对网络进行排序。4、根据排名最高的网络拓扑来创建新的群通过竞争结果进行概率性的选择。然后算法从第2步开始重复在连续迭代中产生复杂度逐渐增加的权重不可知拓扑weight agnostic topologies 。拓扑搜索用于搜索神经网络拓扑的操作受到神经进化算法NEAT的启发。在NEAT中拓扑和权重值同时优化研究人员忽略权重只进行拓扑搜索操作。上图展示了网络拓扑空间搜索的具体操作一开始网络上是最左侧的最小拓扑结构仅有部分输入和输出是相连的。然后网络按以下三种方式进行更改1、插入节点拆分现有连接插入新节点。2、添加连接连接两个之前未连接的节点添加新连接。3、更改激活函数重新分配隐藏节点的激活函数。图的最右侧展示了权重在[2,2]取值范围内可能的激活函数如线性函数、阶跃函数、正弦余弦函数、ReLU等等。权重依然重要WANN与传统的固定拓扑网络相比可以使用单个的随机共享权重也能获得更好的结果。虽然WANN在多项任务中取得了最佳结果但WANN并不完全独立于权重值当随机分配单个权重值时有时也会失败。WANN通过编码输入和输出之间的关系起作用虽然权重的大小的重要性并不高但它们的一致性尤其是符号的一致性才是关键。随机共享权重的另一个好处是调整单个参数的影响变得不重要无需使用基于梯度的方法。强化学习任务中的结果让作者考虑推广WANN方法的应用范围。他们又测试了WANN在图像分类基础任务MNIST上的表现结果在权重接近0时效果不佳。有Reddit网友质疑WANN的结果对于随机权重接近于0的情况该网络的性能并不好先强化学习实验中的具体表现就是小车会跑出限定范围。对此作者给出解释在权重趋于0的情况下网络的输出也会趋于0所以后期的优化很难达到较好的性能。传送门源代码https://github.com/weightagnostic/weightagnostic.github.io未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能互联网和脑科学交叉研究机构。未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市云脑研究计划构建互联网城市云脑技术和企业图谱为提升企业行业与城市的智能水平服务。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
