重庆营销型网站建设公司,凡科快图在线,差异基因做热图在线网站,网站开发前后端工具组合本文涉及“黑盒优化”和“零阶优化”的区别和联系#xff0c;以及它们的定义
关于“零阶优化”#xff0c;可以看文章“Optimizing molecules using efficient queries from property evaluations 一、“黑盒优化”是什么#xff1f;
“黑盒优化”是一种优化技术#xff…本文涉及“黑盒优化”和“零阶优化”的区别和联系以及它们的定义
关于“零阶优化”可以看文章“Optimizing molecules using efficient queries from property evaluations 一、“黑盒优化”是什么
“黑盒优化”是一种优化技术用于处理那些我们无法直接访问或理解其内部工作原理的系统或函数。在这种情况下我们将该系统或函数视为一个“黑盒”因为我们只能观察到输入和输出但不能观察到其内部的具体运行机制。【不利用导数信息】
以下是“黑盒优化”的几个关键特点 不需要导数信息与传统的基于导数的优化方法例如梯度下降不同黑盒优化不需要函数的导数信息。 适用于复杂系统对于那些复杂的、不透明的、或者是不易于分析的系统黑盒优化特别有用。 只需要输入和输出用户只需提供一个函数或评估标准优化算法会尝试找到最佳的输入以最大化或最小化输出。 使用启发式方法由于缺乏内部信息黑盒优化通常依赖于启发式搜索方法如遗传算法、蒙特卡洛树搜索、贝叶斯优化等。
总的来说黑盒优化是针对那些我们不能直接探索或理解其内部工作机制的系统或函数的优化策略。我们只是尝试不同的输入观察输出然后根据这些信息来决定下一步的最佳操作。 二、“黑盒优化”常用的方法 一般来说黑盒优化都是从一个初始解出发通过不停迭代来改进当前解直到无法再改进为止。
这个黑盒优化的迭代过程可以用各种方案去刻划比如说从一个还不错的起始点开始的局部搜索一个从粗到细的逐步精化或者说局部渐进和长程跳跃的组合例如进化算法的演化和突变等等每种方案都对应不同的行动空间。但从本质上来说优化和“下棋打游戏”等问题很大的不同点在于优化本身没有”行动空间“的概念对它而言行动空间如何定义都无所谓只要最终解质量好就行。 三、性能指标
其主要性能指标是达到同样的函数值需要多少次黑盒函数的调用越少越好。因为在实际问题中需要用黑盒优化的场景往往是函数调用开销非常大且没有导数信息的场景比如说函数值是一个复杂系统运转一天后的平均效率或者是耗费巨资才可获得的一个实验结果等等。 “黑盒优化”和“零阶优化”的区别和联系
定义 黑盒优化这是一个通用的术语描述的是当你试图优化一个函数时但对其内部结构几乎一无所知只知道输入和输出关系的情境。也就是说你不能利用函数的内部信息如导数或结构来帮助优化。 零阶优化这是一个更为技术性的术语描述的是当你优化一个函数时你没有关于函数的导数或梯度的信息。零阶优化算法只使用函数的值不使用任何导数信息。
区别 范围黑盒优化是一个更为广泛的概念涵盖了任何我们不能直接访问函数内部信息的情境而零阶优化特指没有导数信息的优化情境。 方法由于黑盒优化是一个广泛的概念因此可以使用各种方法包括零阶优化方法来进行。而零阶优化有一些特定的技术如随机搜索、有限差分方法等。
联系 零阶优化是黑盒优化的一个子集当你面临一个黑盒问题且没有关于函数的导数信息时你可以使用零阶优化方法。 目标相似无论是黑盒优化还是零阶优化目标都是在缺乏关于函数完整信息的情况下找到其最优值。 启发式方法由于两者都缺乏函数的某些关键信息因此它们都可能依赖启发式搜索方法来进行优化。 介绍两篇NeurIPS的文章二 - 知乎
