我正在努力理解这两种算法之间的区别,以及它们在解决问题时的差异。我已经查看了这些算法和它们的内部结构,很想听听那些已经有经验的人的意见。特别是,我想知道它们在同一问题上的行为如何不同。
谢谢。
我正在努力理解这两种算法之间的区别,以及它们在解决问题时的差异。我已经查看了这些算法和它们的内部结构,很想听听那些已经有经验的人的意见。特别是,我想知道它们在同一问题上的行为如何不同。
谢谢。
两者的主要区别
在于它们到达局部极值(或最大值)的方向
。
Hill Climbing
中,我们仅移动向量空间
的一个元素
,然后计算函数的值并替换它,如果值提高了。我们不断改变向量的一个元素,直到不能朝着使位置改进的方向移动为止。在3D空间
中,移动可以被视为沿x、y或z轴
中的任一轴向
移动。Gradient Descent
中,我们朝当前点的负梯度方向
采取步骤,以达到最小值
(最大值的情况下为正)。例如,在3D空间
中,方向不必
是轴向
。