数学教学系列8:梯度下降法

梯度下降法是一个一阶最优化算法,利用负梯度方向来决定每次迭代的新的搜索方向,使得每次迭代能使待优化的目标函数逐步减小。梯度下降法是2范数下的最速下降法。

向量微积分中,标量场的梯度是一个向量场。[……]

阅读全文

机器学习系列5:进阶算法-随机森林

机器学习中,随机森林是一种组合方法,由许多的决策树组成,因为这些决策树的形成采用了随机的方法,因此也叫做随机决策树。随机森林中的树之间是没有关联的。

当测试数据进入随机森林时,其实就是让每一颗决[……]

阅读全文