切向量和梯度的关系

之前一直错误的认为了切向量就是梯度，由于最近在看拉格朗日的方法，正好遇到这个问题，结果搞清楚了切向量和梯度的关系。

简单的来说切向量和梯度都是求导数，但是要看的是对谁求导数。举个例子：

y=x^2吧，简单点的。

求在点(a,b)处的切向量。

此时需要写成参数式x=x 并且 y=x^2，分别对x求导数得到(1, 2x)把(a,b)带入即可。

求点(a,b)处的梯度。

此时需要写成f(x,y)=x^2-y，分别对x和y求偏导得到(2x, -1)。

此时明白了梯度和切向量不是一样的，并且还是垂直的，由于和切向量垂直的只有法向量，所以梯度就是法向量。。也许和法向量最大的不同只是方向不一样吧。。

看一下下面这附图的效果，分别示意出来了切向量和梯度在点(1,1)处

有一个问题需要明白的是：

在很多梯度下降的方法中我们看到的只是给出的一个曲线，就是求得偏导，我们总是认为这个是切线方向，其实我们只是把梯度中的一个分量来做了，这个时候这个分量的确是在x处的切线方向，但是梯度最终求得是N个分量所共同决定的向量。这个最终共同决定的向量是和切线垂直的。