凸函数、仿射集、凸集

仿射集：若通过集合C中任意两个不同点的直线仍在集合C内，则称集合C为仿射集。
凸集：若集合C内任意两点间的线段均在集合C内，则称集合C为凸集。
第一个是凸集，第二个不是凸集，第三个不是凸集，有些边没有包含集合的话也不能叫做凸集。

凸函数

首先先给出凸函数的图像，如下：

在以前的学习中，上图表示的图像称为凹函数，但是在机器学习中，这就是凸函数。
如果一个函数是凸函数，则该函数的图像上方区域一定是凸集。反过来也成立，即：如果一个函数图像的上方区域是凸集，则该函数是凸函数，如上图所示就是一个凸函数。
一些比较常见的凸函数如下：