分类问题和回归问题是监督学习的两大种类。
分类问题希望解决的是将不同的样例分到事先定义好的类别中。如判读零件是否合格是一个二分类问题，手写数字识别是一个十分类问题。
与分类问题不同，回归问题解决的是对具体数值的预测。比如房价预测、销量预测等都是回归问题。这些问题需要预测的不是事先定义好的类别，而是一个任意实数。解决回归问题的神经网络一般只有一个输出节点，这个节点的输出值就是预测值。
不论是回归问题还是分类问题，都可以用均方误差（MSE，mean squared error）作为损失函数。其定义如下：
其中，