Question

什么是正则化？希望得到详细定义和例子

尽量描述清楚一点，不是学数学的，最好用例子说明。

Answer 1

图像复原从数学角度考虑，它等价于第一类fredholm积分方程，是一种反问题，具有很大的病态性，因此，必须进行正则化处理。从统计的角度看，正则化处理其实就是一种图像的先验信息约束 。假设图像退化过程用如下模型描述：
g=hf+n （1）
则图像复原即根据观测图像g恢复原始图像f。正则化图像复原从贝叶斯角度来说，可以用map(最大后验概率估计)方法实现，即：
f=argmax{p(f|g)＝p(g|f)p(f)/p(g)} （2）
先验分布函数 p(f)可以看成一正则化项。图像复原关键问题是先验模型p(f) 的选取，也可以说图像建模在图像复原中起者中心作用。早期的图像复原方法假设 服从平稳高斯分布，从而导致约束最小二乘图像复原方法；但许多统计试验表明大部分自然图像都不能用平稳高斯分布准确的描述，模型的不准确导致复原的图像质量较差，图像边缘不能很好的保持。mrf (markov random field)在图像复原中起很重要的作用，如果将原始图像看作mrf的一次实现，根据mrf的局部性，可以用局部gmrf（gauss markov random field）对图像进行建模，按照这种方式建立的模型比用平稳高斯分布更为准确，因此所复原的质量也较好。现代很多人热衷于小波变换的图像复原，其原因是图像的小波系数可近似认为互相独立，且能够用简单的统计模型描述（如广义高斯分布等）。我认为小波在图像复原中主要起工具的作用，现在关于小波方法进行图像复原，研究重点应放在对小波系数的统计建模（如小波系数尺度间、尺度内、方向间的相关性等）。由于一般正交小波变换不具有平移不变性和方向较少的特点，基于这些不足，现在的发展是在其他变换域内建立模型，如（冗余小波变换，复小波变换，脊波，曲波等）这仍是一个正在发展的课题，关于对这些变换域系数进行统计建模用于图像复原能够弥补正交小波变换的不足，然而重点仍是对变换系数的统计建模。
正如我们如上所说，图像建模对图像复原起很重要的作用。然而，从计算复杂度的角度考虑，一个好的模型常导致计算上的困难。因为一个好的模型最终导致一个（2）式有多个极值点，从而在计算上必须用一些全局优化算法（如模拟退火等），这导致很大的计算量。
综上分析，图像复原需要两方面的知识需要考虑：1统计建模的知识2计算方法的知识。
两者任一方面的改进，都会推动图像复原的发展。因此，必须懂得数理统计，贝叶斯分析，随机场，优化算法，矩阵论，小波分析等数学课程。

Answer 2

比如说函数拟合吧！给定一堆数据，让你用一个函数去拟合这个数据，其实就是要估计函数里面的那几个未知参数，如果你的数据不干净，比如说带了一些噪声，那么你的函数拟合的效果肯定就不是很好，表现在得到的参数并不是很平滑，波动比较明显，就是所谓的过拟合问题。因为拟合过程中拟合了噪声啊！
这个时候就需要正则化了，正则化通俗的理解就是，给函数的参数规定一个取值范围，这样就可以防止参数出现较大的波动，带来的好处就是，可以有效的防止噪声对函数参数估计的影响。
正则化的表现形式往往是通过在函数末尾加上或者减去一个正则化项。
建议你去csdn上看看《谈谈自己对正则化的一些理解~》这篇文章。