**机器学习的根本问题是优化和泛化之间的对立** * **优化**（optimization）是指调节模型以在**训练数据**上得到最佳性能（即**机器学习**中的**学习**） * **泛化**（generalization）是指训练好的模型在**前所未见的数据**上的性能好坏 * **最优解决方法是获取更多的训练数据** ### **方法-正则化（regularization）：** * 减小网络大小 * 添加权重正则化 * 添加 dropout 正则化