
本书介绍了凸优化,这是一个可以在计算机上高效解决的强大且易于处理的优化问题。本书的目标是帮助读者理解什么是凸优化,以及如何将其应用于更广泛的实际场景,特别是机器学习。
本书的第一部分涵盖了凸集、凸函数的核心概念,以及用于理解凸优化及其相应模型的相关基本定义。第二部分讨论一个非常有用的理论,称为对偶性,它使我们能够:(1)获得算法的见解;(2)获得了通常难以求解的非凸优化问题的近似解。最后一部分关注机器学习和深度学习的现代应用。
本书的一个定义性特征是,它通过历史例子和机器学习应用的趋势,简洁地联系了凸优化如何发挥作用的“故事”。另一个关键特性是,它包括受优化原理启发的各种机器学习算法的编程实现,以及使用的编程工具的简要教程。该实现基于Python、CVXPY和TensorFlow。
这本书没有遵循传统的教科书式的组织方式,而是通过一系列密切相关的讲座笔记进行精简,围绕连贯的主题和概念。本教材主要适用于本科高年级课程,也适用于研究生一年级课程。如果读者有良好的线性代数背景,对概率有一定的了解,并对Python有基本的了解,将受益匪浅。