第一章核心内容的最优化概要：
1. 什么是“最优化”问题？
最优化研究的是在满足一定约束条件下，如何寻找最优的决策方案，使得某个指标达到最大或最小。
优化模型的三要素
一个标准的最优化问题通常可以表示为：
- 决策变量 ()：你需要控制的变量（如投资额、生产数量、坐标位置）。
- 目标函数 ()：你想优化的指标（如成本最小、利润最大、误差最小）。
- 约束条件 ()：你必须遵守的限制（如原材料总量、预算范围、物理定律）。
2. 最优化问题的分类
了解分类有助于你在后续章节中选择正确的算法：
-
线性规划 (LP) vs. 非线性规划 (NLP)：
-
如果 全是线性的，就是线性规划（Simple & Efficient）。
-
只要有一个是非线性的，就是非线性规划（复杂，可能存在局部最优）。
-
无约束优化 vs. 有约束优化：
-
无约束优化是基础，很多有约束问题最终会转化为无约束问题来求解。
-
连续优化 vs. 离散/整数规划：
-
变量是连续取值还是只能取整数。
3. 局部最优与全局最优
这是第一章中最核心的概念之一，决定了算法的成败：
- 局部极小点 (Local Minimum)：在它周围的一小圈范围内，它是最小的。
- 全局极小点 (Global Minimum)：在整个可行域内，它是最小的。
注意： 大多数传统算法（如梯度下降法）只能找到局部极小点。只有当函数是凸函数时，局部极小点才一定是全局极小点。
4. 算法的基本结构
几乎所有的数值优化算法都遵循一个通用的迭代框架：
- **给出初始点 **：猜一个可能的答案。
- **确定搜索方向 **：往哪边走能让函数值下降？（比如沿着梯度的反方向）。
- **确定步长 **：往这个方向走多远？（通过一维搜索确定）。
- 更新点：。
- 检查停止准则：如果改变量足够小或梯度接近 0，则停止。
5. MATLAB 在最优化中的作用
MATLAB 的常用工具箱：
fminunc：用于求解无约束非线性优化。fmincon：用于求解有约束非线性优化（最常用）。linprog：用于求解线性规划。