diff --git a/chapter_dynamic_programming/intro_to_dynamic_programming.md b/chapter_dynamic_programming/intro_to_dynamic_programming.md index 233589dd9..331d7db6c 100644 --- a/chapter_dynamic_programming/intro_to_dynamic_programming.md +++ b/chapter_dynamic_programming/intro_to_dynamic_programming.md @@ -2,17 +2,19 @@ comments: true --- -# 13.1.   初识动态规划 +# 13.1.   初探动态规划 「动态规划 Dynamic Programming」是一种通过将复杂问题分解为更简单的子问题方式来求解问题的方法，通常用来求解最优方案的相关问题，例如寻找最短路径、最大利润、最少时间等。 -然而，并非所有的最优化问题都适合用动态规划来解决。**只有当问题具有重叠子问题和最优子结构时，动态规划才能发挥出其优势**。 +然而，并非所有的最优化问题都适合用动态规划来解决。**只有当问题具有重叠子问题、最优子结构、无后效性时，动态规划才能发挥出其优势**。 -在本节，我们先从两个经典例题入手，总览动态规划的主要特征，包括： +在本节，我们先从几个经典例题入手，总览动态规划的主要特征，包括： -1. 如何使用回溯算法（穷举）来求解动态规划问题。重叠子问题是什么，以及如何解决由它带来的时间复杂度过高的问题。 -2. 最优子结构的定义，以及它在动态规划问题中的表现形式。 -3. 动态规划中的主要术语，状态压缩的含义与实现方式。 +1. 如何使用回溯来暴力求解动态规划问题，其中为什么包含重叠子问题。 +2. 动态规划是如何通过引入“记忆化”来优化时间复杂度的，并给出从顶至底和从底至顶两种解法。 +3. 动态规划的常用术语，状态压缩的实现方式。 +4. 最优子结构在动态规划问题中的表现形式，动态规划与分治的区别是什么。 +5. 无后效性的含义，其对动态规划的意义是什么。 ## 13.1.1.   重叠子问题 @@ -179,12 +181,9 @@ comments: true [class]{}-[func]{climbingStairsBacktrack} ``` -### 方法一：搜索 +### 方法一：暴力搜索 -然而，这道题并不是典型的回溯问题，而更适合从分治的角度进行解析： - -- 在分治算法中，原问题被分解为较小的子问题，通过组合子问题的解得到原问题的解。例如，归并排序将一个长数组从顶至底地划分为两个短数组，再从底至顶地将已排序的短数组进行排序。 -- 在动态规划中，原问题的解往往依赖于其子问题的解。这些子问题的解不仅揭示了问题的局部最优解，而且还通过特定的递推关系链接起来，共同构建出原问题的全局最优解。 +然而，这道题并不是典型的回溯问题，而更适合从分治的角度进行解析：在分治算法中，原问题被分解为较小的子问题，通过组合子问题的解得到原问题的解。例如，归并排序将一个长数组从顶至底地划分为两个短数组，再从底至顶地将已排序的短数组进行排序。 对于本题，设爬到第 $i$ 阶共有 $dp[i]$ 种方案，那么 $dp[i]$ 就是原问题，其子问题包括 $dp[i-1]$ , $dp[i-2]$ , $\cdots$ , $dp[2]$ , $dp[1]$ 。 @@ -593,13 +592,17 @@ $$ [class]{}-[func]{climbingStairsDP} ``` +与回溯算法一样，动态规划也使用“状态”概念来表示问题求解的某个特定阶段，每个状态都对应一个子问题以及相应的局部最优解。例如对于爬楼梯问题，状态定义为当前所在楼梯阶数。动态规划的常用术语包括： + +- 将 $dp$ 数组称为「状态列表」，索引与状态逐个对应，每个元素对应一个子问题的解； +- 将最简单子问题对应的状态（即第 $1$ , $2$ 阶楼梯）称为「初始状态」； +- 将递推公式 $dp[i] = dp[i-1] + dp[i-2]$ 称为「状态转移方程」； + ![爬楼梯的动态规划过程](intro_to_dynamic_programming.assets/climbing_stairs_dp.png)

Fig. 爬楼梯的动态规划过程

-在动态规划中，我们通常将 $dp$ 数组称为「状态列表」，将最小子问题对应的状态（即 $dp[1]$ , $dp[2]$ ）称为「初始状态」，将 $dp[i] = dp[i-1] + dp[i-2]$ 称为「状态转移方程」。这些名词出现频率很高，请你务必理解并记住。 - -细心的你可能发现，由于 $dp[i]$ 只与 $dp[i-1]$ 和 $dp[i-2]$ 有关，因此我们无需使用一个数组 `dp` 来存储所有状态，只需两个变量滚动前进即可。如以下代码所示，由于省去了数组 `dp` 占用的空间，因此空间复杂度从 $O(n)$ 降低至 $O(1)$ 。 +细心的你可能发现，由于 $dp[i]$ 只与 $dp[i-1]$ 和 $dp[i-2]$ 有关，因此我们无需使用一个数组 `dp` 来存储所有状态，而只需两个变量滚动前进即可。如以下代码所示，由于省去了数组 `dp` 占用的空间，因此空间复杂度从 $O(n)$ 降低至 $O(1)$ 。 === "Java" @@ -720,6 +723,8 @@ $$ 这便可以引出「最优子结构」的含义：**原问题的最优解是从子问题的最优解构建得来的**。对于本题，我们从两个子问题最优解 $dp[i-1]$ , $dp[i-2]$ 中挑选出较优的那一个，并用它构建出原问题 $dp[i]$ 的最优解。 +相较于分治算法问题，动态规划问题的解也是由其子问题的解构成的。不同的是，**动态规划中子问题的解不仅揭示了问题的局部最优解，而且还通过特定的递推关系链接起来，共同构建出原问题的全局最优解**。 + 那么，上道爬楼梯题目有没有最优子结构呢？它要求解的是方案数量，看似是一个计数问题，但如果换一种问法：求解最大方案数量。我们惊喜地发现，**虽然题目修改前后是等价的，但最优子结构浮现出来了**：第 $n$ 阶最大方案数量等于第 $n-1$ 阶和第 $n-2$ 阶最大方案数量之和。所以说，最优子结构的是一个比较宽泛的概念，在不同问题中会有不同的含义。 根据以上状态转移方程，以及初始状态 $dp[1] = cost[1]$ , $dp[2] = cost[2]$ ，我们可以得出动态规划解题代码。 @@ -935,3 +940,170 @@ $$ ```dart title="min_cost_climbing_stairs_dp.dart" [class]{}-[func]{minCostClimbingStairsDPComp} ``` + +## 13.1.3.   无后效性 + +除了重叠子问题和最优子结构以外，「无后效性」也是动态规划能够有效解决问题的重要特性之一。我们先来看下无后效性定义：**给定一个确定的状态，它的未来发展只与当前状态有关，而与当前状态过去所经历过的所有状态无关**。 + +以爬楼梯问题为例，给定状态 $i$ ，它会发展出状态 $i+1$ 和状态 $i+2$ ，分别对应跳 $1$ 步和跳 $2$ 步。在做出这两种选择时，我们无需考虑状态 $i$ 之前的状态，即它们对状态 $i$ 的未来没有影响。 + +然而，如果我们向爬楼梯问题添加一个约束，情况就不一样了。 + +!!! question "带约束爬楼梯" + + 给定一个共有 $n$ 阶的楼梯，你每步可以上 $1$ 阶或者 $2$ 阶，**但不能连续两轮跳 $1$ 阶**，请问有多少种方案可以爬到楼顶。 + +例如，爬上第 $3$ 阶仅剩 $2$ 种可行方案，其中连续三次跳 $1$ 阶的方案不满足约束条件，因此被舍弃。 + +![带约束爬到第 3 阶的方案数量](intro_to_dynamic_programming.assets/climbing_stairs_constraint_example.png) + +

Fig. 带约束爬到第 3 阶的方案数量

+ +在该问题中，**下一步选择不能由当前状态（当前楼梯阶数）独立决定，还和前一个状态（上轮楼梯阶数）有关**。如果上一轮是跳 $1$ 阶上来的，那么下一轮就必须跳 $2$ 阶。 + +不难发现，此问题已不满足无后效性，状态转移方程 $dp[i] = dp[i-1] + dp[i-2]$ 也随之失效，因为 $dp[i-1]$ 代表本轮跳 $1$ 阶，但其中包含了许多“上一轮跳 $1$ 阶上来的”方案，而为了满足约束，我们不能将 $dp[i-1]$ 直接计入 $dp[i]$ 中。 + +为了解决该问题，我们需要扩展状态定义：**状态 $[i, j]$ 表示处在第 $i$ 阶、并且上一轮跳了 $j$ 阶**，$dp[i, j]$ 表示该状态下的方案数量。此状态定义有效地区分了上一轮跳了 $1$ 阶还是 $2$ 阶，我们可以据此来决定下一步该怎么跳： + +- 当 $j$ 等于 $1$ ，即上一轮跳了 $1$ 阶时，这一轮只可选择跳 $2$ 阶； +- 当 $j$ 等于 $2$ ，即上一轮跳了 $2$ 阶时，这一步可选择跳 $1$ 阶或跳 $2$ 阶； + +![考虑约束下的递推关系](intro_to_dynamic_programming.assets/climbing_stairs_constraint_state_transfer.png) + +

Fig. 考虑约束下的递推关系

+ +由此，我们便能推导出以下的状态转移方程： + +$$ +\begin{cases} +dp[i][1] = dp[i-1][2] \\ +dp[i][2] = dp[i-2][1] + dp[i-2][2] +\end{cases} +$$ + +最终，返回 $dp[n][1] + dp[n][2]$ 即可，两者之和代表爬到第 $n$ 阶的方案总数。 + +=== "Java" + + ```java title="climbing_stairs_constraint_dp.java" + /* 带约束爬楼梯：动态规划 */ + int climbingStairsConstraintDP(int n) { + if (n == 1 || n == 2) { + return n; + } + // 初始化 dp 列表，用于存储子问题的解 + int[][] dp = new int[n + 1][3]; + // 初始状态：预设最小子问题的解 + dp[1][1] = 1; + dp[1][2] = 0; + dp[2][1] = 0; + dp[2][2] = 1; + // 状态转移：从较小子问题逐步求解较大子问题 + for (int i = 3; i <= n; i++) { + dp[i][1] = dp[i - 1][2]; + dp[i][2] = dp[i - 2][1] + dp[i - 2][2]; + } + return dp[n][1] + dp[n][2]; + } + ``` + +=== "C++" + + ```cpp title="climbing_stairs_constraint_dp.cpp" + /* 带约束爬楼梯：动态规划 */ + int climbingStairsConstraintDP(int n) { + if (n == 1 || n == 2) { + return n; + } + // 初始化 dp 列表，用于存储子问题的解 + vector> dp(n + 1, vector(3, 0)); + // 初始状态：预设最小子问题的解 + dp[1][1] = 1; + dp[1][2] = 0; + dp[2][1] = 0; + dp[2][2] = 1; + // 状态转移：从较小子问题逐步求解较大子问题 + for (int i = 3; i <= n; i++) { + dp[i][1] = dp[i - 1][2]; + dp[i][2] = dp[i - 2][1] + dp[i - 2][2]; + } + return dp[n][1] + dp[n][2]; + } + ``` + +=== "Python" + + ```python title="climbing_stairs_constraint_dp.py" + def climbing_stairs_constraint_dp(n: int) -> int: + """带约束爬楼梯：动态规划""" + if n == 1 or n == 2: + return n + # 初始化 dp 列表，用于存储子问题的解 + dp = [[0] * 3 for _ in range(n + 1)] + # 初始状态：预设最小子问题的解 + dp[1][1], dp[1][2] = 1, 0 + dp[2][1], dp[2][2] = 0, 1 + # 状态转移：从较小子问题逐步求解较大子问题 + for i in range(3, n + 1): + dp[i][1] = dp[i - 1][2] + dp[i][2] = dp[i - 2][1] + dp[i - 2][2] + return dp[n][1] + dp[n][2] + ``` + +=== "Go" + + ```go title="climbing_stairs_constraint_dp.go" + [class]{}-[func]{climbingStairsConstraintDP} + ``` + +=== "JavaScript" + + ```javascript title="climbing_stairs_constraint_dp.js" + [class]{}-[func]{climbingStairsConstraintDP} + ``` + +=== "TypeScript" + + ```typescript title="climbing_stairs_constraint_dp.ts" + [class]{}-[func]{climbingStairsConstraintDP} + ``` + +=== "C" + + ```c title="climbing_stairs_constraint_dp.c" + [class]{}-[func]{climbingStairsConstraintDP} + ``` + +=== "C#" + + ```csharp title="climbing_stairs_constraint_dp.cs" + [class]{climbing_stairs_constraint_dp}-[func]{climbingStairsConstraintDP} + ``` + +=== "Swift" + + ```swift title="climbing_stairs_constraint_dp.swift" + [class]{}-[func]{climbingStairsConstraintDP} + ``` + +=== "Zig" + + ```zig title="climbing_stairs_constraint_dp.zig" + [class]{}-[func]{climbingStairsConstraintDP} + ``` + +=== "Dart" + + ```dart title="climbing_stairs_constraint_dp.dart" + [class]{}-[func]{climbingStairsConstraintDP} + ``` + +在上面的案例中，由于仅需多考虑前面一个状态，我们仍然可以通过扩展状态定义，使得问题恢复无后效性。然而，许多问题具有非常严重的“有后效性”，例如： + +!!! question "爬楼梯与障碍生成" + + 给定一个共有 $n$ 阶的楼梯，你每步可以上 $1$ 阶或者 $2$ 阶。**规定当爬到第 $i$ 阶时，系统自动会给第 $2i$ 阶上放上障碍物，之后所有轮都不允许跳到第 $2i$ 阶上**。例如，前两轮分别跳到了第 $2, 3$ 阶上，则之后就不能跳到第 $4, 6$ 阶上。请问有多少种方案可以爬到楼顶。 + +在这个问题中，下次跳跃依赖于过去所有的状态，因为每一次跳跃都会在更高的阶梯上设置障碍，并影响未来的跳跃。对于这类问题，动态规划往往难以解决，或是因为计算复杂度过高而难以应用。 + +实际上，许多组合优化问题（例如著名的旅行商问题）都不满足无后效性。对于这类问题，我们通常会选择使用其他方法，例如启发式搜索、遗传算法、强化学习等，从而降低时间复杂度，在有限时间内得到能够接受的局部最优解。 diff --git a/chapter_introduction/index.md b/chapter_introduction/index.md index 92be5dd2b..bcdd7c99b 100644 --- a/chapter_introduction/index.md +++ b/chapter_introduction/index.md @@ -2,10 +2,10 @@ comments: true --- -# 1.   引言 +# 1.   初识算法
-![引言](../assets/covers/chapter_introduction.jpg){ width="70%" } +![初识算法](../assets/covers/chapter_introduction.jpg){ width="70%" }
diff --git a/chapter_introduction/what_is_dsa.md b/chapter_introduction/what_is_dsa.md index c2b1eeb7b..2433dd06e 100644 --- a/chapter_introduction/what_is_dsa.md +++ b/chapter_introduction/what_is_dsa.md @@ -8,9 +8,9 @@ comments: true 「算法 Algorithm」是在有限时间内解决特定问题的一组指令或操作步骤。算法具有以下特性： -- 问题是明确的，具有清晰的输入和输出定义。 -- 解具有确定性，即给定相同的输入时，输出始终相同。 -- 具有可行性，在有限步骤、时间和内存空间下可完成。 +- 问题是明确的，包含清晰的输入和输出定义。 +- 具有可行性，能够在有限步骤、时间和内存空间下完成。 +- 各步骤都有确定的含义，相同的输入和运行条件下，输出始终相同。 ## 1.2.2.   数据结构定义 @@ -18,7 +18,7 @@ comments: true - 空间占用尽量减少，节省计算机内存。 - 数据操作尽可能快速，涵盖数据访问、添加、删除、更新等。 -- 提供简洁的数据表示和逻辑信息，以利于算法高效运行。 +- 提供简洁的数据表示和逻辑信息，以便使得算法高效运行。 数据结构设计是一个充满权衡的过程，这意味着要在某方面取得优势，往往需要在另一方面作出妥协。例如，链表相较于数组，在数据添加和删除操作上更加便捷，但牺牲了数据访问速度；图相较于链表，提供了更丰富的逻辑信息，但需要占用更大的内存空间。 diff --git a/chapter_preface/index.md b/chapter_preface/index.md index c6c3bce86..fe7d1b738 100644 --- a/chapter_preface/index.md +++ b/chapter_preface/index.md @@ -2,10 +2,10 @@ comments: true --- -# 0.   写在前面 +# 0.   前言
-![写在前面](../assets/covers/chapter_preface.jpg){ width="70%" } +![前言](../assets/covers/chapter_preface.jpg){ width="70%" }
diff --git a/index.md b/index.md index bfba06d87..9d2e99f57 100644 --- a/index.md +++ b/index.md @@ -17,12 +17,11 @@ hide:

- - + GitHub Repo stars - - - +   + + GitHub contributors