xmengnet/hello-algo
1
0
Fork 0
mirror of https://github.com/krahets/hello-algo.git synced 2024-12-25 13:06:30 +08:00
Code Issues Projects Releases Packages Wiki Activity Actions

Update heap

Browse source
This commit is contained in:
Yudong Jin 2023-01-10 03:42:43 +08:00
parent bbd915d706
commit 5ab3513b5a
2 changed files with 171 additions and 142 deletions
Show stats Download patch file Download diff file Expand all files Collapse all files

2
codes/java/chapter_heap/my_heap.java
View file

@ -108,7 +108,7 @@ class MaxHeap {
/* 从结点 i 开始，从顶至底堆化 */ /* 从结点 i 开始，从顶至底堆化 */
private void siftDown(int i) { private void siftDown(int i) {
while (true) { while (true) {
// 判断结点 i, l, r 中值最大的结点，记为 ma ； // 判断结点 i, l, r 中值最大的结点，记为 ma
int l = left(i), r = right(i), ma = i; int l = left(i), r = right(i), ma = i;
if (l < size() && maxHeap.get(l) > maxHeap.get(ma)) if (l < size() && maxHeap.get(l) > maxHeap.get(ma))
ma = l; ma = l;

311
docs/chapter_heap/heap.md
View file

@ -1,21 +1,29 @@
---
comments: true
---
# 堆 # 堆
「堆 Heap」是一种特殊的树状数据结构，并且是一颗「完全二叉树」。堆主要分为两种： 「堆 Heap」是一颗限定条件下的「完全二叉树」。根据成立条件，堆主要分为两种类型：
- 「大顶堆 Max Heap」，任意结点的值 $\geq$ 其子结点的值，因此根结点的值最大； - 「大顶堆 Max Heap」，任意结点的值 $\geq$ 其子结点的值；
- 「小顶堆 Min Heap」，任意结点的值 $\leq$ 其子结点的值，因此根结点的值最小； - 「小顶堆 Min Heap」，任意结点的值 $\leq$ 其子结点的值；
由于堆是完全二叉树，因此最底层结点靠左填充，其它层结点皆被填满。
对于大顶堆（小顶堆），其根结点的值最大（最小）。根结点被称为「堆顶」。
（图） （图）
!!! tip "" !!! tip
大顶堆和小顶堆的定义、性质、操作本质上是相同的，区别只是大顶堆在求最大值，小顶堆在求最小值。 大顶堆和小顶堆的定义、性质、操作本质上是相同的，区别只是大、小顶堆分别在求最大、最小值。若无特别说明，本文将使用大顶堆来举例。
## 堆常用操作 ## 堆常用操作
值得说明的是，多数编程语言提供的是「优先队列 Priority Queue」，其是一种抽象数据结构，**定义为具有出队优先级的队列**。 值得说明的是，多数编程语言提供的是「优先队列 Priority Queue」，其是一种抽象数据结构，**定义为具有出队优先级的队列**。
而恰好，堆的定义与优先队列的操作逻辑完全吻合，大顶堆就是一个元素从大到小出队的优先队列。从使用角度看，我们可以将「优先队列」和「堆」理解为等价的数据结构。因此，本文与代码对两者不做特别区分，统一使用「堆」来命名。 而恰好，**堆的定义与优先队列的操作逻辑完全吻合**，大顶堆就是一个元素从大到小出队的优先队列。从使用角度看，我们可以将「优先队列」和「堆」理解为等价的数据结构。因此，本文与代码对两者不做特别区分，统一使用「堆」来命名。
堆的常用操作见下表（方法命名以 Java 为例）。 堆的常用操作见下表（方法命名以 Java 为例）。
@ -35,36 +43,37 @@
我们可以直接使用编程语言提供的堆类（或优先队列类）。 我们可以直接使用编程语言提供的堆类（或优先队列类）。
```java === "Java"
/* 初始化堆 */
// 初始化小顶堆
Queue<Integer> minHeap = new PriorityQueue<>();
// 初始化大顶堆（使用 lambda 表达式修改 Comparator 即可）
Queue<Integer> maxHeap = new PriorityQueue<>((a, b) -> { return b - a; });
/* 元素入堆 */ ```java title="heap.java"
maxHeap.add(1); /* 初始化堆 */
maxHeap.add(3); // 初始化小顶堆
maxHeap.add(2); Queue<Integer> minHeap = new PriorityQueue<>();
maxHeap.add(5); // 初始化大顶堆（使用 lambda 表达式修改 Comparator 即可）
maxHeap.add(4); Queue<Integer> maxHeap = new PriorityQueue<>((a, b) -> { return b - a; });
/* 获取堆顶元素 */ /* 元素入堆 */
int peek = maxHeap.peek(); maxHeap.add(1);
maxHeap.add(3);
/* 堆顶元素出堆 */ maxHeap.add(2);
int val = heap.poll(); maxHeap.add(5);
maxHeap.add(4);
/* 获取堆大小 */
int size = maxHeap.size(); /* 获取堆顶元素 */
int peek = maxHeap.peek();
/* 判断堆是否为空 */
boolean isEmpty = maxHeap.isEmpty(); /* 堆顶元素出堆 */
int val = heap.poll();
/* 输入列表并建堆 */
// 时间复杂度为 O(n) ，而非 O(nlogn) /* 获取堆大小 */
minHeap = new PriorityQueue<>(Arrays.asList(1, 3, 2, 5, 4)); int size = maxHeap.size();
```
/* 判断堆是否为空 */
boolean isEmpty = maxHeap.isEmpty();
/* 输入列表并建堆 */
minHeap = new PriorityQueue<>(Arrays.asList(1, 3, 2, 5, 4));
```
## 堆的实现 ## 堆的实现
@ -76,151 +85,165 @@ minHeap = new PriorityQueue<>(Arrays.asList(1, 3, 2, 5, 4));
在二叉树章节我们学过，「完全二叉树」非常适合使用「数组」来表示，而堆恰好是一颗完全二叉树，因而我们一般使用「数组」来存储「堆」。 在二叉树章节我们学过，「完全二叉树」非常适合使用「数组」来表示，而堆恰好是一颗完全二叉树，因而我们一般使用「数组」来存储「堆」。
**二叉树指针**。使用数组表示二叉树时，数组元素都代表结点值，索引代表结点在二叉树中的位置，**结点指针通过索引映射公式来实现**。具体地，给定索引 $i$ ，那么其左子结点索引为 $2i + 1$ 、右子结点索引为 $2i + 2$ 、父结点索引为 $(i - 1) / 2$ （向下整除）。当索引越界时，代表空结点或结点不存在。我们将以上映射公式封装成函数，以便使用。 **二叉树指针**。使用数组表示二叉树时，元素代表结点值，索引代表结点在二叉树中的位置，**而结点指针通过索引映射公式来实现**。
具体地，给定索引 $i$ ，那么其左子结点索引为 $2i + 1$ 、右子结点索引为 $2i + 2$ 、父结点索引为 $(i - 1) / 2$ （向下整除）。当索引越界时，代表空结点或结点不存在。我们将以上映射公式封装成函数，以便后续使用。
（图） （图）
```java === "Java"
// 使用列表而非数组，这样无需考虑扩容问题
List<Integer> maxHeap;
/* 构造函数，建立空堆 */ ```java title="my_heap.java"
public MaxHeap() { // 使用列表而非数组，这样无需考虑扩容问题
maxHeap = new ArrayList<>(); List<Integer> maxHeap;
}
/* 构造函数，建立空堆 */
/* 获取左子结点索引 */ public MaxHeap() {
int left(int i) { maxHeap = new ArrayList<>();
return 2 * i + 1; }
}
/* 获取左子结点索引 */
/* 获取右子结点索引 */ int left(int i) {
int right(int i) { return 2 * i + 1;
return 2 * i + 2; }
}
/* 获取右子结点索引 */
/* 获取父结点索引 */ int right(int i) {
int parent(int i) { return 2 * i + 2;
return (i - 1) / 2; // 向下整除 }
}
``` /* 获取父结点索引 */
int parent(int i) {
return (i - 1) / 2; // 向下整除
}
```
### 访问堆顶元素 ### 访问堆顶元素
堆顶元素是二叉树的根结点，即列表首元素。 堆顶元素是二叉树的根结点，即列表首元素。
```java === "Java"
/* 访问堆顶元素 */
public int peek() { ```java title="my_heap.java"
return maxHeap.get(0); /* 访问堆顶元素 */
} public int peek() {
``` return maxHeap.get(0);
}
```
### 元素入堆 ### 元素入堆
给定元素 `val` ，我们先将其添加到堆的末尾。由于 `val` 可能大于其它元素，此时堆的性质可能被破坏了，我们需要修复从插入结点到根结点这条路径上的各个结点，该操作被称为「堆化 Heapify」。 给定元素 `val` ，我们先将其添加到堆的末尾。由于 `val` 可能大于堆中其它元素，此时堆的成立条件可能已经被破坏，**因此需要修复从插入结点到根结点这条路径上的各个结点**，该操作被称为「堆化 Heapify」。
考虑从入堆结点开始，**从底至顶执行堆化**。具体地，比较插入结点与其父结点的值，若插入结点更大则将它们交换；并循环以上操作，从底至顶地修复堆中的各个结点；直至越过根结点时结束，或当遇到无需交换的结点时提前结束。 考虑从入堆结点开始，**从底至顶执行堆化**。具体地，比较插入结点与其父结点的值，若插入结点更大则将它们交换；并循环以上操作，从底至顶地修复堆中的各个结点；直至越过根结点时结束，或当遇到无需交换的结点时提前结束。
设堆长度为 $n$ ，**元素入堆操作的时间复杂度为 $O(\log n)$** 。这是因为树的高度为 $O(\log n)$ ，因此堆化操作的循环轮数最多为 $O(\log n)$ 。 设结点总数为 $n$ ，则树的高度为 $O(\log n)$ ，易得堆化操作的循环轮数最多为 $O(\log n)$ ，**因而元素入堆操作的时间复杂度为 $O(\log n)$** 。
（图） （图）
```java === "Java"
/* 元素入堆 */
void push(int val) {
// 添加结点
maxHeap.add(val);
// 从底至顶堆化
siftUp(size() - 1);
}
/* 从结点 i 开始，从底至顶堆化 */ ```java title="my_heap.java"
void siftUp(int i) { /* 元素入堆 */
while (true) { void push(int val) {
// 获取结点 i 的父结点 // 添加结点
int p = parent(i); maxHeap.add(val);
// 若“越过根结点”或“结点无需修复”，则结束堆化 // 从底至顶堆化
if (p < 0 || maxHeap.get(i) <= maxHeap.get(p)) siftUp(size() - 1);
break;
// 交换两结点
swap(i, p);
// 循环向上堆化
i = p;
} }
}
``` /* 从结点 i 开始，从底至顶堆化 */
void siftUp(int i) {
while (true) {
// 获取结点 i 的父结点
int p = parent(i);
// 若“越过根结点”或“结点无需修复”，则结束堆化
if (p < 0 || maxHeap.get(i) <= maxHeap.get(p))
break;
// 交换两结点
swap(i, p);
// 循环向上堆化
i = p;
}
}
```
### 堆顶元素出堆 ### 堆顶元素出堆
堆顶元素是二叉树根结点，即列表首元素，如果我们直接将首元素从列表中删除，则二叉树中所有结点都产生移位，这样后续使用堆化修复就很麻烦了。为了尽量减少二叉树结点变动，采取以下操作步骤： 堆顶元素是二叉树根结点，即列表首元素，如果我们直接将首元素从列表中删除，则二叉树中所有结点都会随之发生移位（索引发生变化），这样后续使用堆化修复就很麻烦了。为了尽量减少元素索引变动，采取以下操作步骤：
1. 交换列表首元素与尾元素（即交换根结点与最右叶结点）； 1. 交换列表首元素与尾元素（即交换根结点与最右叶结点）；
2. 将尾元素从列表中删除（此时堆顶元素已被删除）； 2. 交换完成后，将尾元素从列表中删除（此时堆顶元素已被删除）；
3. 从根结点开始，从顶至底堆化； 3. 从根结点开始，从顶至底堆化；
顾名思义，**从顶至底堆化的操作方向与从底至顶堆化相反**，我们比较根结点的值与其两个子结点的值，将最大的子结点与根结点执行交换，并循环以上操作，直到越过叶结点时结束，或当遇到无需交换的结点时提前结束。 顾名思义，**从顶至底堆化的操作方向与从底至顶堆化相反**，我们比较根结点的值与其两个子结点的值，将最大的子结点与根结点执行交换，并循环以上操作，直到越过叶结点时结束，或当遇到无需交换的结点时提前结束。
（图） （图）
```java === "Java"
/* 元素出堆 */
int poll() {
// 判空处理
if (isEmpty())
throw new EmptyStackException();
// 交换根结点与最右叶结点（即交换首元素与尾元素）
swap(0, size() - 1);
// 删除结点
int val = maxHeap.remove(size() - 1);
// 从顶至底堆化
siftDown(0);
// 返回堆顶元素
return val;
}
/* 从结点 i 开始，从顶至底堆化 */ ```java title="my_heap.java"
void siftDown(int i) { /* 元素出堆 */
while (true) { int poll() {
// 判断结点 i, l, r 中值最大的结点，记为 ma ； // 判空处理
int l = left(i), r = right(i), ma = i; if (isEmpty())
if (l < size() && maxHeap.get(l) > maxHeap.get(ma)) throw new EmptyStackException();
ma = l; // 交换根结点与最右叶结点（即交换首元素与尾元素）
if (r < size() && maxHeap.get(r) > maxHeap.get(ma)) swap(0, size() - 1);
ma = r; // 删除结点
// 若“结点 i 最大”或“越过叶结点”，则结束堆化 int val = maxHeap.remove(size() - 1);
if (ma == i) break; // 从顶至底堆化
// 交换两结点 siftDown(0);
swap(i, ma); // 返回堆顶元素
// 循环向下堆化 return val;
i = ma;
} }
}
``` /* 从结点 i 开始，从顶至底堆化 */
void siftDown(int i) {
while (true) {
// 判断结点 i, l, r 中值最大的结点，记为 ma
int l = left(i), r = right(i), ma = i;
if (l < size() && maxHeap.get(l) > maxHeap.get(ma))
ma = l;
if (r < size() && maxHeap.get(r) > maxHeap.get(ma))
ma = r;
// 若“结点 i 最大”或“越过叶结点”，则结束堆化
if (ma == i) break;
// 交换两结点
swap(i, ma);
// 循环向下堆化
i = ma;
}
}
```
### 输入数据并建堆 * ### 输入数据并建堆 *
给定一个列表，我们也可以将其建堆。最直接地，可以通过调用「元素入堆」方法，将列表元素依次入堆。元素入堆的时间复杂度为 $O(n)$ ，而平均长度为 $\frac{n}{2}$ ，因此该方法的总体时间复杂度为 $O(n \log n)$ 。 如果我们想要直接输入一个列表并将其建堆，那么该怎么做呢？最直接地，考虑使用「元素入堆」方法，将列表元素依次入堆。元素入堆的时间复杂度为 $O(n)$ ，而平均长度为 $\frac{n}{2}$ ，因此该方法的总体时间复杂度为 $O(n \log n)$ 。
然而，存在一种更加优雅的建堆方法。设结点数量为 $n$ ，我们先将列表所有元素原封不动添加进堆，**然后迭代地对各个结点执行「从顶至底堆化」**。当然，**无需对叶结点执行堆化，**因为其没有子结点。 然而，存在一种更加优雅的建堆方法。设结点数量为 $n$ ，我们先将列表所有元素原封不动添加进堆，**然后迭代地对各个结点执行「从顶至底堆化」**。当然，**无需对叶结点执行堆化**，因为其没有子结点。
```java === "Java"
/* 构造函数，根据输入列表建堆 */
public MaxHeap(List<Integer> nums) { ```java title="my_heap.java"
// 将列表元素原封不动添加进堆 /* 构造函数，根据输入列表建堆 */
maxHeap = new ArrayList<>(nums); public MaxHeap(List<Integer> nums) {
// 堆化除叶结点以外的其他所有结点 // 将列表元素原封不动添加进堆
for (int i = parent(size() - 1); i >= 0; i--) { maxHeap = new ArrayList<>(nums);
siftDown(i); // 堆化除叶结点以外的其他所有结点
for (int i = parent(size() - 1); i >= 0; i--) {
siftDown(i);
}
} }
} ```
```
!!! tip !!! tip
完全二叉树的叶结点数量为 $(n + 1) / 2$ ，其中 $/$ 为向下整除。 完全二叉树中，设结点总数为 $n$ ，则叶结点数量为 $(n + 1) / 2$ ，其中 $/$ 为向下整除。
那么，第二种建堆方法的时间复杂度时多少呢？我们来做一下简单推算。叶结点和需要堆化结点的数量各占约一半，即为 $O(n)$ ，二叉树高度为 $O(\log n)$ ，可得时间复杂度为 $O(n \log n)$ 。该估算结果仍不够准确，因为我们没有考虑到二叉树“底层结点远多于顶层结点”的性质。 那么，第二种建堆方法的时间复杂度时多少呢？我们来做一下简单推算。排除叶结点后，需要堆化结点数量为 $(n - 1)/2$ ，即为 $O(n)$ ，而二叉树高度为 $O(\log n)$ ，因此可得时间复杂度为 $O(n \log n)$ 。
然而，该估算结果仍不够准确，因为我们没有考虑到 **二叉树底层结点远多于顶层结点** 的特点。下面我们来换种方法推导。
设二叉树（即堆）结点数量为 $n$ ，树高度为 $h$ 。如下图所示，我们将各层的“结点数量 $\times$ 子树高度”进行求和，即可得到准确的操作数量。 设二叉树（即堆）结点数量为 $n$ ，树高度为 $h$ 。如下图所示，我们将各层的“结点数量 $\times$ 子树高度”进行求和，即可得到准确的操作数量。
@ -231,24 +254,30 @@ $$
（图） （图）
求解上式需要借助中学的数列知识，先对 $S$ 乘以 $2$ ，可得 求解上式需要借助中学的数列知识，先对 $S$ 乘以 $2$ ，可得
$$ $$
\begin{aligned} \begin{aligned}
S & = 2^0h + 2^1(h-1) + 2^2(h-2) + \cdots + 2^{h-1}\times1 \\ S & = 2^0h + 2^1(h-1) + 2^2(h-2) + \cdots + 2^{h-1}\times1 \newline
2S & = 2^1h + 2^2(h-1) + 2^3(h-2) + \cdots + 2^{h}\times1 \\ 2S & = 2^1h + 2^2(h-1) + 2^3(h-2) + \cdots + 2^{h}\times1 \newline
\end{aligned} \end{aligned}
$$ $$
令下式 $2S$ 与上式 $S$ 错位相减，易得 令下式 $2S$ 与上式 $S$ 错位相减，易得
$$ $$
2S - S = S = -2^0h + 2^1 + 2^2 + \cdots + 2^{h-1} + 2^h 2S - S = S = -2^0h + 2^1 + 2^2 + \cdots + 2^{h-1} + 2^h
$$ $$
观察发现，$S$ 是一个等比数列，可直接借助公式求和。并且，对于高度为 $h$ 的完全二叉树，结点数量范围为 $n \in [2^h, 2^{h+1} - 1]$ ，复杂度为 $n = O(n) = O(2^h)$。 观察发现，$S$ 是一个等比数列，可直接借助公式求和。并且，对于高度为 $h$ 的完全二叉树，结点数量范围为 $n \in [2^h, 2^{h+1} - 1]$ ，复杂度为 $n = O(n) = O(2^h)$。
$$ $$
\begin{aligned} \begin{aligned}
S & = 2 \frac{1 - 2^h}{1 - 2} - h \\ S & = 2 \frac{1 - 2^h}{1 - 2} - h \newline
& = 2^{h+1} - h \\ & = 2^{h+1} - h \newline
& = O(2^h) = O(n) & = O(2^h) = O(n)
\end{aligned} \end{aligned}
$$ $$
以上推算表明，输入列表并建堆的时间复杂度为 $O(n)$ ，非常高效。 以上推算表明，输入列表并建堆的时间复杂度为 $O(n)$ ，非常高效。
## 堆常见应用 ## 堆常见应用