期末速通 on RunicDolphin806

形式化方法

Sun, 15 Mar 2026 00:00:00 +0000

感谢 superpung 的notion

课程目标

学习最广泛使用的形式化规格说明的基础
掌握形式化规格说明语言
有形式化方法的基础知识
有一个整体的想法关于什么类型的问题可以被有效地利用形式化方法解决

内容

形式化方法：规格描述语言

形式化方法：逻辑与证明

形式化方法：动态系统

形式化方法：模式检查

数据库系统

Sat, 14 Mar 2026 00:00:00 +0000

数据库系统研究的是：如何用计算机有效地组织和管理数据

数据库与DBMS

概念
数据（Data）	数据库存储的基本对象，数字、文本、图形、音频、视频等均可看作数据
语义	数据的标签，具备语义的数据才可成为信息
数据库（Database）	长期存储在计算机内的、有组织的、可共享的数据的集合
数据库管理系统（DBMS）	位于用户与操作系统之间的一层数据管理软件，通过调用系统资源操作和管理数据

常见数据库应用

MySQL

MySQL是目前流行的数据库管理系统，使用SQL语法操作和管理。

准备工作

# 安装MYSQL
sudo apt-get install mysql-server

# 启动MySQL服务
sudo service mysql start

# 登录MySQL
mysql -u '用户名' -p '密码'

配置MySQL

首先使用命令

`1`	`sudo mysql -u root`

进入MySQL界面，然后操作

设置用户密码

1
2
3

ALTER USER 'root'@'localhost' IDENTIFIED WITH mysql_native_password BY '你的新密码';
FLUSH PRIVILEGES;
EXIT;

退出后以新的密码即可登录MySQL。

允许远程访问

在Shell中输入：

`1`	`sudo vim /etc/mysql/mysql.conf.d/mysqld.cnf`

找到bind-address，将其修改为0.0.0.0或注释掉该行。

保存后重启服务：

`1`	`sudo service mysql restart`

创建新用户

1
2
3

CREATE USER '新用户名'@'%' IDENTIFIED BY '新密码';
GRANT ALL PRIVILEGES ON *.* TO '新用户名'@'%' WITH GRANT OPTION;
FLUSH PRIVILEGES;

退出后以新的用户名和密码即可登录MySQL。

通用语法

单行或多行书写，以分号结尾。
可以使用空格/缩进。
SQL语句不区分大小写，关键字建议大写。
单行注释：--注释内容或# 注释内容；多行注释：/* 注释内容 */。
其他参照SQL语言。

openGauss

数据库管理可视化

面对单调的SQL代码是非常无聊的，因此通过软件可视化管理数据库是不错的选择。

软件	介绍	版本
Navicat	Navicat是一款综合性的数据库管理软件，允许通过一个界面连接和管理多个数据库（其实这个功能大多数类似软件都有）。	Navicat提供多个版本，其中只有Navicat Premium Lite可免费使用（貌似还要注册一个账号）。
DBeaver	功能与Navicat类似	它提供免费的社区版下载，而且不用注册账号，就像JetBrain全家桶
MySQL Workbench	MySQL的官方提供的可视化管理工具	免费，但是没有中文支持。

并行计算

Wed, 11 Mar 2026 00:00:00 +0000

并行计算概述

并行计算基本概念

基本概念	内容
计算	数学计算、数据处理、IT服务
性能	FLOPS（浮点计算数/秒）
浮点计算能力	计算机主频每时钟周期的浮点指令数
产生原因	满足不断增长的计算力需求：用多个处理器同时解决一个问题计算机硬件与网络技术的发展单处理器性能提升受限存储、I/O速率远低于处理器

并行化方法

域分解

首先确定数据如何划分到各个处理器，然后确定每个处理器所需要做的事情。

任务分解

首先将任务划分到各个处理器，然后确定各个处理器需要处理的数据。

流水线

将一个任务拆分成多个步骤，通过不同步骤在时间上的重叠达到“并行”的效果。

并行计算的硬件环境

PRAM模型

PRAM全称为Parallel Random Access Machine，它具备以下特点：

每个处理器可同时从共享的内存中读取数据到自己的寄存器
每个处理器执行计算过程，数据存储在本地寄存器
每个处理器可同时将数据写入到共享的内存（存在潜在冲突）

PRAM模型

PRAM模型可以衍生出以下模型：

模型特点

EREW 任意两个处理器不能并发读，也不能并发写

CREW 可以并发读，但不能并发写

CRCW 可以并发读，也可以并发写

模型	特点
EREW	任意两个处理器不能并发读，也不能并发写
CREW	可以并发读，但不能并发写
CRCW	可以并发读，也可以并发写

根据PRAM模型，可以对前缀求和作出并行算法设计：

处理器

SIMD体系

SIMD是一条指令同时操作多个数据，适合数据级并行的计算机体系结构。

Flynn分类法（Flynn’s Taxonomy）是计算机体系结构领域最经典的分类方法之一。它根据指令流（Instruction Stream）——机器执行的指令序列，和数据流（Data Stream）——由指令流调用的数据序列两个维度的"单"（Single）或"多"（Multiple）组合，将计算机体系结构分为四类：

类型全称指令流数据流典型代表特征

SISD Single Instruction Single Data 单单早期单核CPU（如Intel 8086）、传统冯·诺依曼架构顺序执行，一次处理一个任务的一> 份数据

SIMD Single Instruction Multiple Data 单多 GPU、向量处理器、Intel SSE/AVX指令集一条指令同时操作多个数据，适合数据级并行

MISD Multiple Instruction Single Data 多单极少见，主要用于容错系统（如航天器冗余控制）多个指令同时处理同一数据，理论意义大于实际

MIMD Multiple Instruction Multiple Data 多多多核CPU、分布式计算集群、高性能服务器多个独立指令流处理多个数据流，实现任务级并行

类型	全称	指令流	数据流	典型代表	特征
SISD	Single Instruction Single Data	单	单	早期单核CPU（如Intel 8086）、传统冯·诺依曼架构	顺序执行，一次处理一个任务的一> 份数据
SIMD	Single Instruction Multiple Data	单	多	GPU、向量处理器、Intel SSE/AVX指令集	一条指令同时操作多个数据，适合数据级并行
MISD	Multiple Instruction Single Data	多	单	极少见，主要用于容错系统（如航天器冗余控制）	多个指令同时处理同一数据，理论意义大于实际
MIMD	Multiple Instruction Multiple Data	多	多	多核CPU、分布式计算集群、高性能服务器	多个独立指令流处理多个数据流，实现任务级并行

多核处理器

进入21世纪，曾预言“CPU主频18个月翻一番”的摩尔定律不再适用于当下处理器的发展方向。

限制单核性能主要有以下几个方面：

功耗墙：CPU越小，单位面积产生的热量越多，散热越困难。

存储墙：CPU缓存占据了70%以上的芯片面积，限制了性能的进一步提升。

多核处理器的特点：

多个复杂度适中，相对低功耗的处理核心并行工作。
CPU时钟频率基本不变、

GPU

GPU将更多元件用于数据处理，而非控制和存储。

可以将GPU视作超大规模并行协处理器和SPMD（单程序多数据）模式，实现了数据并行。

互连网络

静态互连网络：处理单元之间有固定连接的一类网络，在程序执行期间这种点到点的链接保持不变：

分类	特点
一维线性阵列	每个节点只与其左右近邻相连（$N$个节点用$N-1$条边串接）
二维网孔	每个节点只与其上、下、左、右的近邻相连（边界结点除外）
二叉树	与完全二叉树的结构类似
超立方	更为复杂的空间结构

动态网络：用交换开关构成的，可按应用程序的要求动态地改变连接组态。包括总线、交叉开关等

内存访问模式

并行计算系统的体系结构

体系结构	特点
PVP（Parallel Vector Processor）	含有为数不多、功能强大的定制向量处理器
SMP（Symmetric Multiprocessor）	多个处理器通过总线或交叉开关连接到共享存储器
MMP（Massively Parallel Processor）	处理节点采用微处理器，系统中有物理上的分布式存储器

并行计算的性能评测

并行计算的性能

指标	内容
Performance	通常是指机器的速度，定义为程序执行时间的倒数
程序执行时间	用户的相应时间（访问存储器的时间、CPU时间、I/O时间以及操作系统的开销）
CPU时间	表示CPU的工作时间，不包括I/O等待时间和运行其他任务的时间

计算量的度量

工作负载：计算量/任务量

并行计算执行时间：$t_p = t_{comp} + t_{paro} + t_{comm}$

其中 $t_{comp}$ 为计算时间，$t_{paro}$ 为并行开销时间，$t_{comm}$ 为相互通信时间

性能指标

加速比：串行执行时间与并行执行时间的比值

$$S(n) = \frac{t_s}{t_p}$$

计算/通信比：

$$\frac{t_{comp}}{t_{comm}}$$

效率：

$$E = \frac{t_s}{t_p \times n} = \frac{S(n)}{n}$$

代价：

$$\frac{t_s}{E}$$

内存系统对性能的影响

对很多应用而言，瓶颈在于内存系统，而不是CPU。它包括两个方面：

延迟：处理器向内存发起访问直至获取数据所需要的时间。
带宽：内存系统向处理器传输数据的速率。

将内存想象为水龙头，则延迟可视为打开水龙头到水流出之间的时间；带宽可视为水开始流出后每秒流出的水量。

如果想尽可能快地出水，应当减少延迟；如果想尽快地获得更多的水，应当提升带宽。

考虑利用时间局部性和空间局部性原理减少延迟

加速比定律

参数	定义
$P$	处理器数目
$W$	问题规模，$W_s$ 表示串行部分，$W_p$ 表示可以并行的部分，则有 $W_s + W_p = W$
$T_s$	串行执行时间
$T_p$	并行执行时间
$S$	加速比
$E$	效率

Amdahl 定律

在计算负载不变、通过增加处理器的执行速度达到加速目的的条件下，不断增加并行计算机和处理器的数目，不可以无限制地提升加速比。

固定负载的加速公式：

$$S = \frac{W_s + W_p}{W_s + \displaystyle \frac{W_p}{P}} = \frac{f+(1-f)}{f+\displaystyle \frac{1-f}{P}} = \frac{P}{1+f(P-1)}$$

当 $P \rightarrow \infty$ 时，$\displaystyle S = \frac{1}{f}$

若有额外开销 $W_o$

$$S = \frac{W_s + W_p}{W_s + \displaystyle \frac{W_p}{P} + W_o} = \frac{P}{1+f(P-1)+W_o \cdot \displaystyle \frac{P}{W}}$$

Gustafson 定律

在提升并行计算机数目的同时增加计算量，可以无限制地提升加速比。

$$S = \frac{W_s + P \cdot W_p}{W_s + P \cdot \displaystyle \frac{W_p}{P}} = \frac{W_s + P \cdot W_p}{W_s + W_p} = f+P(1-f) = P - f(P-1)$$

加入额外开销：

$$S = \frac{W_s + P \cdot W_p}{W_s + W_p + W_o} = \frac{f + P(1-f)}{1+\displaystyle \frac{W_o}{W}}$$

Sun and Ni 定律

令因子 $G(p)$ 表示存储容量增加到 $P$ 倍时工作负载的增加量，所以扩大后的工作负载 $W = fW + (1-f) \cdot G(p) \cdot W$

$$S = \frac{f W + (1-f) \cdot G(p) \cdot W}{fW + (1-f) \cdot G(p) \cdot \displaystyle \frac{W}{p}} = \frac{f+(1-f) \cdot G(p)}{f+(1-f) \cdot \displaystyle \frac{G(p)}{p}}$$

$G(p) = 1$，就是Amadahl定律

$G(p) = p$，就是Gustafson定律

$G(p) > p$，相当于计算机负载比存储要求增加得快，此时Sun and Ni加速比更快

可扩放性评测

可扩放性反映了计算机系统性能随处理器数的增加而按比例提高的能力。

增加规模有利于提高加速比的因素

较大的问题可以提高较高的并发度
额外开销的增加可能慢于有效计算的增加
算法中的串行分量比例不是固定不变的，随问题规模的增加而减小

并行程序设计方法

以下提供一些并行计算的程序设计方法。请注意，这些方法通常不会单一出现，而是综合使用。

并行设计方法大体上分为两类：共享内存型（Pthread、OpenMP，CUDA）和分布式计算型（MPI、MapReduce）。

多线程与Pthread

OpenMP编程

MPI编程

GPU编程

MPI多级混合编程

MapReduce编程

并行算法设计

算法：计算指令序列（逻辑）

串行算法：只有一组计算指令

并行算法：一些可同时执行的计算任务的集合，这些计算任务分工合作获得给定问题的求解。

设计思想

并行算法设计并不是串行算法设计的进阶：串行算法的设计思想，一般都基于冯式架构，指令逻辑顺序清晰；并行计算硬件环境没有统一的体系结构。
并行算法中部分计算过程可以是串行算法，串行算法中的部分计算过程也可以并行化
并行算法的设计，与问题本身以及硬件平台均相关：问题类型与硬件平台类型的组合，能够形成并行算法（程序）设计的模式
并行算法的类型：计算密集or数据密集
数据结构与算法密不可分

一般策略

串行算法的直接并行化

分析现有串行算法中固有的并行性，直接将其并行化：该方法并不是对所有问题都可行，但对很多应用问题仍不失为一种有效的方法。

由串行算法直接并行化的方法是并行算法设计的最常用方法之一，但需要注意以下方面：

不是所有的串行算法都可以直接并行化；
一个好的串行算法未必能并行化为一个好的并行算法；
许多数值串行算法可以并行化为有效的数值并行算法。

重新设计并行算法

从问题本身的描述出发，根据问题的固有属性，从头设计一个全新的并行算法：这种方法有一定难度，但所设计的并行算法通常更高效。

利用已有的并行算法

借助已有的并行算法求解新问题。

PCAM方法学

设计并行程序的四个阶段

阶段	任务
划分（Partitioning）	分解成小的任务，开拓并发性
通讯（Communication）	确定诸任务间的数据交换，监测划分的合理性
组合（Agglomeration）	依据任务的局部性，组合成更大的任务
映射（Mapping）	将每个任务分配到处理器上，提高算法的性能

划分

充分开拓算法的并发性和可扩放性；

先进行数据分解（域分解），再进行计算功能的分解（功能分解）；
使数据集和计算集互不相交；
划分阶段忽略处理器数目和目标机器的体系结构；

通讯

通讯是PCAM设计过程的重要阶段；

划分产生的诸任务，一般不能完全独立执行，需要在任务间进行数据交流，从而产生了通讯；
功能分解确定了诸任务之间的数据流；
诸任务是并发执行的，通讯则限制了这种并发性；

通讯模式：

局部/全局通讯
结构化/非结构化通讯
静态/动态通讯
同步/异步通讯

组合

组合是由抽象到具体的过程，将组合的任务能在一类并行机上有效的执行

合并小尺寸任务，减少任务数。如果任务数恰好等于处理器数，则也完成了映射过程。

增加任务的粒度和重复计算，可以减少通讯成本。保持映射和扩展的灵活性，降低软件工程成本

映射

每个任务要映射到具体的处理器（计算资源），定位到运行机器上；

任务数大于处理器数时，存在负载平衡和任务调度问题；
映射的目标：减少算法的执行时间
并发的任务分配到不同的处理器，任务之间存在高通讯的分配到同一处理器

映射实际是一种权衡，属于NP完全问题

静态映射模式

基于数据划分的映射
基于任务图划分的映射
复合的映射

动态映射模式（也称为动态负载均衡，因为负载均衡是动态调度的主要动机）可以是集中式的和分布式的。

映射的原则：最小化交互开销

最大化数据局部性：只要可能就复用中间数据，重建计算以使数据在较小的窗口内得到重用
最小化数据交换量
最小化交互的频度
最小化竞争和热点
计算与通信重叠：使用非阻塞式通信；多线程；预取以隐藏时延
使用成组通信而非点对点通信

算法设计与分析

Mon, 09 Mar 2026 00:00:00 +0000

程序 = 数据结构 + 算法

计算机科学并不只是关于计算机，就像天文学并不只关于望远镜一样。
― Edsger Dijkstra

参考资料：点击此处

特别感谢由 NoviaMiller 提供的AI总结！

算法的基本概念

算法是对特定问题求解的一种描述，是指令的有限序列。

算法的特点

有穷性：在有限步骤内结束，有限时间内完成。
确定性：每条指令都是明确的、无二义的。
可行性：每条指令都能够被执行。
输入：有0个或多个输入变量。
输出：有1个或多个输出变量、

算法的正确性

算法	内容
正确算法	对于每一个输入都最终停止，而且产生了正确的输出
不正确算法	在某个输入上不停止；对所有输入都停止但对某输入产生不正确的结构
近似算法	对所有输入都停止，产生近似正确的解或不多的不正确解

📝 备注

调试程序 $\ne$ 程序正确性的证明。程序调试只能证明程序是否有错，不能证明程序正确（无错误）。

算法的优劣

单纯使用程序执行时间衡量算法的优劣缺乏客观性，因此需要使用独立于具体计算机的客观衡量标准。

问题的规模：一个或多个整数，作为输入数据量的测度。
复杂度：
- 时间复杂度：基本运算（原子操作）的执行次数。
- 空间复杂度：算法所需存储空间的大小。
基本运算：解决给定问题时占支配地位的运算。讨论一个算法的优劣通常只考虑基本运算。

算法分析的数学基础

记号	含义
$\lfloor x \rfloor$	小于等于 $x$ 的最大整数
$\lceil x \rceil$	大于等于 $x$ 的最小整数
$\log n$	$\log n = \log_{2} n$
$\lg n$	$\lg n = \log_{10} n$
$\ln n$	$\ln n = \log_{\mathrm{e}} n$

复杂性函数的阶

渐进复杂性

渐进复杂性表达了当输入规模 $n$ 趋近于极限（相当大）时的复杂性 $T(n)$ 。

复杂性阶的三个记号

含义	记号	定义
最坏时间复杂度	$\Omega(f(n))$	如果存在 $c>0$ 与正整数 $n_0 \geqslant 1$，当 $n \geqslant n_0$ 时，都有 $T(n) \geqslant c \cdot f(n)$ 成立，则称 $T(n)$ 是 $f(n)$ 的高阶，它给出了算法复杂度的下界
最好时间复杂度	$\mathrm{O}(f(n))$	如果存在 $c>0$ 与正整数 $n_0 \geqslant 1$，当 $n \geqslant n_0$ 时，都有 $T(n) \leqslant c \cdot f(n)$ 成立，则称 $T(n)$ 是 $f(n)$ 的低阶，它给出了算法复杂度的上界
平均时间复杂度	$\Theta(f(n))$	如果存在 $c_1, c_2 > 0$ 与正整数 $n_0 \geqslant 1$，当 $n \geqslant n_0$ 时，都有 $c_2 f(n) \leqslant T(n) \leqslant c_1 f(n)$ 恒成立，则称 $T(n)$ 与 $f(n)$ 同阶

例如，对于 $f(n) = 3n^3+2n^2$，取 $n_0 = 1$，当 $n \geqslant n_0 = 1$ 时：

取 $c_1 = 5$，有 $T(n) \leqslant 5n^3$ 成立，即有 $T(n) = \Omega(n^3)$

取 $c_2 = 3$，有 $T(n) \geqslant 3n^3$ 成立，即有 $T(n) = \mathrm{O}(n^3)$

综上，$T(n) = \Omega(n^3)$

定理：对于任意的 $f(n)$ 和 $g(n)$，$f(n) = \Theta(g(n))$ 当且仅当 $f(n) = \mathrm{O}(g(n))$ 且 $f(n) = \Omega(g(n))$。

证明：先证明必要性：若 $f(n) = \Theta(g(n))$，则存在 $c_1, c_2 > 0$，$n_0 > 0$，使得当 $n \geqslant n_0$ 时都有 $c_1 g(n) \leqslant f(n) \leqslant c_2 g(n)$，则 $f(n) = \mathrm{O}(g(n))$ 且 $f(n) = \Omega(g(n))$

再证明充分性：若 $f(n) = \mathrm{O}(g(n))$ 且 $f(n) = \Omega(g(n))$，

由 $f(n) = \mathrm{O}(g(n))$ 可知存在 $c_1, n_1 > 0$，使得当 $n \geqslant n_1$ 时有 $f(n) \leqslant c_1 g(n)$；

由 $f(n) = \Omega(g(n))$ 可知存在 $c_2, n_2 > 0$，使得当 $n \geqslant n_2$ 时有 $f(n) \geqslant c_2 g(n)$。

令 $n_0 = \max \{n_1, n_2\}$，则当 $n>n_0$时，有 $c_2 g(n) \leqslant f(n) \leqslant c_1 f(n)$，即 $f(n) = \Theta(g(n))$

严格函数

严格低阶函数集合

$$o(g(n)) = \{ f(n) \mid \forall c>0，\exist n_0 \in \mathbb{N}^*，使得当 n>n_0 时都有 0 \leqslant f(n) \leqslant c \cdot g(n) \}$$

严格高阶函数集合

$$\omega(g(n)) = \{ f(n) \mid \forall c>0，\exist n_0 \in \mathbb{N}^*，使得当 n>n_0 时都有 0 \leqslant c \cdot g(n) \leqslant f(n) \}$$

严格上界：若 $f(n) \in o(g(n))$，称 $g(n)$ 是 $f(n)$ 的严格上界，记作 $f(n) = o(g(n))$

严格下界：若 $f(n) \in \omega(g(n))$，称 $g(n)$ 是 $f(n)$ 的严格下界，记作 $f(n) = \omega(g(n))$

📝 备注

严格函数的性质：

若 $f(n) = o(g(n))$，则有 $\displaystyle \lim_{n \to \infty} \frac{f(n)}{g(n)} = 0$

若 $f(n) = \omega(g(n))$，当且仅当 $g(n) \in o(f(n))$

函数阶的性质

性质	表达式
传递性	$f(n) = \Theta(g(n))$ 且 $g(n) = \Theta(h(n))$，则有 $f(n) = \Theta(h(n))$
自反性	$f(n) = \Theta(f(n))$，$f(n) = \Omega(f(n))$，$f(n) = O(f(n))$
对称性	若 $f(n) = \Omega(g(n))$，则有 $g(n) = O(f(n))$
反对称性	$f(n) = O(g(n))$，当且仅当 $g(n) \in \Omega(f(n))$

并非所有函数都是可比的，例如 $f(n) = n$ 与 $g(n) = n^{1+\sin n}$ 之间就找不到符合要求的 $n_0$ 和 $c$。

定义了函数的阶之后，就可以量化程序运行的时间了。例如，对于一台每秒可执行某基本运算 $10^9$ 次的机器，当输入规模为 $60$ 时：

	复杂度	运行时间
算法1	$n$	$6 \times 10^{-8}$ 秒
算法2	$n^2$	$3.6 \times 10^{-6}$ 秒
算法3	$n^3$	$2.16 \times 10^{-4}$ 秒
算法4	$n^5$	$0.013$ 分
算法5	$2^n$	$3.66$ 世纪
算法6	$3^n$	$1.3 \times 10^{13}$ 世纪

由此可得出两个结论：

多项式时间的算法之间有差距，但一般可接受。
指数量级的算法对于较大的 $n$ 无使用价值。

和的估计与界限

直接求和

$$\sum_{k=1}^{n} a_k \leqslant n \cdot \max_{1 \leqslant k \leqslant n} a_k$$

特别地：$\displaystyle \sum_{k=1}^{n} k \leqslant \sum_{k=1}^{n} n \leqslant n^2$

对于所有 $k>0$，若都有 $\displaystyle \frac{a_{k+1}}{a_k} \leqslant r < 1$，则

$$\sum_{k=1}^{n} a_k \leqslant \sum_{k=1}^{n} a_0 r^k \leqslant \frac{a_0}{1-r}$$

求和转换为积分

当 $f(x)$ 单调递增时，有 $\displaystyle \int_{m-1}^{n} f(x) \mathrm{d}x \leqslant \sum_{k=m}^{n} f(x) \leqslant \int_{m}^{n+1} f(x) \mathrm{d}x $

当 $f(x)$ 单调递减时，有 $\displaystyle \int_{m}^{n+1} f(x) \mathrm{d}x \leqslant \sum_{k=m}^{n} f(x) \leqslant \int_{m-1}^{n} f(x) \mathrm{d}x $

例如，在算法分析中经常出现的 $\log n!$ 可作如下分析：

由对数运算性质可知，
$$ \log n! = \sum_{k=1}^{n} \log k $$
则有上界：
$$ \sum_{k=1}^{n} \log k \leqslant \int_{1}^{n} \log x \mathrm{d}x $$

积分求和的上界

同理，可知下界：
$$ \sum_{k=1}^{n} \log k \geqslant \int_{2}^{n+1} \log (x-1) \mathrm{d}x \xlongequal{t = x-1} \int_{1}^{n} \log t \mathrm{d}t = \int_{1}^{n} \log x \mathrm{d}x$$

积分求和的下界

综合两式可得：$\log n! = \Theta(n\log n)$，该求和公式在快速排序等算法中有重要作用。

递归方程

递归方程是用递归形式描述算法时间复杂度的有效工具，通过求解递归方程可以快速得知算法的时间复杂度信息。

例如：归并排序的递归方程

$$T(n) = \left\{\begin{align*} &\Theta(1), & n=1 \\ &2T\displaystyle \left(\frac{n}{2}\right) + \Theta(n), & n \geqslant 1 \end{align*}\right.$$

逐层展开法

对于递归方程

$$T(n) = n + 3T\left(\left\lfloor \frac{n}{4} \right\rfloor\right)$$

将其展开可得：

$$\begin{align*} T(n) &= n + 3T\left(\left\lfloor \frac{n}{4} \right\rfloor\right) \\\\ &= n + 3\left(\left\lfloor \frac{n}{4} \right\rfloor + 3T\left( \left\lfloor \frac{n}{16} \right\rfloor \right)\right) \\\\ &= n + 3\left\lfloor \frac{n}{4} \right\rfloor + 3^2 \left\lfloor \frac{n}{4^2} \right\rfloor + 3^3 \left\lfloor \frac{n}{4^3} \right\rfloor + \cdots + 3^k T \left(\left\lfloor \frac{n}{4^k} \right\rfloor \right) \end{align*}$$

深度 $k = \log_{4}n$，最底层有 $3^k = 3^{\log_{4}n} = n^{\log_{4}3}$ 个，则有

$$T(n) = \sum_{i=0}^{(\log_{4}n) - 1} 3^i \cdot \frac{n}{4^i} + \Theta(n^{\log_{4}3}) \leqslant 4n + \Theta(n^{\log_{4}3}) = \mathrm{O}(n)$$

变量替换法

设递归方程为：

$$T(n) = 2T(\sqrt{n}) + \log n$$

令 $m = \log n$，则 $n = 2^m$，$\displaystyle T(2^m) = 2T\left(2^{\frac{m}{2}}\right) + m$。再令 $S(m) = T(2^m)$，则 $\displaystyle S\left(\frac{m}{2}\right) = T\left(2^{\frac{m}{2}}\right)$

于是

$$S(m) = 2S\left(\frac{m}{2}\right) + m = \Theta(m \log m)$$

回代可得 $T(n) = \Theta(\log n (\log (\log n)))$

Master定理

对于形如 $\displaystyle T(n) = a \cdot T\left(\frac{n}{b}\right) + f(n)$ 的递归方程（其中 $a \geqslant 1$，$b \geqslant 1$ 是常数，$f(n)$ 是正函数）：

若 $f(n) = \mathrm{O} (n^{(\log_{b} a)-\varepsilon})$，常数 $\varepsilon > 0$，则有 $T(n) = \Theta(n^{\log_{b}a})$
若 $f(n) = \Theta(n^{\log_{b} a})$，则有 $T(n) = \Theta(n^{\log_b a} \log n)$
若 $f(n) = \Omega(n^{(\log_{b} a) + \varepsilon})$，常数 $\varepsilon > 0$，且对所有 $n$，都有 $\displaystyle af\left(\frac{n}{b}\right) \leqslant c \cdot f(n)$ （$c>1$ 且为常数），则有 $T(n) = \Theta(f(n))$

直观理解：用 $f(n)$ 与 $n^{\log_b a}$ 的阶比较

若 $n^{\log_b a}$ 的阶更大，即 $f(n)$ 的阶不仅小于 $n^{\log_b a}$，而且还小于 $n^{\log_b a}/n^{\varepsilon}$，则 $T(n) = \Theta(n^{\log_b a})$

若 $f(n) = \Theta(n^{\log_b a})$，即 $f(n)$ 与 $n^{\log_b a}$ 同阶，则有 $T(n) = \Theta(n^{\log_b a} \log n) = \Theta(f(n)\log n)$

若 $f(n)$ 的阶更大，即 $f(n)$ 的阶不仅大于 $n^{\log_b a}$，而且还大于 $n^{\log_b a} \cdot n^{\varepsilon}$，则 $T(n) = \Theta(f(n))$

Master定理的证明（点击展开）

对 $\displaystyle T(n) = a T\left(\frac{n}{b}\right) + f(n)$ 展开可得

$$ T(n) = \Theta(n^{\log_b a}) + \sum_{i=0}^{k-1} a^i \cdot f(\frac{n}{b^i}) $$

其中 $n = b^k$，$k = \log_b n$，$a^k = a^{\log_b n} = n^{\log_b a}$

令 $\displaystyle g(n) = \sum_{i=0}^{k-1} a^i f\left( \frac{n}{b^i} \right)$，则有 $T(n) = \Theta(n^{\log_b a}) + g(n)$

若 $f(n) = \mathrm{O} (n^{(\log_b a) - \varepsilon})$，则有
$$\begin{align*} g(n) &= \mathrm{O} \left(\sum_{i=0}^{k-1} a^i \left(\frac{n}{b^i}\right)^{(\log_b a)-\varepsilon} \right) = \mathrm{O} \left( n^{(\log_b a)-\varepsilon} \sum_{i=0}^{k-1} \left(\frac{ab^{\varepsilon}}{b^{\log_b a}}\right)^i \right) \\ &= \mathrm{O} \left( n^{(\log_b a)-\varepsilon} \frac{n^{\varepsilon} - 1}{b^{\varepsilon} - 1} \right) = \mathrm{O} (n^{\log_b a}) \end{align*}$$
故 $T(n) = \Theta(n^{\log_b a}) + g(n) = \Theta(n^{\log_b a})$
若 $f(n) = \Theta(n^{\log_b a})$，则有
$$\begin{align*} g(n) &= \Theta \left( \sum_{i=0}^{k-1} a^i \frac{n}{b^i}^{\log_b a} \right) = \Theta \left( n^{\log_b a} \sum_{i=0}^{k-1} 1 \right) \\ &= \Theta(n^{\log_b a} k) = \Theta(n^{\log_b a} \log_b n) = \Theta(n^{\log_b a} \log n) \end{align*}$$
故 $T(n) = \Theta(n^{\log_b a}) + g(n) = \Theta(n^{\log_b a} \log n)$
若 $f(n) = \Omega(n^{(\log_b a) + \varepsilon})$，且对所有充分大的 $n$ 有
$$\begin{align*} a f\left(\frac{n}{b}\right) &\leqslant c f(n) \\ a f\left(\frac{n}{b^2}\right) &\leqslant c f\left(\frac{n}{b}\right) \\ &\cdots \\ a f\left(\frac{n}{b^i}\right) &\leqslant c f\left(\frac{n}{b^{i-1}}\right) \end{align*}$$
两边分别相乘得 $\displaystyle a^i f\left(\frac{n}{b^i}\right) \leqslant c^i f(n)$，则有
$$g(n) = \sum_{i=0}^{k-1} a^i f\left(\frac{n}{b^i}\right) \leqslant \sum_{i=0}^{k-1} c^i f(n) = f(n) \sum_{i=0}^{k-1} c^i \leqslant f(n) \cdot \frac{1}{1-c} = \Theta(f(n))$$
故 $T(n) = \Theta(n^{\log_b a}) + g(n) = \Theta(f(n))$

推广形式：若 $f(n) = \Theta(n^{\log_b a} \log^{k} n)$，其中 $k \geqslant 0$，则有
$$T(n) = \Theta(n^{\log_b a} \log^{k+1} n)$$

算法实例

这里仅给出一些算法的案例。

算法：递归法

算法：分治法

算法：贪心法

算法：动态规划

算法：回溯法

算法：分支限界法

其他算法

NP问题分析

本部分我们不再研究具体的算法，而是抽象地研究算法解决的这些计算问题。即对于给定的问题，我们关注于：

是否可以计算？
如果可以计算，如何判断是计算易解的还是难解的？
如果是难解的，如何判断与哪些已知难解问题是等价的？
如果不可以计算，如何证明？

抽象问题 $Q$ 定义为问题实例空间 $I$ 和问题解空间 $S$ 上的二元关系：$Q = (I, S)$。

决策问题与优化问题

决策问题（Decision problem）：只要求回答“Yes”或“No”的问题，它的解空间只含有两个元素 $\{\text{yes}, \text{no}\}$，也称为判定问题。如判断图中两点之间是否存在长度不超过 $k$ 的路径。

优化问题（Optimization problem）：要求在所有的可行解里找出使得目标函数最大或最小的解。如找出图中两点之间的最短路径。

任何优化问题，都可以转化为相应的决策问题。

定义决策问题的阈值：转化为一个“是否存在满足该约束的解”的问题。
利用二分法算法逼近优化解：通过决策问题解决原优化问题。

例如，对于旅行商问题（TSP）：

优化问题描述：找出图中长度最小的汉密尔顿回路。

决策问题描述：是否存在一条长度 $\leqslant k$ 的汉密尔顿回路。

二分搜索：首先确定目标函数的下界 $L = 0$ 和上界 $U = \Sigma e_i$ ，然后在区间 $[L,U]$ 内进行二分搜索，取中点 $\displaystyle k = \frac{L+U}{2}$，调用决策问题算法：若答案为“yes”，说明最优值 $\leqslant k$ ，更新 $U = k$；若答案为“No”，说明最优值 $> k$，更新 $L=k+1$

优化问题转化为决策问题的复杂度分析：

设二分搜索算法的时间复杂度为 $T_b$，解决对应决策问题的算法的时间复杂度为 $T_d$，则通过二分搜索结合决策问题的解法求解优化问题时，总的时间复杂度为 $$T_o = \mathrm{O} (T_b \cdot T_d)$$
二分搜索的时间复杂度 $T_b$ 取决于参数 $k$ 的取值范围（长度）。若 $k$ 的取值上限（长度）是输入实例规模 $n$ 的多项式函数，则 $T_b$ 是 $\mathrm{O} (\log 𝑛)$，即具有多项式对数时间复杂度。此时，整体时间复杂度 $T_o$ 与 $T_d$ 属于同一复杂度量级。
因而求解决策问题可以近似求解优化问题，这表明优化问题至少与相应的决策问题一样难。

问题的难易

易解问题（Tractable problems）: 如果问题 $Q$ 存在一个多项式界的求解算法，则称问题 $Q$ 为易解（计算）问题（computationally tractable）。

易解问题算法的上界是多项式界，例如 $\log n$，$n\log n$，$n^2$ 等。这类问题复杂性的上界约束只适用于合理的输入实例尺寸。

当前不是易解的问题，将来可能会变为易解问题。

难解问题（Intractable problems）：不存在多项式界求解算法的问题，即求解该问题算法的复杂性至少是指数级的。

不可解问题（unsolvable problem）：不能被确定型图灵机求解的计算问题，即不存在任何算法能够求解的计算问题，通常也称为不可判定问题（Undecidable）。例如停机问题。

停机问题可以描述为：是否存在一个程序 $P$，对于任意输入的程序 $w$，能够判断 $w$ 会在有限时间内结束或者死循环。

假设停机问题有解，则存在算法halt(P,I)可以判断对于输入I时程序P是否停机，即：
$$\text{halt}(P,I) = \left\{ \begin{matrix} \begin{align*} & \text{Yes} & \text{if输入I, P停机} \\ & \text{No} & \text{if输入I, P进入死循环} \end{align*} \end{matrix} \right.$$
构造下面的程序 $Z(P)$，它实现了当程序 $P$ 读入其本身 $P$ 时，如果halt算法判定其停机，则 $Z$ 进入死循环，否则 $Z$ 停机：
1
2
3
4
5
Z(P) {
  a: if halt(P,P) then
          goto a;
      else halt;
}
Case 1：程序 $Z$ 关于输入 $Z$ 停机：halt判定其停机，而程序 $Z$ 判定其进入死循环。

Case 2：程序 $Z$ 关于输入 $Z$ 进入死循环：halt判定其进入死循环，而程序 $Z$ 判定其停机

因而halt(P,I)不存在，停机问题是不可解（计算）的！

合理的输入尺寸

满足以下两个条件的输入为合理的输入尺寸：

期望的输出与输入密切相关。
输入可以被确定编码。

📝 备注

在《算法》教材里，查找含有“NP 问题” 的段落：合理；

在整个互联网里，查找含有“NP 问题”的网页：不合理；

在人类基因组里，查找某个基因：合理；

在所有物种里，查找某个基因：不合理。

难解问题的时效性

难解问题不一定永远不能转变为易解问题。

案例：素数检验问题（给定任意正整数 $n$，检验 $n$ 是否存在大于 $1$ 的整数因子）

直到 2004 年，AKS（M. Agrawal, N. Kayal, and N. Saxena）在美国数学年报上提出了复杂性是 $n$ 位数的多项式函数的算法。

问题难的原因

输入实例的长度

在算法复杂性理论中，输入实例的长度是度量一个计算问题规模的基本单位，是分析算法时间复杂度和空间复杂度的基础。

输入实例长度通常是指描述该输入所需的比特数，即用某种固定编码方式将输入表示为二进制字符串时的长度。

设有一个计算问题，其输入是一个字符串 $x \in \Sigma$，其中 $\Sigma$ 是某个有限字符集（如 $\{0, 1\}$）。那么输入实例 $x$ 的长度可以形式化地表示为 $|x|$，即表示这个字符串所需字符的个数。

📝 备注

注意：算法复杂性研究的是输入实例长度与复杂性之间的关系，而非输入特征。当我们用近似符号表示算法复杂性时，需要判断输入特征与输入长度是否满足多项式关系：

是：可以使用近似符号表示输入特征与复杂性的关系。

否：不能直接使用，需要推导输入长度与复杂性的关系。

例如对于0/1背包问题，输入实例 $n$，$c$，$w=(w_1, w_2, \cdots, w_n)$，$p=(p_1, p_2, \cdots, p_n)$。则输入实例长度可表示为

$$\begin{align*} m &= \log n + \log c + \sum \log p_i + \sum\log w_i \\ &< \log n + \log c + n \log c + n \log c \\ &= \log n + \log c + 2n\log c \\ &= \Theta(n \log c)\end{align*}$$

所以 $T = \Theta(nc) = \Theta(n2^m)$ 是伪多项式界。

非确定性算法

非确定性算法指的是算法多次运行同样的输入实例时，可能表现出不同的行为（例如某个时刻有多个动作可供选择），从而导致不同的运行结果。

导致不确定的原因:

概率算法：动作（指令）的执行依赖于随机数的产生。
并发算法：动作（指令）的执行结果依赖于竞态条件。

问题难的等价性

P类问题

$\text{P}$ 类问题：能够被确定性图灵机在多项式时间内求解的决策问题集合。

$\text{P}$ 类问题的性质：

高效性：多项式时间复杂性意味着算法的运行时间增长率是温和的、可控的，不会随输入规模 $n$ 的增加而呈指数级爆炸。
多项式时间可解：任何在图灵机上多项式时间可解的问题，在任何合理的计算模型（包括现代计算机）上，也是多项式时间可解的。
封闭性： $\text{P}$ 类对多项式时间的加法、乘法及复合运算是封闭的。这意味着多个 $\text{P}$ 类算法的组合运算结果仍属于 $\text{P}$ 类。

NP类问题

当且仅当存在一个验证算法 $V$（Verifier）和一个多项式 $p$，满足：

多项式时间验证：对于任意输入实例 $w$ 和证书 $c$，验证算法 $V$ 的运行时间是输入规模 $|w|$ 的多项式函数，即 $$T(V(w,c)) = \mathrm{O}(p(|w| + |c|))$$
证书存在性：对于任意实例 $w$
- 如果 $w$ 是 $Q$ 的一个 $\text{YES}$ 实例（即 $w \in Q$），则存在一个证书 $c$ 使得验证通过，即 $$V(w, c) = \text{YES}$$
- 所有满足条件的证书 $c$ 的长度 $|c|$ 具有关于输入大小的多项式界，即 $$|c| = \mathrm{O}(p(|w|))$$

NPC类问题

当且仅当存在一个多项式界的确定性算法 $T$ 满足：

对于 $X$ 的每个输入实例 $x$，$T$ 生成一个实例 $T(x)$；

$x$ 是 $X$ 的一个合法输入实例且对应 $\text{YES}$ 答案当且仅当 $T(x)$ 是 $Y$ 的一个合法输入实例且对应 $\text{YES}$ 答案。

此时称问题 $X$ 可以多项式地规约到问题 $Y$，记做 $X \leqslant_P Y$。

$X \leqslant_P Y$ 意味着 $X$ 至多与 $Y$ 一样难。

如果 $X \leqslant_P Y$ 且 $Y$ 属于 $\text{P}$ 类问题，那么 $X$ 也属于 $\text{P}$ 类问题。

如果所有的 $\text{NP}$ 类问题都可以多项式地规约到问题 $Q$，那么称 $Q$ 为 $\text{NP-hard}$ 问题（$\text{NPH}$）。

$\text{NP-hard}$ 至少和所有 $\text{NP}$ 问题一样难，但它的解可能无法在多项式时间内被验证。

常见的 $\text{NP-hard}$ 问题：

3-SAT（布尔可满足性问题）：最万能的起点。

旅行商问题（TSP）：常用于路径、网络、图论类问题。

背包问题：常用于资源分配、调度类问题。

顶点覆盖/团问题：常用于社交网络、图匹配类问题。

集合覆盖：常用于选点、选址、广告投放类问题。

如果问题 $Q$ 是 $\text{NP-hard}$ 问题并且也属于 $\text{NP}$ 类问题，那么称 $Q$ 为 NP Complete（$\text{NPC}$）问题。

$\text{NPC}$ 是 $\text{NP}$ 和 $\text{NP-hard}$ 的交集，即 $\text{NPC} = \text{NP} \cap \text{NP-hard}$。

📝 备注

问题属于 $\text{NP-hard}$ 但不属于 $\text{NP}$ 的核心特征就是：问题极难求解，且即使给你一个答案，你也几乎无法在多项式时间内验证它是否正确。

通常，不可解问题（如停机问题）、无法“判定”的最优化问题、需要“找最优解”的搜索问题、非“多项式界限”的验证问题等问题即属于 $\text{NP-hard}$ 但不是 $\text{NP}$ 问题。

$\text{NPC}$ 问题的性质：

封闭性：所有的 $\text{NPC}$ 问题关于多项式规约是封闭的；
自反性：任何问题 $Q$ 可规约到自身；
传递性：如果 $A$ 规约到 $B$，$B$ 规约到 $C$，则 $A$ 规约到 $C$。

如果能够找到一个 $\text{NPC}$ 问题的多项式算法，那么 $\text{P} = \text{NP}$。

$\text{P} = \text{NP}$ 问题位于七个“千僖年数学难题”之首，迄今无解。

计算机网络

Sat, 31 Jan 2026 00:00:00 +0000

📝 备注

本文较多地参考了计算机考研杂货铺的相关内容，在此感谢这位大佬！

图片基本来自《计算机网络：自顶向下方法（第8版）》（Computer Networking: A Top-Down Approach 8th edition）的官方英文课件。

概述

概念	定义
网络	节点和边之间的无向关系
计算机网络	联网的计算机构成的系统，包括主机节点（Web应用）和数据交换节点（路由器）
互联网	许多网络通过互联方式联系在一起。

互联网是设备和协议的集合体。

从“组成结构”看互联网：

组成结构	定义
网络边缘（Internet edge）	包括客户端和服务器，接入网和物理介质
网络核心（Internet core）	互相连接的路由器，也称作“网络之网络”

从“提供服务”看互联网：

提供服务	定义
协议（protocol）	定义了网络实体之间发送和接收消息的格式、顺序以及在消息传输、接收时采取的动作
标准（RFC）	由IETF制定，定义消息的格式、信息发送的顺序等内容

网络边缘

主机

包括客户端和服务器，任务是发送数据包。

数据包：将应用程序产生的消息分解成的较小的块称为数据包，长度通常记作 $L$，单位为比特。

记互联网的传输速率为 $R$（也称为链路容量或带宽，单位 $\text{bits/s}$），则可定义数据包传输延迟为将 $L$ 比特数据包传送到链路所需的时间

$$D = \frac{L}{R}$$

接入网

接入网连接主机与边缘路由，包括以下几类：

类型	特点
线缆接入	HFC（光纤/同轴电缆混合）连接。下行40Mbps-1.2Gbps，上行30-100Mbps
数字接入	利用现有的有线电话线路连接。下行24-52Mbps，上行3.5-16Mbps
无线接入	无线局域网（WLAN），范围不超过一个建筑物，速率在450Mbps 蜂窝网络：由运营商提供，范围在10km数量级，速率在10Mbps

物理介质

概念	含义
物理链路	数据发送和接收端之间的物理连接
导向性介质	信号在固体介质中传播，如铜、光纤、同轴电缆
非导向性介质	信号自由传播，如无线电磁波

常用的物理介质

介质	特点
双绞线（TP）	由两根绝缘铜线组成，之间呈螺旋形地绞在一起。五类线可达100Mbps-1Gbps，六类线可达10Gbps
同轴电缆	由两个同心铜导体组成，可双向传输，拥有多个通道，每个通道可达100Mbps
光纤	由玻璃纤维组成，利用光的反射来传递光信号。高速点对点传输速率可达10-100Gbps，且不受电磁干扰
电磁波	信号分布在电磁波的各个频段，受反射、遮挡、干扰的影响较大。常见的有WiFi、蜂窝网络、蓝牙、卫星信号等

网络核心

网络核心可以看作一系列互相连接的路由器，每个路由器都有多个输入端和输出端。网络核心不运行应用程序，只转发数据包。它包含两大基本功能：

转发（交换）：将到达的数据包从路由器的输入链路移动到输出链路。
路由：规划数据包传输所需要经过的路径。

电路交换

电路交换为源到目的地的“呼叫”分配并预留端到端的资源，即为收发两端分配专用的、独占的资源。

电路交换常用于传统的电话中。通话时，两台电话之间分配了专用的通信资源，即使没有数据传输，在挂断之前资源不会被释放。

电路交换中，为了更好地利用资源，出现了FDM（频分）和TDM（时分）技术。

FDM：将电磁频率划分为多个窄频段，并为每个呼叫分配专用频段，交换时以该频段的最大速率传输。
TDM：将时间划分为多个时段，并为每个呼叫周期性地分配时段，在其所属时段可以电磁波的最大速率传输。

报文交换

报文交换与分组交换类似，只不过把整个报文作为一个单元传输，节点存储并转发整个报文：

报文发送：发送方将完整的数据消息（大小可变，可能包含文本、文件等）发送到网络中的第一个节点（通常是交换机或路由器）。
存储转发：每个节点接收整个报文，存储在缓冲区，检查目标地址后，选择下一跳节点转发。报文在网络中逐跳传输，直到到达接收方。
接收与处理：接收方收到完整报文后，进行处理或存储。

报文交换主要用于早期的电报和一些数据网络中。

分组交换

分组交换是对电路交换的改进，它的基本原理和过程如下：

数据分割：主机将应用数据拆分成数据包。
路由转发：数据包通过源到目标路径的一条链路，从一个路由器转发到下一个路由器。
分组传输：每个数据包在链路上的传输互相独立。
存储转发：整个数据包必须完整到达路由器后才能转发到下一条链路上。

传输延迟：以 $R$ $\text{bps}$ 在链路上传输 $L$ $\text{bit}$ 需要时间 $\displaystyle \frac{L}{R}$ 秒，这段时间称为传输延迟。一般地，若端到端之间有 $n$ 条链路，每条链路的传输速率为 $R_{i}$ $\text{bps}$，则传输大小为 $L$ $\text{bit}$ 的数据包需要的总延迟为 $\displaystyle \sum_{i=1}^{n} \frac{L}{R_i}$ 秒

排队与丢包：如果一段时间内到达链路的速率超过链路的传输速率，则数据包将会在路由器上的缓冲区排队。若缓冲区已满，多余的数据包则可能被丢弃，称为丢包。

发生丢包时，对于丢失的数据包可能进行如下操作，具体则与使用的网络协议有关：

由上一个节点重传。

由源主机重新发送。

完全不进行响应。

排队与丢包

假设 $n$ 名用户共享一条带宽为 $10 \text{Mbps}$ 的链路，每一名用户需要 $200 \text{kbps}$ 的带宽传输数据，并且每个用户仅有 $10\%$ 的时间用于传输数据，其他时间空闲。

若使用电路交换，最多同时支持的用户数为 $$\frac{10 \text{Mbps}}{200 \text{kbps}} = \frac{10 \times 10^6}{200 \times 10^3} = 50$$
若使用分组交换，对于任意一个用户，他在这段时间内任意一个时刻传输数据的概率为 $p$。则有 $m$ 名用户同时使用这条链路的概率为 $$\mathrm{C}_n^m p^n (1-p)^{n-m}$$故有多于 $m$ 名用户同时使用这条链路的概率为 $$1- \sum_{i=0}^n \mathrm{C}_m^i p^i (1-p)^{m-i}$$当 $n$ 足够大时，二项分布可近似为正态分布。则同时使用链路的用户数目服从正态分布 $$X \sim N(np, np(1-p))$$在上例中，若 $n = 120$，则 $np = 120 \times 0.1 = 12$，$np(1-p) = 10.8$，则有 50 名及以上用户同时转发数据的概率为 $$1 - P\left(X \leqslant 50\right) = 1 - \varPhi\left(\frac{X - \mu}{\sigma} \leqslant \frac{50 - 12}{\sqrt{10.8}}\right) = 1 - \varPhi(11.87) \approx 0$$

因此使用分组交换，最多支持的用户数可远大于 $50$。因为用户数峰值比 $50$ 更多的情况几乎不存在。分组交换能够在容纳更多用户的同时达到和电路交换差不多的性能。

ISP与互联网

主机通过接入互联网服务提供商（ISP）连接到互联网，不同的ISP必须互相连接。由此形成复杂的网络结构。

ISP与互联网

网络协议

为什么采用分层结构？

有利于识别系统各组成部分及其相互关系。

分层结构有利于系统维护和更新。

协议栈	概念	协议数据单元（PDU）
应用层（application）	支持网络应用	消息
传输层（transport）	进程间的数据传输	TCP 段 / UDP 数据报
网络层（network）	规划数据从源到目的地的路线	分组
链路层（link）	相邻网络结点之间的数据传输	帧
物理层（physical）	传输字节信息	比特

网络评价指标

速率与带宽

速率（Rate）：连接到计算机网络上的节点在数字信道上传送数据的速率，也称数据传输速率、数据率或比特率，单位为 $\text{b/s}$ 或 $\text{bit/s}$（有时也写为 $\text{bps}$ ）。

当数据率较高时，可用 $\text{kb/s}$、$\text{Mb/s}$ 或 $\text{Gb/s}$ 表示。

📝 备注

通常 $1 \text{Gbps} = 10^{3} \text{Mbps} = 10^{6} \text{kbps} = 10^{9} \text{bps}$。

同时需要特别注意 “比特（$\text{bit}$）” 和 “字节（$\text{B}$）”的区别。$1 \text{B} = 8 \text{bit}$，常出现在文件大小和传输速率的单位换算中。

通常把最高数据传输速率称为带宽。

例如，如果家用宽带的带宽是 $100\text{Mb/s}$，表示网络在理想情况下，每秒最多可以传输 $\text{100 Mb}$ 的数据，相当于大约 $12.5 \text{MB/s}$ 的下载速度。

延迟

延迟（Delay）指数据（一个报文或分组）从网络（或链路）的一端传送到另一端所需要的总时间。

延迟来源	记号	内容
处理延迟	$d_{\text{proc}}$	检查字节错误、确定输出链路带来的延迟
排队延迟	$d_{\text{queue}}$	数据包在队列中等待传输带来的延迟
传输延迟	$d_{\text{trans}}$	数据包转发（将分组的所有字节推向链路）带来的延迟，通常为 $\displaystyle \frac{L}{R}$。也可表示为从发送分组的第一个比特到该分组的最后一个比特发送完毕所需的时间 $\Delta t$
传播延迟	$d_{\text{prop}}$	数据包在链路上传输带来的延迟，通常为 $\displaystyle \frac{d}{s}$。也可表示为一个比特从链路的一端传播到另一端所需的时间 $\Delta t$

📝 备注

传输延迟是路由器将分组推出所需的时间，等于分组长度 / 链路传输速率。

传播延迟是一个比特从一台路由器传播至另一台路由器所需的时间，等于两台路由器之间距离 / 电磁波在信道上的传播速率。与分组长度或链路传输速率无关。

总延迟（端到端延迟）为以上4个延迟来源之和，即：

$$d_{\text{nobal}} = d_{\text{proc}} + d_{\text{queue}} + d_{\text{trans}} + d_{\text{prop}}$$

📝 备注

对于传输延迟，每两个节点之间都需要 $\displaystyle \frac{L}{R}$ 的时间。若中间节点不存储而直接转发，则只需要考虑首尾节点即可。

延迟带宽积（Bandwidth-Delay Product，BDP）：发送端发送的第一个比特即将到达终点时，发送端已经发出的字节数量，因此又称以比特为单位的链路长度，即

$$\text{BDP} = \text{传播延迟} \times \text{信道带宽}$$

考虑一个代表链路的圆柱形管道，其长度表示链路的传播时延，横截面积表示链路带宽，则延迟带宽积表示该管道可以容纳的比特数量。

例如，下图中两段链路的数据传输速率均为 $100\text{Mbps}$，延迟带宽积均为 $1000\text{bit}$，路由器 $R$ 需要进行存储转发。若 $H_1$ 向 $H_2$ 发送一个大小为 $1 \text{MB}$、分组长度为 $1000\text{B}$ 的文件，则从 $H_1$ 开始发送时刻起到 $H_2$ 收到文件全部数据时刻止，所需的时间可以这样考虑：

以该文件的最后一个 $\text{bit}$ 为参照点。当这个比特到达 $B$ 时，则可认为文件发送完毕。

$H_1$ 推送一个比特用时（传输延迟）： $$t_{\text{trans}} = \frac{L}{R} = \frac{1000 \text{B}}{100 \text{Mbps}} = 0.08 \text{ms}$$将所有数据推向链路的时间： $$t = \frac{1 \times 8\text{Mb}}{100 \text{Mbps}} = 80 \text{ms}$$因此最后一个 $\text{bit}$ 在 $80 \text{ms}$ 时离开 $H_1$。
由延迟带宽积为 $1000\text{bit}$ 可知传播延迟 $$t_{\text{proc}} = \frac{1000 \text{bit}}{100 \text{Mbps}} = 0.01 \text{ms}$$因此最后一个 $\text{bit}$ 经过了 $0.01 \text{ms}$ 到达 $R$，即用时 $80.01 \text{ms}$。
$R$ 对该文件进行存储转发，需要用时 $t_{\text{trans}}$，故最后一个 $\text{bit}$ 在 $80.09 \text{ms}$ 离开 $R$。
最后从 $R$ 到 $H_2$ 仍需要一个 $t_{\text{proc}}$。因此最后一个 $\text{bit}$ 在 $80.10 \text{ms}$ 到达 $B$，文件传输完成。

综上，文件传输用时 $80.10 \text{ms}$。

吞吐量

发送端向接收端发送比特的速率，通常记作 $R$，单位为 $\text{bit/s}$

若发送端到接收端有多段链路，则称限制吞吐量的链路为瓶颈链路（即吞吐量最小的链路）。

分层结构

在 ISO/OSI 参考模型中，网络一共分为7层，自下而上依次为：物理层、数据链路层、网络层、传输层、会话层、表示层、应用层：

分层	功能
物理层	在物理媒介上为数据端设备透明地传输原始比特流
数据链路层	传输单位是帧，将物理层提供的可能出错的物理连接改造为尽可能可靠的数据链路。
网络层	对数据报进行路由选择
传输层	为端到端连接提供可靠的传输服务，包括流量控制（端到端）、差错控制、服务质量、数据传输管理等服务
应用层	应用层为特定类型的网络应用提供访问 OSI 参考模型环境的手段。应用层采用不同的协议解决不同类型的需求，因此应用层是最复杂的一层，使用的协议也最多

上表为互联网使用的协议层级，实际上参考模型还包括：

会话层：负责管理主机间的会话进程，包括建立、管理及终止进程间的检查点机制来维持可靠会话。

表示层：采用抽象的标准方法定义数据结构，并采用标准的编码形式使不同表示方法的数据和信息之间能互相交换。

各层协议的具体内容如下：

应用层

传输层

网络层

数据链路层

各层协议总结

Internet中，各层的协议整体上呈现“两头粗，中间细”的特点。

应用层协议最多，常见的有以下内容：

HTTP/HTTPS：超文本传输协议，用于网页浏览。通常使用端口 80/443，依赖TCP协议（HTTP/3 使用UDP）。
FTP：文件传输协议，用于文件上传与下载。依赖 TCP。
DNS：域名系统，将域名解析为 IP 地址。主要依赖 UDP。
DHCP：动态主机配置协议，用于自动分配 IP 地址及其他网络参数。依赖 UDP 协议。

传输层协议只有两个，分别为 TCP 和 UDP：

TCP：面向连接，提供可靠的字节流服务，适用于要求高可靠性的应用。
UDP：无连接，不保证可靠性，但开销小、速度快，适用于实时性要求高的场景。

网络层协议主要为与 IP 相关的协议：

IP：不可靠的无连接协议，提供数据报服务，是整个互联网的核心协议。
NAT：网络地址转换，用于在私网和公网之间转换 IP 地址。
RIP/OSPF/BGP：路由选择协议，主要用于自治系统内部（RIP、OSPF）或之间（BGP）的路由计算。

数据链路层协议：

ARP：地址解析协议，用于将 IP 地址解析为对应的 MAC 地址。

概率论与数理统计

Fri, 07 Nov 2025 00:00:00 +0000

依旧期末速通……

随机事件与概率

随机事件的关系与运算

关系	表示
包含	$B \subset A$
相等	$B = A$
并	$A \cup B$
交	$A \cap B = AB$
互斥	$AB = \varnothing$
对立	$\overline{A}$
差	$A-B$

运算	表示
交换律	$A \cap B = AB$，$AB = BA$
结合律	$(A \cap B) \cap C = A \cap (B \cap C)$，$AB = BA$
分配律	$(A \cap B) \cup C = (AC) \cup (BC)$，$(A \cup B) \cup C = (A \cup C) \cap (B \cup C)$
对偶律	$\overline{A \cup B} = \overline{A}\overline{B}$，$\overline{AB} = \overline{A} \cup \overline{B}$

概率及其性质

性质	表示
有限可加性	$\displaystyle P\left(\bigcup_{i=1}^{n} A_i \right)= \sum_{i=1}^{n} P(A_i)$
对立事件	$P\left(\overline{A}\right) = 1-P(A)$
减法公式	$P(A-B) = P(A\overline{B}) = P(A) - P(AB)$
单调性	若 $A \subset B$，则 $P(A) \leqslant P(B)$
容斥原理	对任意两个事件 $A，B$，有 $P(A \cup B) = P(A) + P(B) - P(AB)$

一般的，对于 $n$ 个事件 $A_i$，有
$$\begin{align*} P\left(\bigcup_{i=1}^{n} A_i \right) = \sum_{i=1}^{n} P(A_i) &- \sum_{1 \leqslant i < j \leqslant n} P(A_i A_j) \\ &+ \sum_{1 \leqslant i < j < k \leqslant n} P(A_i A_j A_k) - \cdots + (-1)^{n-1} P(A_1 A_2 \cdots A_n) \end{align*}$$

古典概型与几何概型

概型	计算
古典概型	$$P(A) = \frac{k}{n} = \frac{\text{事件}A\text{中所含样本点的个数}}{\text{样本空间}\varOmega\text{中所含样本点总数}}$$
几何概型	$$P(A) = \frac{A \text{的度量}}{\varOmega \text{的度量}}$$

条件概率与乘法公式

条件概率

$$P(B|A) = \frac{P(AB)}{P(A)}$$

性质：

$P(\overline{B} |A) = 1 - P(B|A) $
$P(B_1 \cup B_2 | A) = P(B_1 | A) + P(B_2 | A) - P(B_1 B_2 | A) $

乘法公式

$$ P(AB) = P(A) P(B|A) $$

$$P(A_1 A_2 \cdots A_n) = P(A_1) P(A_2|A_1) P(A_3|A_1 A_2) \cdots P(A_n|A_1 A_2 \cdots A_{n-1})$$

全概率公式

若 $A_1，A_2，\cdots A_n，B$ 是 $E$ 中的事件，且满足 $A_1 \cup A_2 \cup \cdots \cup A_n = \varOmega$，则

$$P(B) = \sum_{i=1}^{n} P(A_i) P(B|A_i)$$

案例：敏感性问题调查

步骤	要求
设计问题	你的生日是否在7月1日之前要调查的问题
操作	被调查者在没有旁人的情况下，独自一人回答问题在一个袋子中放入若干个红球和白球，被调查者从袋子中随机抽一个球，看过颜色后放回. 若抽到白球则回答问题1；若抽到红球则回答问题2 被调查者只回答“是”或“否”
分析结果	设共收到 $n$ 张答卷，其中有 $k$ 张答卷回答“是”；同时，在人数较多的场合中，任选一人其生日在7月1日之前的概率为 $0.5$；袋子中红球的比率为 $\alpha$，则有等式 $$\frac{k}{n} = p \cdot \alpha + 0.5 \cdot (1-\alpha)$$ 可知问题2回答“是”的概率 $$p=\frac{\dfrac{k}{n}-0.5(1-\alpha)}{\alpha}$$

贝叶斯公式

$$P(A_i |B) = \frac{P(A_i B)}{P(B)} = \frac{P(A_i)P(B|A_i)}{\displaystyle \sum_{i=1}^{n} P(A_i)P(B|A_i)}$$

事件的独立性

设 $n$ 个事件 $A_1，A_2，\cdots，A_n$，若对任意 $k=2，3，\cdots，n$ 和任意一组 $1 \leqslant i_1 < i_2 < \cdots < i_k \leqslant n$，都有

$$P(A_{i_1} A_{i_2} \cdots A_{i_k}) = P(A_{i_1}) P(A_{i_2}) \cdots P(A_{i_k})$$

则称事件 $A_1，A_2，\cdots，A_n$ 相互独立.

随机变量及其分布

概率分布函数

设 $X$ 是随机变量，对任意给定实数 $x \in (-\infty, +\infty)$，令

$$F(x) = P\{X \leqslant x\}$$

则称 $F(x)$ 为随机变量 $X$ 的概率分布函数.

分布函数 $F(x)$ 具有以下性质：

性质	表示
非负性	对任意实数 $x$，都有 $0 \leqslant F(x) \leqslant 1$，且 $\displaystyle F(-\infty) = \lim_{x \to -\infty} F(x) = 0$，$\displaystyle F(+\infty) = \lim_{x \to +\infty} F(x) = 1$
单调不减性	$\forall x_1 < x_2$，有 $F(x_1) \leqslant F(x_2)$
右连续性	$\forall a \in \textbf{R}$，有 $\displaystyle \lim_{x \to a^+} F(x) = F(a+0) = F(a)$

区间概率：$P\{x_1 < X \leqslant x_2\} = P\{X \leqslant x_2\} - P\{X \leqslant x_1\} = F(x_2) - F(x_1)$
样本点概率：$P\{X = a\} = F(a+0) - F(a-0)$

离散型随机变量的分布

概率分布律

设离散型随机变量所有可能取值为 $x_k，k=1,2,\cdots$，则称 $X$ 取各个可能值的概率

$$P\{X = x_k\} = p_k$$

为随机变量 $X$ 的概率分布律. 可用表格表示为

$X$	$x_1$	$x_2$	$\cdots$	$x_k$	$\cdots$
$P_X$	$p_1$	$p_2$	$\cdots$	$p_k$	$\cdots$

且有：$\displaystyle \sum_{i=0}^{\infty} p_k = 1$

常用分布

类型	概率分布律	记法
两点分布	$P\{X = 0\} = 1-p，P\{X = 1\} = p$	$X \sim B(1,p)$
二项分布	$\displaystyle P\{X=k\} = \mathrm{C}_{n}^{k} p^k (1-p)^{n-k}，k=0,1,2,\cdots,n \quad (0<p<1)$	$X \sim B(n,p)$
泊松分布	$\displaystyle P\{X=k\} = \frac{\lambda^k \mathrm{e}^{-\lambda}}{k!}，k=0,1,2,\cdots,n$	$X \sim P(\lambda)$
超几何分布	$\displaystyle P\{X=k\} = \frac{\mathrm{C}_M^k \mathrm{C}_{N-M}^{n-k}}{\mathrm{C}_{N}^{n}}，k=0,1,2,\cdots,\text{min}\{n,M\}$	$X \sim H(N,M,n)$
几何分布	$P\{X=k\} = (1-p)^{k-1}p，k=0,1,2,\cdots$	$X \sim G(p)$

泊松定理

设 $\displaystyle p_n = \frac{\lambda}{n}$，$\lambda > 0$ 是常数，则对任一非负整数 $k$，有

$$\lim_{n \to \infty} \mathrm{C}_n^k p_n^k(1-p_n)^{n-k} = \frac{\lambda^k \mathrm{e}^{-\lambda}}{k!}$$

根据泊松定理，当 $n$ 很大且 $p$ 很小时，二项分布可以近似为泊松分布，此时有 $\lambda = np$，且
$$\mathrm{C}_n^k p_n^k(1-p_n)^{n-k} = \frac{\lambda^k \mathrm{e}^{-\lambda}}{k!}$$

几何分布的无记忆性

如果 $X \sim G(p)$，则对任意正整数 $m$，$n$，都有

$$P\{X>m+n \ |\ X>m\} = P\{X>n\}$$

连续型随机变量的分布

概率密度函数

设随机变量 $X$ 的分布函数为 $F(x)$，若存在非负函数 $f(x)$，使得对任意实数 $x \in \textbf{R}$，均有

$$F(x) = \int_{-\infty}^{x} f(t) \mathrm{d}t$$

则称随机变量 $X$ 为连续型随机变量，称 $f(x)$ 为概率密度函数.

常用分布

类型	概率密度函数	记法
均匀分布	$\displaystyle f(x) = \left\{ \begin{matrix} \displaystyle \frac{1}{b-a}，& a \leqslant x \leqslant b \\ \\ 0，& 其他 \end{matrix} \right.$	$X \sim U(a,b)$
指数分布	$\displaystyle f(x) = \left\{ \begin{matrix} \lambda\mathrm{e}^{-\lambda x}，& x \geqslant b \\ \\ 0，& 其他 \end{matrix} \right.$	$X \sim Exp(\lambda)$
正态分布	$\displaystyle f(x) = \frac{1}{\sqrt{2\pi} \sigma} \mathrm{e}^{-\frac{(x-\mu)^2}{2\sigma^2}}，-\infty < x < \infty$	$X \sim N(\mu,\sigma^2)$

指数分布的性质

无记忆性：如果 $X \sim Exp(\lambda)$，则对任意 $s>0$，$t>0$，都有

$$P\{X>s+t \ |\ X>s\} = P\{X>t\}$$

正态分布的性质

正态分布的概率密度函数 $f(x)$ 以 $x=\mu$ 为对称轴，因此 $\displaystyle F(\mu) = \frac{1}{2}，F(\mu-x) = 1-F(\mu+x)$.
特别地，称 $\mu=0，\sigma=1$ 的正态分布为标准正态分布，其概率密度函数记作 $\varphi(x)$，分布函数记作 $\varPhi(x)$. 则对任意正态分布 $N(\mu,\sigma^2)$，有
$$P\{x_1 < X \leqslant x_2\} = F(x_2) - F(x_1) = \varPhi\left(\frac{x_2-\mu}{\sigma}\right) - \varPhi\left(\frac{x_1-\mu}{\sigma}\right) $$
若 $X \sim N(\mu, \sigma^2)$，令 $Y=aX+b$，则随机变量 $Y \sim N(a\mu+b,(a\sigma)^2)$.

随机变量函数的分布

离散型随机变量函数的分布

若 $y_k = g(x_k)$，且已知

$X$	$x_1$	$x_2$	$\cdots$	$x_k$	$\cdots$
$P_X$	$p_1$	$p_2$	$\cdots$	$p_k$	$\cdots$

则可直接写出 $Y$ 的概率分布律：

$Y$	$y_1=g(x_1)$	$y_2=g(x_2)$	$\cdots$	$y_k=g(x_k)$	$\cdots$
$P_Y$	$p_1$	$p_2$	$\cdots$	$p_k$	$\cdots$

连续型随机变量函数的分布

若 $X$ 是连续型随机变量，$y=g(x)$ 是单值实函数，则先求 $Y$ 的分布函数 $F_Y(y)$，再对 $F_Y(y)$ 求导得随机变量 $Y$ 的概率密度函数 $f_Y(y)$.

随机变量 $X$ 对应的概率密度函数为 $f(x)$，随机变量 $Y$ 满足 $Y = g(X)$，则可得

$$F_Y(y) = P\{Y \leqslant y\} = P\{g(X) \leqslant y\} = P\{a < X < b\}$$

其中 $a$，$b$ 是关于 $y$ 的函数.

多维随机变量及其分布

联合分布函数与边缘分布函数

联合分布函数

设 $(X,Y)$ 是二维随机变量，对于任意实数 $x,y \in \textbf{R}$，称二元函数

$$F(x,y) = P\{X \leqslant x,Y\leqslant y\}$$

为 $(X,Y)$ 的联合分布函数.

联合分布函数具有以下性质：

性质	内容
非负性	对任意 $(x,y) \in \textbf{R}^2$，有 $0 \leqslant F(x,y) \leqslant 1$；$F(-\infty,-\infty) = 0$，$F(+\infty,+\infty) = 1$
单调不减性	$F(x,y)$ 分别关于 $x$ 和 $y$ 单调不减
右连续性	$F(x,y)$ 分别关于 $x$ 和 $y$ 右连续
恒等式	$\forall x_1 < x_2，y_1 < y_2$，有 $$P\{ x_1 < X \leqslant x_2,y_1 < Y \leqslant y_2 \} = F(x_2,y_2) - F(x_1,y_2) - F(x_2,y_1) + F(x_1,y_1) \geqslant 0$$

边缘分布函数

$X$ 的边缘分布函数 $\displaystyle F_X(x) = P\{X \leqslant x\} = F(x,+\infty) = \lim_{y \to +\infty} F(x,y)$
$Y$ 的边缘分布函数 $\displaystyle F_Y(x) = P\{Y \leqslant y\} = F(+\infty,y) = \lim_{x \to +\infty} F(x,y)$

二维随机变量的独立性

设 $(X,Y)$ 是二维随机变量，联合分布函数为 $F(x,y)$，边缘分布函数分别为 $F_X(x)，F_Y(y)$. 若对于任意 $(x,y) \in \textbf{R}^2$，都有

$$F(x,y) = F_X(x) F_Y(y)$$

则称随机变量 $X$ 和 $Y$ 相互独立.

两个随机变量相互独立等价于由 $X$ 表示的任一事件与由 $Y$ 表示的任一事件都相互独立.

二维离散型随机变量及其分布

联合概率分布律

设二维离散型随机变量 $(X,Y)$ 的所有可能取值为 $(x_i,y_j)$，则称

$$P\{X=x,\ Y=y\}=p_{ij}$$

为随机变量 $(X,Y)$ 的联合概率分布律，可用表格表示为：

$Y$ \ $X$	$x_1$	$x_2$	$\cdots$	$x_i$	$\cdots$
$y_1$	$p_{11}$	$p_{21}$	$\cdots$	$p_{i1}$	$\cdots$
$y_2$	$p_{12}$	$p_{22}$	$\cdots$	$p_{i2}$	$\cdots$
$\vdots$	$\vdots$	$\vdots$		$\vdots$	$\vdots$
$y_j$	$p_{1j}$	$p_{2j}$	$\cdots$	$p_{ij}$	$\cdots$
$\vdots$	$\vdots$	$\vdots$	$\vdots$	$\vdots$	$\vdots$

边缘概率分布律

随机变量 $X$ 的边缘概率分布律：$\displaystyle P\{X=x_i\} = \sum_{i=1}^{+\infty} p_{ij} = p_{i \cdot}$

随机变量 $Y$ 的边缘概率分布律：$\displaystyle P\{Y=y_j\} = \sum_{j=1}^{+\infty} p_{ij} = p_{\cdot j}$

可以表示在表格中：

$Y$ \ $X$	$x_1$	$x_2$	$\cdots$	$x_i$	$\cdots$	$p_Y$
$y_1$	$p_{11}$	$p_{21}$	$\cdots$	$p_{i1}$	$\cdots$	$p_{\cdot 1}$
$y_2$	$p_{12}$	$p_{22}$	$\cdots$	$p_{i2}$	$\cdots$	$p_{\cdot 2}$
$\vdots$	$\vdots$	$\vdots$	$\vdots$	$\vdots$	$\vdots$	$\vdots$
$y_j$	$p_{1j}$	$p_{2j}$	$\cdots$	$p_{ij}$	$\cdots$	$p_{\cdot j}$
$\vdots$	$\vdots$	$\vdots$	$\vdots$	$\vdots$	$\vdots$	$\vdots$
$p_X$	$p_{1 \cdot}$	$p_{2 \cdot}$	$\cdots$	$p_{i \cdot}$	$\cdots$

条件概率分布律

$$P\{X=x_i \ |\ Y=y_j\} = \frac{p_{ij}}{p_{\cdot j}}$$

独立性

对于二元离散型随机变量 $(X,Y)$，则 $X$ 与 $Y$ 相互独立等价于对任意的 $i,j = 1,2,\cdots,$ 都有

$$P\{X=x_i \ |\ Y=y_j\} = p_{i \cdot} p_{\cdot j}$$

二维连续型随机变量及其分布

联合概率密度函数

设二维随机变量 $(X,Y)$ 的联合分布函数为 $F(x,y)$，若存在非负实函数 $f(x,y)$，使得对于任意 $(x,y) \in \textbf{R}^2$，都有

$$F(x,y) = \int_{-\infty}^{x} \mathrm{d}s \int_{-\infty}^{y} f(s,t) \mathrm{d}t$$

则称 $(X,Y)$ 为二维连续型随机变量，并称 $f(x,y)$ 为 $(X,Y)$ 的联合概率密度函数.

联合概率密度函数具有以下性质：

非负性：对任意 $(x,y) \in \textbf{R}^2$，有 $f(x,y) \geqslant 0$
规范性：$\displaystyle F(x,y) = \int_{-\infty}^{+\infty} \mathrm{d}s \int_{-\infty}^{+\infty} f(s,t) \mathrm{d}t = 1$
可导性：$\displaystyle \frac{\partial^2 F(x,y)}{\partial x \partial y} = f(x,y)$

边缘概率密度函数

对于二维连续型随机变量 $(X,Y)$，联合概率密度函数 $f(x,y)$，边缘概率密度函数分别为 $f_X(x)$ 和 $f_Y(y)$，则有

$$f_X(x) = \int_{-\infty}^{+\infty} f(x,y) \mathrm{d}y $$

$$ f_Y(y) = \int_{-\infty}^{+\infty} f(x,y) \mathrm{d}x$$

常用分布

二维均匀分布

设 $(X,Y)$ 是二维连续型随机变量，$G$ 是平面上一有界区域，且联合概率密度函数满足

$$f(x,y) = \left\{ \begin{matrix} \displaystyle \frac{1}{S_G} & (x,y) \in G \\\\ 0 & 其他 \end{matrix} \right.$$

其中 $S_G$ 表示区域 $G$ 的面积.

二维正态分布

设 $(X,Y)$ 是二维连续型随机变量，且联合概率密度函数满足

$$f(x,y) = \frac{1}{2\pi \sigma_{1} \sigma_{2} \sqrt{1-\rho^2} } \cdot \mathrm{exp}\left\{ \frac{1}{2(1-\rho^2)} \left[ \left( \frac{x-\mu_{1}}{\sigma_{1}} \right)^2 - \frac{2\rho(x-\mu_{1})(y-\mu_{2})}{\sigma_{1}\sigma_{2}} + \left( \frac{y-\mu_{2}}{\sigma_{2}} \right)^2 \right] \right\}$$

二维正态分布的性质

二维正态分布的边缘分布仍是正态分布，反之未必成立.

二维正态随机变量的条件分布仍是正态分布.

二维随机变量 $(X,Y) \sim N(\mu_{1},\mu_{2}; \sigma_{1}^{2}, \sigma_{2}^{2}; \rho)$，则 $(X,Y)$ 相互独立的充要条件是 $\rho = 0$.

条件概率密度函数

设 $(X,Y)$ 为二维连续型随机变量，在条件 $Y=y$ 下，随机变量 $X$ 的条件分布函数为 $F_{X\ |\ Y} (x\ |\ y)$，条件概率密度函数为 $f_{X\ |\ Y} (x\ |\ y)$

$$f_{X\ |\ Y} = \frac{f(x,y)}{f_Y(y)} $$

$$ f_{Y\ |\ X} = \frac{f(x,y)}{f_X(x)}$$

随机变量的边缘密度函数只与该随机变量有关，而与另一个变量无关.

条件密度通常情况下与两个随机变量都有关系.

独立性

设 $(X,Y)$ 是二维连续型随机变量，联合概率密度函数为 $f(x,y)$，边缘密度函数分别为 $f_X(x)$ 和 $f_Y(y)$，则 $X$ 和 $Y$ 相互独立的等价于对任意的 $(x,y) \in \textbf{R}^2$，在平面上几乎处处成立

$$f(x,y) = f_X(x) f_Y(y)$$

易知，连续型随机变量 $(X,Y)$ 相互独立还等价于

$$f_{X\ |\ Y}(x\ |\ y) = f_X(x)，x \in \textbf{R} \quad 或 \quad f_{Y\ |\ X}(y\ |\ x) = f_Y(y)，y \in \textbf{R}$$

二维随机变量函数的分布

二维离散型随机变量函数的分布

设 $(X,Y)$ 为二维离散型随机变量，则由函数 $Z=g(X,Y)$ 确定的随机变量也是离散型随机变量.

求随机变量 $Z$ 的分布：

确定 $Z$ 的所有可能值.
逐个计算 $Z$ 取每个可能值的概率.

二维连续型随机变量函数的分布

常见的二维连续型随机变量函数

$Z=X+Y$
设 $(X,Y)$ 的联合概率密度函数为 $f(x,y)$，$(x,y) \in \textbf{R}^2$，边缘密度函数分别为 $f_X(x)$，$f_Y(y)$. 对任意实数 $z$，随机变量 $Z$ 的概率密度函数 $$f_Z(z) = \int_{-\infty}^{+\infty} f(x,z-x) \mathrm{d}x $$ $$f_Z(z) = \int_{-\infty}^{+\infty} f(z-y,y) \mathrm{d}y $$

称上述两式为 $X$ 与 $Y$ 的卷积公式，记作 $f_Z = f_X * f_Y$

$M=\mathrm{max}\{X,Y\}$
$$F_M(z) = P\{\mathrm{max}\{X,Y\} \leqslant z\} = P\{X \leqslant z, Y \leqslant z\} = F(z,z)$$
若 $X$ 与 $Y$ 相互独立，则 $F_M(z) = F_X(z) F_Y(z)$
$N=\mathrm{min}\{X,Y\}$
$$F_N(z) = P\{\mathrm{min}\{X,Y\} \leqslant z\} = 1-P\{X>z, Y>z\}$$
若 $X$ 与 $Y$ 相互独立，则 $F_M(z) = 1-[1-F_X(z)] \cdot [1-F_Y(z)]$

随机变量的数字特征

数学期望

随机变量的数学期望

类型	概率分布	数学期望
离散型随机变量	概率分布律：$P\{X=x_k\}=p_k$，$k=1,2,\cdots$	$\displaystyle E(X) = \sum_{k=1}^{\infty} x_k p_k$
连续型随机变量	概率分布函数：$f(x)$	$\displaystyle E(X) = \int_{-\infty}^{+\infty} xf(x) \mathrm{d}x$

随机变量函数的数学期望

设 $X$ 是随机变量，令 $Y=g(X)$

类型	概率分布	$E(Y)$
离散型随机变量	概率分布律：$P\{X=x_k\} = p_k$	$\displaystyle E(Y) = E[g(X)] = \sum_{k=1}^{\infty} g(x_k) P\{X=x_k\}$
连续型随机变量	概率密度函数：$f(x)$	$\displaystyle E(Y) = E[g(X)] = \int_{-\infty}^{+\infty} g(x)f(x) \mathrm{d}x$

设 $(X,Y)$ 是二维随机变量，令 $Z=g(X,Y)$.

类型	概率分布	$E(Z)$
离散型随机变量	联合概率分布律：$P\{X=x_i,\ Y=y_j\} = p_{ij}$	$\displaystyle E(Z) = \sum_{i=1}^{\infty} \sum_{j=1}^{\infty} g(x_i,y_i) p_{ij}$
连续型随机变量	联合概率密度函数：$f(x,y)$	$\displaystyle E(Z) = \int_{-\infty}^{+\infty} \int_{-\infty}^{+\infty} g(x,y) f(x,y) \mathrm{d}x\mathrm{d}y$

数学期望的性质

设 $c$ 是常数，则 $E(c) = c$
若 $a$，$b$ 是常数，则 $E(aX+b) = aE(X)+b$
$E(X+Y) = E(X)+E(Y)$
设 $X$，$Y$ 相互独立，则 $E(XY) = E(X)E(Y)$

方差

方差的定义

设随机变量 $X$ 的数学期望 $E(X)$ 存在，若随机变量 $[X-E(X)]^2$ 的数学期望 $E[X-E(X)]^2$ 存在，则记随机变量 $X$ 的方差

$$D(X) = \mathrm{Var}(X) = E[X-E(X)]^2 $$

方差的算术平方根记作标准差

$$\sigma(X) = \sqrt{D(X)}$$

将方差的定义式展开，可得：

$$D(X) = E(X^2)-[E(X)]^2$$

基本性质

$D(c) = 0$
$D(aX+b) = a^2 D(X)$
若随机变量 $X$ 与 $Y$ 独立，则 $D(X+Y) = D(X) + D(Y)$
$D(X) = 0$ 的充要条件是 $P\{X=c\} = 1$
设实函数 $f(x) = E(X-x)^2$，即当 $x=E(X)$ 时，$f(x)$ 取最小值 $D(X)$，即 $D(X) \leqslant E(X-x)^2$

常用分布的数学期望与方差

分布	表示	期望	方差
$0-1$ 分布	$B(1,p)$	$p$	$p(1-p)$
二项分布	$B(n,p)$	$np$	$np(1-p)$
泊松分布	$P(\lambda)$	$\lambda$	$\lambda$
几何分布	$G(p)$	$\displaystyle \frac{1}{p}$	$\displaystyle \frac{1-p}{p^2}$

分布	表示	期望	方差
均匀分布	$U(a,b)$	$\displaystyle \frac{a+b}{2}$	$\displaystyle \frac{(b-a)^2}{12}$
指数分布	$Exp(\lambda)$	$\displaystyle \frac{1}{\lambda}$	$\displaystyle \frac{1}{\lambda^2}$
正态分布	$N(\mu,\sigma^2)$	$\mu$	$\sigma^2$

协方差与相关系数

协方差

设 $(X,Y)$ 是二维随机变量，则称

$$\mathrm{Cov}(X,Y) = E\{[X-E(X)] [Y-E(Y)]\}$$

为随机变量 $X$ 与 $Y$ 的协方差.

性质：

$\mathrm{Cov}(X,Y) = E(XY)-E(X)E(Y)$
$\mathrm{Cov}(X,X) = D(X)$
$\mathrm{Cov}(X,Y) = \mathrm{Cov}(Y,X)$
$\mathrm{Cov}(X+Y,Z) = \mathrm{Cov}(X,Z) + \mathrm{Cov}(Y,Z)$
$\mathrm{Cov}(aX+b,cY+d) = ac\mathrm{Cov}(X,Y)$
$D(X \pm Y) = D(X) + D(Y) \pm 2 \mathrm{Cov}(X,Y)$

大数定律与中心极限定理

切比雪夫不等式

设随机变量 $X$ 具有数学期望 $E(X) = \mu$，方差 $D(X) = \sigma^2$，则对于任意正数 $\varepsilon$，有

$$P\{ |X - E(X)| \geqslant \varepsilon\} \leqslant \frac{D(X)}{\varepsilon^2}$$

大数定律

依概率收敛

设随机变量序列 $X_1, X_2 \cdots, X_n, \cdots$，若存在随机变量 $X$，使得对任意 $\varepsilon > 0$，恒有

$$\lim_{n \to \infty} P\{ |X_n -X| < \varepsilon \} = 1$$

则称序列 $X_1, X_2 \cdots, X_n, \cdots$ 依概率收敛于 $X$，记为 $X_n \xrightarrow{P} X$

大数定律

切比雪夫大数定律：设 $X_1, X_2 \cdots, X_n, \cdots$ 是一列两两不相关的随机变量序列，且方差有界（即存在常数 $C>0$，使得对于任意 $i$，都有 $D(X_i) \leqslant C$）. 令 $\displaystyle Y_n = \frac{1}{n} \sum_{i=1}^{n} X_i$，则有

$$Y_n \xrightarrow{P} E(Y_n)$$

伯努利大数定律：在 $n$ 重伯努利试验中，设在每次试验中事件 $A$ 发生的概率均为 $p(0<p<1)$，$\mu_n$ 为 $n$ 重伯努利试验中事件 $A$ 发生的次数，则

$$ \frac{\mu_n}{n} \xrightarrow{P} p$$

辛钦大数定律：设 $X_1, X_2 \cdots, X_n, \cdots$ 是独立同分布的随机变量序列，且数学期望存在，即 $E(X_i) = \mu (i = 1,2,\cdots,n,\cdots)$，则

$$ \frac{1}{n} \sum_{i=1}^{n} X_i \xrightarrow{P} \mu $$

中心极限定理

设随机变量序列 $X_1, X_2 \cdots, X_n, \cdots$ 独立同分布，且 $E(X_i) = \mu$，$D(X_i) = \sigma^2 > 0$，则随机变量

$$Y_i = \frac{\displaystyle \sum_{i=0}^{n} X_i - n\mu}{\sqrt{n}\sigma}$$

的分布函数 $F_n(x)$ 满足

$$\lim_{n \to \infty} F_n(x) = \lim_{n \to \infty} P\{Y_n \leqslant x\} = \frac{1}{\sqrt{2\pi}} \int_{-\infty}^{x} \mathrm{e}^{-\frac{y^2}{2}} \mathrm{d}y，x \in \textbf{R}$$

该定理表明，当 $n \to \infty$ 时，随机变量 $Y_n$ 的分布将趋近于标准正态分布 $N(0,1)$. 即：当 $n$ 充分大时，独立同分布的 $n$ 个随机变量 $X_1, X_2 \cdots, X_n$ 之和 $\displaystyle S_n = \sum_{i=1}^{n} X_i$ 将近似地服从正态分布 $N(n\mu, n\sigma^2)$

设在独立重复试验序列中，事件 $A$ 发生的概率为 $p$，随机变量 $Y_n$ 表示事件 $A$ 在 $n$ 次试验中发生的次数，则对于任意实数 $x$，有

$$\lim_{n \to \infty} \left\{ \frac{Y_n - np}{\sqrt{np(1-p)}} \leqslant x \right\} = \frac{1}{\sqrt{2\pi}} \int_{-\infty}^{x} \mathrm{e}^{-\frac{y^2}{2}} \mathrm{d}y$$

或者表示为：

$$P\{ a < X < b \} = \varPhi\left( \frac{b-np}{\sqrt{np(1-p)}} \right) - \varPhi\left( \frac{a-np}{\sqrt{np(1-p)}} \right)$$

数理统计的基本概念与抽样分布

基本概念

总体与样本

概念	定义
总体	研究对象的某项数量指标的值的全体称为总体
个体	总体中的每个元素称为个体
样本	从一个总体 $X$ 中随机地抽取 $n$ 个个体组成的向量 $(X_1,X_2,\cdots,X_n)$ 称为总体 $X$ 的一个样本

随机样本的要求

独立性：$X_1,X_2,\cdots,X_n$ 是相互独立的随机变量；
代表性：样本的每个个体 $X_i$ 与总体 $X$ 具有相同的分布.

经验分布函数

设 $(X_1,X_2,\cdots,X_n)$ 是从总体 $X$ 中抽取的容量为 $n$ 的样本，$(x_1,x_2,\cdots,x_n)$ 是样本的观测值，将样本观测值从小到大排列得到 $x_{(1)} \leqslant x_{(2)} \leqslant \cdots \leqslant x_{(n)}$，对任意实数 $x$，称

$$F_n(x) = \frac{1}{n} \sum_{i=0}^{n} I_{\{x_{(i)} \leqslant x\}}$$

为总体 $X$ 的经验分布函数.

当样本容量 $n$ 足够大时，经验分布函数 $F_n(x)$ 是总体分布函数的一个良好近似.

统计量及其分布

统计量

样本矩	表示
样本均值	$\displaystyle \overline{X} = \frac{1}{n} \sum_{i=0}^{n} X_i$
样本方差	$\displaystyle S^2 = \frac{1}{n-1} \sum_{i=1}^{n} (X_i - \overline{X})^2$
样本标准差	$\displaystyle S = \sqrt{\frac{1}{n-1} \sum_{i=1}^{n} (X_i - \overline{X})^2 }$
样本的 $k$ 阶原点矩	$\displaystyle A_k = \frac{1}{n} \sum_{i=1}^{n} X_i^k$
样本的 $k$ 阶中心矩	$\displaystyle M_k = \frac{1}{n} \sum_{i=1}^{n} (X_i - \overline{X})^k$

统计中的常用分布

$\chi^2$ 分布	内容
定义	设随机变量 $X_1, X_2 \cdots, X_n, \cdots$ 相互独立，且均服从 $N(0,1)$ 分布，则随机变量 $$Y = X_1^2 + X_2^2 + \cdots + X_n^2$$ 服从自由度是 $n$ 的 $\chi^2$ 分布，记为 $Y \sim \chi_n^2$
性质	设随机变量 $ Y \sim \chi_n^2$，则 $E(Y) = n$，$D(Y) = 2n$ 设随机变量 $Y_1 \sim \chi_m^2$，$Y_2 \sim \chi_n^2$，且 $Y_1$ 和 $Y_2$ 相互独立，则 $Y_1 + Y_2 \sim \chi_{m+n}^2$

$t$ 分布	内容
定义	设随机变量 $X \sim N(0,1)$，$Y \sim \chi_n^2$，且 $X$ 和 $Y$ 相互独立，则称随机变量 $$T = \frac{X}{\sqrt{Y/n}}$$ 服从自由度是 $n$ 的 $t$ 分布，记为 $T \sim t_n$
性质	$t$ 的概率密度函数 $f(x;n)$ 关于 $y$ 轴对称，且当 $n \to \infty$ 时，$t$ 分布趋于标准正态分布

$F$ 分布	内容
定义	设随机变量 $X \sim \chi_m^2$，$Y \sim \chi_n^2$，且 $X$ 和 $Y$ 相互独立，则称随机变量 $$F = \frac{X/m}{Y/n}$$ 服从第一自由度是 $m$，第二自由度是 $n$ 的 $F$ 分布，记作 $F \sim F_{m,n}$
性质	若 $F \sim F_{m,n}$，则 $\displaystyle \frac{1}{F} \sim F_{m,n}$ 若 $T \sim t_n$，则 $T^2 \sim F_{1,n}$

抽样分布定理

设 $(X_1,X_2,\cdots,X_n)$ 是来自正态总体 $X \sim N(\mu,\sigma^2)$ 的样本，样本均值为 $\displaystyle \overline{X} = \frac{1}{n} \sum_{i=1}^{n} X_i$，样本方差为 $\displaystyle S^2=\frac{1}{n-1} \sum_{i=1}^{n} (X_i-\overline{X})^2$，则

$\displaystyle \overline{X} \sim N(\mu,\frac{\sigma^2}{n})$
$\displaystyle \frac{\sqrt{n}(\overline{X}-\mu)}{S} \sim t_{n-1}$
$\displaystyle \frac{(n-1)S^2}{\sigma^2} \sim \chi_{n-1}^2$
${X}$ 与 $S^2$ 相互独立

抽样分布定理常用来构造一些已知分布的统计量.

参数估计

通过样本来估计总体的参数，称为参数估计.

参数的点估计

设总体 $X$ 的分布类型已知，但其中含有未知数 $\theta = (\theta_1, \cdots, \theta_k)$. 从样本出发构造适当的统计量 $\hat{\theta}_i = \hat{\theta}_i(X_1,X_2,\cdots,X_n)$ 作为参数 $\theta_i$ 的估计量，当取得样本观测值 $(x_1,x_2,\cdots,x_n)$ 后，就用 $\hat{\theta}_i = \hat{\theta}_i(x_1,x_2,\cdots,x_n)$ 作为未知参数 $\theta_i$ 的估计值.

矩估计法

设总体 $X$ 含有 $k$ 个未知参数 $\theta_1, \theta_2, \cdots, \theta_k$，且 $X$ 的 $m$ 阶原点矩 $\alpha_m = E(X^m)$ 存在，$m=1,2,\cdots,k$，，令

$$\left \{\begin{array}{c} \alpha_1(\theta_1, \cdots, \theta_k) = A_1 \\ \\ \alpha_2(\theta_1, \cdots, \theta_k) = A_2 \\\\ \cdots \ \cdots \ \cdots \ \cdots \\\\ \alpha_k(\theta_1, \cdots, \theta_k) = A_k \\ \end{array} \right. $$

解这个方程组，其解都是样本的函数，记为

$$\hat{\theta_i} = \hat{\theta_i}(X_1, X_2, \cdots, X_n)，i=1,2,\cdots,k$$

当总体含有两个未知参数时，通常我们使用
$$\left \{ \begin{array}{c} \begin{align*} & E(\theta_1, \cdots, \theta_k) = \overline{X} \\ \\ & D(\theta_1, \cdots, \theta_k) = \frac{(n-1)S^2}{n} \end{align*} \end{array} \right. $$
求出参数.

最大似然估计法

设总体 $X$ 的概率分布为 $f(x;\theta)$，$\theta = (\theta_1,\theta_2,\cdots,\theta_k)$ 为未知参数，$(X_1,X_2,\cdots,X_n)$ 是从该总体中抽取的样本，则它们的联合概率分布为

$$L(x_1, x_2, \cdots, x_n;\theta) = \prod_{i=1}^{n} f(x_i,\theta)$$

将其设作 $\theta$ 的函数 $L(\theta)$ 称其为 $\theta$ 的似然函数.

对给定的样本值 $(x_1,x_2,\cdots,x_n)$，若存在 $\hat{\theta}$ 使得

$$L(\hat{\theta}) = \underset{\theta \in \mathrm{H}}{\mathrm{max}} L(\theta)$$

则称 $\hat{\theta}$ 是参数 $\theta$ 的最大似然估计值.

若 $L(\hat{\theta})$ 不单调，则可取 $l(\theta) = \ln L(\theta)$，对 $l(\theta)$ 求导可得到最大值点 $\hat{\theta}$.
若 $L(\hat{\theta})$ 单调递增，则 $\hat{\theta}$ 取端点处的值.

估计量的优良性准则

准则	定义
无偏性	设 $\hat{\theta}$ 是参数 $\theta$ 的估计量，若 $E(\hat{\theta}) = \theta$ 对一切 $\theta$ 均成立，则称 $\hat{\theta}$ 为 $\theta$ 的无偏估计量，记为 $\mathrm{UE}$
有效性	设 $\hat{\theta_1}$ 和 $\hat{\theta_2}$ 均为 $\theta$ 的无偏估计量，若 $D(\hat{\theta_1}) < D(\hat{\theta_2})$，则称 $\hat{\theta_1}$ 比 $\hat{\theta_2}$ 有效
相合估计	设 $\hat{\theta}_n = \hat{\theta}_n(X_1,X_2,\cdots,X_n)$ 是未知参数 $\theta$ 的估计序列，若 $\hat{\theta}_n$ 依概率收敛于 $\theta$，则称 $\hat{\theta}_n$ 是 $\theta$ 的相合估计量或一致估计量

区间估计

基本概念

设 $\theta$ 为总体中的未知参数，$(X_1,X_2,\cdots,X_n)$ 是从总体中抽取的样本. 如果存在两个估计量 $\hat{\theta_1} = \hat{\theta}_1(X_1,X_2,\cdots,X_n)$ 和 $\hat{\theta}_2 = \hat{\theta_2}(X_1,X_2,\cdots,X_n)$，对于给定的 $\alpha (0<\alpha<1)$ 有

$$P\{\hat{\theta}_1 < \theta < \hat{\theta}_2\} \geqslant 1-\alpha$$

则称：

基本概念	内容
置信区间	区间 $(\hat{\theta}_1,\hat{\theta}_2)$
置信度	$1-\alpha$
置信下界	$\hat{\theta}_1$
置信上界	$\hat{\theta}_2$

📝 备注

构造置信区间的一般步骤：

构造样本 $(X_1,X_2,\cdots,X_n)$ 和待估参数 $\theta$ 的函数 $g(X_1,X_2,\cdots,X_n)$，要求除 $\theta$ 外，$g$ 不含任何其他未知参数，并且 $g$ 的分布完全已知（通常为标准正态分布、$\chi^2$ 分布、$t$ 分布、$F$ 分布等）且与 $\theta$ 无关；

对于给定的置信度 $1-\alpha$，由关系式 $$P\{a < g(X_1,X_2,\cdots,X_n,\theta) < b\} \geqslant 1-\alpha$$确定适当的常数 $a$，$b$；

上式等价于 $$P\{\hat{\theta}_1(X_1,X_2,\cdots,X_n) < g(X_1,X_2,\cdots,X_n,\theta) < \hat{\theta}_2(X_1,X_2,\cdots,X_n)\} \geqslant 1-\alpha$$于是 $(\theta_1,\theta_2)$ 就是 $\theta$ 的置信度至少为 $1-\alpha$ 的置信区间.

设 $X$ 是随机变量，$\alpha(0<\alpha<1)$ 是任意给定的正数，若存在 $x_{\alpha}$ 使得 $P\{X \geqslant x_{\alpha}\} = \alpha$，则称 $x_{\alpha}$ 为 $X$ （或它的概率分布）的 $\alpha$ 上侧分位数.

分布	上侧分位数的性质
正态分布	若 $X \sim N(0,1)$，若 $\alpha \leqslant 0.5$，则 $P\{X \leqslant x_{1-\alpha}\} = P\{X \geqslant x_{\alpha}\} = \alpha$，所以 $x_{\alpha} = -x_{\alpha}$
$t$ 分布	若 $T \sim t_{n}$，则有 $t_n(1-\alpha) = t_n(\alpha)$
$F$ 分布	若 $F \sim F_{m,n}$，则有 $\displaystyle F_{n,m}(1-\alpha)= \frac{1}{F_{m,n}(\alpha)}$

单个正态总体参数的置信区间

设总体 $X \sim N(\mu,\sigma^2)$，$(X_1,X_2,\cdots,X_n)$ 是取自总体 $X$ 的样本，对给定的置信度 $1-\alpha$，分别求参数 $\mu$ 和 $\sigma^2$ 的区间估计.

估计量	条件	枢轴量	置信区间
$\mu$	$\sigma^2$ 已知	$\displaystyle Z=\frac{\overline{X}-\mu}{\sigma /\sqrt{n}} \sim N(0,1) $	$\displaystyle \left(\overline{X} - z_{\frac{\alpha}{2}} \frac{\sigma}{\sqrt{n}},\ \overline{X} + z_{\frac{\alpha}{2}} \frac{\sigma}{\sqrt{n}} \right)$
$\mu$	$\sigma^2$ 未知	$\displaystyle T=\frac{\overline{X}-\mu}{S/\sqrt{n}} \sim t_{n-1}$	$\displaystyle \left(\overline{X}-t_{n-1}\left(\frac{\alpha}{2}\right) \frac{S}{\sqrt{n}},\ \overline{X}+t_{n-1}\left(\frac{\alpha}{2}\right) \frac{S}{\sqrt{n}} \right) $
$\sigma^2$	$\mu$ 未知	$\displaystyle \chi^2 = \frac{(n-1)S^2}{\sigma^2} \sim \chi_{n-1}^2$	$\displaystyle \left(\frac{(n-1)S^2}{\displaystyle \chi_{n-1}^2 \left(\frac{\alpha}{2}\right)}, \ \frac{(n-1)S^2}{\displaystyle \chi_{n-1}^2 \left(1-\frac{\alpha}{2}\right)} \right)$

两个正态总体参数的置信区间

估计量	条件	枢轴量	置信区间
$\mu_1 - \mu_2$	方差已知	$\displaystyle Z = \frac{\overline{X}-\overline{Y}-(\mu_1-\mu_2)}{\displaystyle \sqrt{\frac{1}{m} \sigma_1^2 + \frac{1}{n} \sigma_2^2}} \sim N(0,1)$	$\displaystyle \left(\overline{X}-\overline{Y}-z_{\frac{\alpha}{2}} \sqrt{\frac{1}{m}\sigma_1^2 + \frac{1}{n}\sigma_2^2}, \ \overline{X}-\overline{Y}+z_{\frac{\alpha}{2}} \sqrt{\frac{1}{m}\sigma_1^2 + \frac{1}{n}\sigma_2^2} \right)$
$\mu_1 - \mu_2$	方差未知但相等	$\displaystyle T = \frac{\overline{X}-\overline{Y}-(\mu_1-\mu_2)}{\displaystyle S_w\sqrt{\frac{1}{m} + \frac{1}{n}}} \sim t_{m+n-2}$	$\displaystyle \left(\overline{X}-\overline{Y}-\lambda, \ \overline{X}-\overline{Y}+\lambda\right)$ 其中 $\displaystyle \lambda = t_{m+n-2}\left(\frac{\alpha}{2}\right)S_w \sqrt{\frac{1}{m}+\frac{1}{n}}$
$\displaystyle \frac{\sigma_1^2}{\sigma_2^2}$	均值未知	$\displaystyle F = \frac{S_2^2}{S_1^2} \cdot \frac{\sigma_1^2}{\sigma_2^2}\sim F_{n-1,m-1}$	$\displaystyle \left(F_{n-1,m-1}\left(1-\frac{\alpha}{2}\right)\frac{S_1^2}{S_2^2}, \ F_{n-1,m-1}\left(\frac{\alpha}{2}\right)\frac{S_1^2}{S_2^2} \right)$

假设检验

假设检验是对总体的分布类型或分布类型中的未知参数提出假设，然后根据抽取的样本构造适当的统计量，对假设的真伪作出具有一定可靠性的判断.

基本概念

提出假设时，称：

定义	含义
$H_0$	原假设或零假设
$H_1$	备择假设或对立假设
小概率原理	小概率事件在一次试验中几乎不可能发生
检验统计量	检验假设的统计量
拒绝域	$W = \{\|Z\| \geqslant z_{\alpha/2}\}$：拒绝原假设 $H_0$ 的区间
接受域	$W = \{\|Z\| < z_{\alpha/2}\}$：接受原假设 $H_0$ 的区间

一般步骤

根据实际问题的需求，提出原假设 $H_0$ 和备择假设 $H_1$；
根据 $H_0$ 内容，选取合适的检验统计量；
对给定的显著性水平 $\alpha$，确定小概率事件（即拒绝域）$W$；
判断：若样本观测值落入拒绝域 $W$，则拒绝原假设 $H_0$，否则不拒绝原假设 $H_0$.

两类错误

第一类错误：当原假设 $H_0$ 为真时，样本观测值却落在了拒绝域，犯了“弃真”的错误. 可知犯第一类错误的最大概率为

$$P\{拒绝 H_0 \ |\ H_0 为真\} = \alpha$$

第二类错误：当原假设 $H_0$ 不真时，样本观测值却落在了接受域，犯了“采伪”的错误，记犯第二类错误的概率

$$P\{不拒绝 H_0 \ |\ H_0 不真\} = \beta$$

注意：

对检验结果来说，拒绝 $H_0$ 是有说服力的，接受 $H_0$ 是没有说服力的.

原假设 $H_0$ 和备择假设 $H_1$ 不是平等的.

在提出假设时，应当尽量使后果更严重的错误成为第一类错误.

正态总体的假设检验

单个正态总体

检验法	条件	原假设	备择假设	检验统计量	拒绝条件
$Z$ 检验	$\sigma^2 = \sigma_0^2$	$\mu = \mu_0$	$\mu \ne \mu_0$	$\displaystyle Z = \frac{\overline{X}-\mu_0}{\sigma_0 / \sqrt{n}}$	$\{\|Z\| \geqslant z_{\alpha / 2}\}$
		$\mu \leqslant \mu_0$	$\mu > \mu_0$		$\{Z \geqslant z_{\alpha}\}$
		$\mu \geqslant \mu_0$	$\mu < \mu_0$		$\{Z \leqslant -z_{\alpha}\}$
$t$ 检验	$\sigma$ 未知	$\mu = \mu_0$	$\mu \ne \mu_0$	$\displaystyle T = \frac{\overline{X}-\mu_0}{S/\sqrt{n}}$	$\{\|T\| \geqslant t_{n-1}(\alpha / 2)\}$
		$\mu \leqslant \mu_0$	$\mu > \mu_0$		$\{T \geqslant t_{n-1}(\alpha)\}$
		$\mu \geqslant \mu_0$	$\mu < \mu_0$		$\{T \leqslant -t_{n-1}(\alpha)\}$
$\chi^2$ 检验	$\mu = \mu_0$	$\sigma^2 = \sigma_0^2$	$\sigma^2 \ne \sigma_0^2$	$\displaystyle \chi^2 = \frac{\displaystyle \sum_{i=1}^n(X_i-\mu_0)^2}{\sigma_0^2}$	$\{\chi^2 \leqslant \chi_n^2\left(1-\alpha/2\right) \ 或\ \chi^2 \geqslant \chi_n^2(\alpha/2)\}$
		$\sigma^2 \leqslant \sigma_0^2$	$\sigma^2 > \sigma_0^2$		$\{\chi^2 \geqslant \chi_n^2(\alpha)\}$
		$\sigma^2 \geqslant \sigma_0^2$	$\sigma^2 < \sigma_0^2$		$\{\chi^2 \leqslant \chi_n^2(1-\alpha)\}$
$\chi^2$ 检验	$\mu$ 未知	$\sigma^2 = \sigma_0^2$	$\sigma^2 \ne \sigma_0^2$	$\displaystyle \chi^2 = \frac{(n-1)S^2}{\sigma_0^2}$	$\{\chi^2 \leqslant \chi_{n-1}^2\left(1-\alpha/2\right) \ 或\ \chi^2 \geqslant \chi_{n-1}^2(\alpha/2)\}$
		$\sigma^2 \leqslant \sigma_0^2$	$\sigma^2 > \sigma_0^2$		$\{\chi^2 \geqslant \chi_{n-1}^2(\alpha)\}$
		$\sigma^2 \geqslant \sigma_0^2$	$\sigma^2 < \sigma_0^2$		$\{\chi^2 \leqslant \chi_{n-1}^2(1-\alpha)\}$

两个正态总体

检验法	条件	原假设	备择假设	检验统计量	拒绝条件
$Z$ 检验	$\sigma_1^2$，$\sigma_2^2$ 已知	$\mu_1 = \mu_2$	$\mu_1 \ne \mu_2$	$\displaystyle Z = \frac{\overline{X}-\overline{Y}}{\displaystyle \sqrt{\frac{\sigma_1^2}{m} + \frac{\sigma_2^2}{n}}}$	$\{\|Z\| \geqslant z_{\alpha / 2}\}$
	$\sigma_1^2$，$\sigma_2^2$ 未知	$\mu \leqslant \mu_0$	$\mu_1 > \mu_2$		$\{Z \geqslant z_{\alpha}\}$
$t$ 检验	$\sigma_1^2$，$\sigma_2^2$ 未知且$\sigma_1^2 = \sigma_2^2$	$\mu_1 = \mu_2$	$\mu_1 \ne \mu_2$	$\displaystyle T = \frac{\overline{X}-\overline{Y}}{\displaystyle S_w\sqrt{\frac{1}{m} + \frac{1}{n}}}$	$\{\|T\| \geqslant t_{m+n-2}(\alpha / 2)\}$
		$\mu_1 \leqslant \mu_2$	$\mu_1 > \mu_2$		$\{T \geqslant t_{m+n-2}(\alpha)\}$
$t$ 检验	成对数据	$\mu_1 = \mu_2$	$\mu_1 \ne \mu_2$	$\displaystyle T = \frac{\overline{D}}{S_d/\sqrt{n}}$	$\{\|T\| \geqslant t_{n-1}(\alpha / 2)\}$
		$\mu_1 \leqslant \mu_2$	$\mu_1 > \mu_2$		$\{T \geqslant t_{n-1}(\alpha)\}$
$F$ 检验	$\mu_1$。$\mu_2$ 未知	$\sigma_1^2 = \sigma_2^2$	$\sigma_1^2 \ne \sigma_2^2$	$\displaystyle F = \frac{S_1^2}{S_2^2}$	$\{F \leqslant F_{m-1,n-1}(1-\alpha/2) \\ 或\ F \geqslant F_{m-1,n-1}(\alpha/2)\}$
		$\sigma_1^2 \leqslant \sigma_2^2$	$\sigma_1^2 > \sigma_2^2$		$\{F \geqslant F_{m-1,n-1}(\alpha)\}$

SQL语言

Mon, 14 Jul 2025 00:00:00 +0000

📝 备注

SQL的功能远低于C语言和Java，为什么使用它？

关系代数的用途十分广泛。

SQL的编译十分便捷，易于优化。

SQL语句分类：

分类	全称	说明
DDL	Data Definition Language	数据定义语言，用于定义数据库对象
DML	Data Manipulation Language	数据操作语言，用于数据库中数据的增删改
DQL	Data Query Language	数据查询语言，用于查询数据库中表的记录
DCL	Data Control Language	数据控制语言，用于创建数据库用户、控制数据库访问权限

SQL的数据类型

数字类型	大小	描述
`TINYINT`	1 byte	小整数集
`SMALLINT`	2 bytes	大整数集
`MEDIUMINT`	3 bytes	大整数集
`INT`	4 bytes	大整数集
`BIGINT`	8 bytes	极大整数集
`FLOAT`	4 bytes	单精度浮点数集
`DOUBLE`	8 bytes	双精度浮点数集
`DECIMAL`	依赖精度值（总数位）和标度值（小数位）	精确定点数

字符串类型	大小	描述
`CHAR()`	0-255 bytes	定长字符串
`VARCHAR()`	0-65,535 bytes	变长字符串
`TINYBLOB`	0-255 bytes	二进制数据
`TINYTEXT`	0-255 bytes	短文本字符串
`BLOB`	0-65,535 bytes	二进制长文本数据
`TEXT`	0-65,535 bytes	长文本数据
`MEDIUMBLOB`	0-16,777,215 bytes	二进制中等长度文本数据
`MEDIUMTEXT`	0-16,777,215 bytes	中等长度文本数据
`LONGBLOB`	0-4,294,967,295 bytes	二进制极大文本数据
`LONGTEXT`	0-4,294,967,295 bytes	极大文本数据

日期类型	大小	格式	描述
`DATA`	3	`YYYY-MM-DD`	日期值
`TIME`	3	`HH:MM:SS`	时间值或持续时间
`TEAR`	1	`YYYY`	年份值
`DATETIME`	8	`YYYY-MM-DD HH:MM:SS`	混合日期和时间值
`TIMESTAMP`	4	`YYYY-MM-DD HH:MM:SS`	时间戳

特别地，空值NULL值出现在值本身未知、值不适用于目标对象、用作保留值等情况下。

对NULL进行算术操作，结果仍为NULL

对NULL进行逻辑操作，结果为UNKNOWN

空值NULL不是常量，不可将其用作操作数。

布尔类型	约定值
`TRUE`	1
`FALSE`	0
`UNKNOWN`	1/2

布尔操作的法则：

AND操作符返回两者约定值较小的那个。
OR操作符返回两者约定值较大的那个。
布尔变量v反转后为1-v。

例如，执行SQL语句：
1
SELECT * FROM Movies WHERE length<=120 OR length>120;
若某些元组的length值为NULL，条件的返回值则为UNKNOWN，将不会出现在结果中。

DDL

数据定义语言，用于定义数据库对象

查询

/* -- 数据库操作 -- */
-- 查询所有数据库
SHOW DATABASES;

-- 查询当前数据库
SELECT DATABASE();

-- 查询当前数据库中所有表
SHOW TABLE;


/* -- 表操作 -- */
-- 查询表结构
DESC 表名;

-- 查询指定表的建表语句
SHOW CREATE TABLE 表名;

创建

/* -- 数据库操作 -- */
-- 创建数据库
CREATE DATABASE [IF NOT EXISTS] 数据库名 [DEFAULT CHARSET 字符集] [COLLATE 排序规则];

-- 使用数据库
USE 数据库名;


/* -- 表操作 -- */
-- 创建表
CREATE TABLE 表名 (
    字段1 字段1类型 PRIMARY KEY, [COMMENT '这是主键'],
    字段2 字段2类型 [COMMENT '字段2注释'],
    字段3 字段3类型 [COMMENT '字段3注释'],
    ...
) [COMMENT '表注释'];

-- 示例
CREATE TABLE movie (
    name CHAR(30),
    address VARCHAR(255),
    cert INT PRIMARY KEY [COMMENT '主键'],
    networth INT
);

CREATE TABLE studio (
    name CHAR(50) PRIMARY KEY,
    address VARCHAR(255),
    presc INT,
    FOREIGN KEY (presc) REFERENCES movie(cert) [COMMENT '外键']
);

MySQL中建议使用字符集UTF8mb4。

参见：MySQL的数据类型

修改

--- 添加字段
ALTER TABLE 表名 ADD 字段名 类型(长度) [COMMENT '注释'] [约束];

--- 修改数据类型
ALTER TABLE 表名 MODIFY 字段名 新数据类型(长度);

--- 修改字段名和字段类型
ALTER TABLE 表名 CHANGE 旧字段名 新字段名 类型(长度) [COMMENT '注释'] [约束];

--- 修改表名
ALTER TABLE 表名 RENAME TO 新表名;

删除

--- 删除字段
ALTER TABLE 表名 DROP 字段名;

-- 删除表
DROP TABLE [IF EXISTS] 表名;

-- 删除指定表，并重新创建该表
TRUNCATE TABLE 表名;

--- 删除数据库
DROP DATABASE [IF EXISTS] 数据库名;

DML

数据操作语言，用于数据库中数据的增删改。

添加数据

-- 给指定字段添加数据
INSERT INTO 表名(字段名1, 字段名2, ...) VALUES(值1,值2,...);

-- 给全部字段添加数据
INSERT INTO 表名 VALUES(值1,值2,...);

/* -- 批量添加数据 -- */
-- 指定字段名添加
INSERT INTO 表名(字段名1,字段名2,...) VALUES(值1,值2,...),(值1,值2,...),(...);

-- 全部添加
INSERT INTO 表名 VALUES(值1,值2,...),(值1,值2,...),(值1,值2,...);

注意：

插入数据时，指定的字段顺序需要与值的顺序相对应。

字符串和日期型数据应包含在引号中。

插入数据的大小应该在字段的指定范围内。

修改数据

1
2
3

UPDATE 表名 SET 字段名1=值1,字段名2=值2,... [WHERE 条件];
-- 作用是修改满足条件的一行数据对应字段的值，不是修改字段名
-- 如果没有修改条件，则会修改整张表中所有数据

删除数据

1
2
3

DELETE FROM 表名 [WHERE 条件];
-- 如果没有修改条件，则会修改整张表中所有数据
-- DELETE语句不能删除某一个字段的值，可以使用UPDATE将该字段值设为NONE

DQL

数据查询语言，用于查询数据库中表的记录。它完整的参数可包含如下内容：

1
2

SELECT [字段列表] FROM [表名列表] WHERE [条件列表] GROUP BY [分组字段列表]
HAVING [分组后筛选列表] ORDER BY [排序字段列表] LIMIT [分页参数];

基本条件查询

`1`	`SELECT L FROM R WHERE C [ORDER BY 排序规则];`

它与关系代数 $\pi_{L}(\sigma_{C}(R))$ 对应。

特别的，查询语句：

`1`	`SELECT 1 FROM R WHERE C;`

表示在这里不关心返回的具体数值，只关心满足条件的行是否存在。

常用运算符总结：

运算符	功能	运算符	功能
>	大于	>=	大于等于
<	小于	<=	小于等于
=	等于	<> 或 !=	不等于
`IS NULL`	数据为空	`NOT` 或 `!`	逻辑非
`AND` 或 `&&`	逻辑与	`OR` 或 `\|\|`	逻辑或
`IN(...)`	在`in`之后的列表中的值（多选一）	`LIKE ' '`	模糊匹配
`BETWEEN...AND...`	在某个范围之间（含端点）

LIKE后可接一个通配符，用于模糊匹配字段：

"Star ____"将匹配字段中含有一个Star和4个字符的字符串。

%"s%将匹配包含's的字符串。

SQL允许使用ESCAPE命令来排除特定的字符，例如'x%%x%' ESCAPE 'x'将匹配以%开头和结尾的字符串。

查询结果可通过参数ORDER BY排序，默认为升序排列。

ORDER BY DESC指定为降序排列。
ORDER BY ASC为升序排列。

连接查询

FROM后可接多个表，例如

`1`	`SELECT name FROM Movies, MovieExec WHERE title="Star Wars" AND producerC# = cert#;`

其中title和producerC#位于表Movies中、cert#位于表MovieExec中，则查询结果将返回producerC#与cert#字段相同，且title为"Star Wars"的内容。

除了可以使用WHERE语句外，还可以使用INNER JOIN（INNER可省略）：

SELECT s.sno, s.sname, s.sdept
FROM 
    student AS s INNER JOIN sc ON s.sno = sc.sno 
    INNER JOIN course AS c ON sc.cno = c.cno;

使用INNER JOIN必须保证待连接的多个表具有相同的属性名。

反身查询

若要在同一张表中查询元组内部元素之间的关系，则需对该表设置两个副本再进行查询。

例如，查询哪两个Star有相同的address，则输入：

1
2
3

SELECT Star1.name, Star2.name 
FROM MovieStar Star1, MovieStar Star2
WHERE Star1.address = Star2.address AND Star1.name < Star2.name;

必须设置两个副本Star1和Star2，否则条件判断将始终为TRUE。

对应的关系代数为：

$$\pi_{A_1, A_5}(\sigma_{A_2 = A_6 \ \mathrm{AND}\ A_1 < A_5}(\rho_{M(A_1, A_2, A_3, A_4)}(\mathrm{MovieStar}) \times \rho_{N(A_5, A_6, A_7, A_8)}(\mathrm{MovieStar})))$$

子查询

查询也可成为其他查询的一部分，像这样嵌套在查询内部的查询称作子查询。

子查询可返回单个常量，用于WHERE语句；也可以返回一个关系；还可以在FROM语句中后接元组变量。

这里主要展示返回标量值的子查询。

标量值（Scalar）：元组的一个组成部分。例如元组 Movies(title, year, length, genre, studioName, producerC#)中，若使用SQL查询：
1
SELECT producerC# FROM Movies WHERE title='Star Wars';
返回值即为一个标量值。

示例：

1
2

SELECT name FROM MovieExec 
WHERE cert# = (SELECT producerC# FROM Movies WHERE title='Star Wars');

分组与聚合

聚合：将关系中的某些列合并。

聚合操作符	作用
`SUM`	对数值列求和
`AVG`	对数值列求平均值
`MIN`	数值列的最小值
`MAX`	数值列的最大值
`COUNT`	列中值的数量

分组：将元组的值分为若干组。GROUP BY后接一组分组属性，元组根据分组属性的值进行分组。

分组后筛选：HAVING后接关于组的条件。

使用分组后，不能直接用WHERE替代HAVING：

WHERE是在分组之前对单个行记录进行筛选。

HAVING是在分组之后对聚合结果（如 MAX(score)）进行筛选。

设关系StarsIn表示演员出演电影的情况，则若要查询出演过两部及以上电影的影星，则可以使用GROUP BY + HAVING：

1
2
3

SELECT starName FROM StarsIn
GROUP BY starName
HAVING COUNT(*) >= 2;

等价于下列的WHERE语句：

SELECT DISTINCT S1.starName FROM StarsIn S1, StarsIn S2
-- 同一个影星但电影不同
WHERE S1.starName = S2.starName           
    AND (S1.movieTitle <> S2.movieTitle OR S1.movieYear <> S2.movieYear);

存在查询

SQL语句中，EXISTS语句可用来判断是否存在满足特定条件的行。

有返回值（不管是什么）：TRUE
无返回值：FALSE

常与WHERE联合使用，作为查询条件：

`1`	`WHERE EXISTS (SELECT 1 FROM R WHERE C)`

实际上，
1
WHERE EXISTS (SELECT * FROM R WHERE C);
与上式的效果一致，但更推荐使用前者。

熟练掌握数据结构

Sun, 06 Jul 2025 00:00:00 +0000

程序 = 数据结构 + 算法

本文主要用来应付我的数据结构课程期末考试，所以写得比较粗糙，很多细节都忽略掉了，还请各位 dalao 谅解 🥰。

以后如果有时间我可能会新建页面具体分析相关内容，所以可以把本文看作一篇索引（一个页表？）。

索引

📝 备注

当前已更新索引，原内容拆分为五个部分

数据结构：线性表

数据结构：树与二叉树

数据结构：图

查找

排序

C语言补充知识

typedef

typedef可以给变量起一个别名，例如：

`1`	`typedef int ElemType`

此后可以用ElemType代替int。

输入输出函数

一般而言，C语言的输入输出函数比cin，cout更高效。

int num;
float fnum;
double dnum;
char str[10];

int main() {
    // 输入
    scanf("%d", &num);      // 整数
    scanf("%f", &fnum);     // float类型浮点数
    scanf("%lf", &dnum);    // double类型浮点数
    scanf("%s", str);       // 字符串

    //输出
    printf("%d", num);
    printf("%f", fnum);

    return 0;
}

C语言的格式符：

格式符	含义	示例代码	输出示例
`%d`	十进制整数	`printf("%d", 123);`	`123`
`%f`	浮点数	`printf("%f", 3.14);`	`3.140000`
`%c`	字符	`printf("%c", 'A');`	`A`
`%s`	字符串	`printf("%s", "hello");`	`hello`
`%x`	十六进制整数（小写）	`printf("%x", 255);`	`ff`
`%X`	十六进制整数（大写）	`printf("%X", 255);`	`FF`
`%o`	八进制整数	`printf("%o", 8);`	`10`
`%p`	指针地址	`printf("%p", ptr);`	`0x7ffeefbff5a0`
`%e`	科学计数法（小写e）	`printf("%e", 1234.5);`	`1.234500e+03`
`%E`	科学计数法（大写E）	`printf("%E", 1234.5);`	`1.234500E+03`
`%g`	自动选 `%f` 或 `%e`（更短）	`printf("%g", 0.00001);`	`1e-05`
`%u`	无符号十进制整数	`printf("%u", -1);`	`4294967295`

动态内存分配

函数	作用	返回
`malloc`	申请未初始化的连续字节	`void *`（成功）或 `NULL`（失败）
`calloc`	申请已清零的连续元素	同上
`realloc`	扩容/缩容已申请的块	同上
`free`	归还内存	`void`

申请要判空，用完必释放，扩容用临时，释放后置 NULL。

期末速通 on RunicDolphin806

形式化方法

课程目标

内容

数据库系统

数据库与DBMS

目录

常见数据库应用

MySQL

准备工作

配置MySQL

设置用户密码

允许远程访问

创建新用户

通用语法

openGauss

数据库管理可视化

并行计算

并行计算概述

并行计算基本概念

并行化方法

域分解

任务分解

流水线

并行计算的硬件环境

PRAM模型

PRAM模型

处理器

SIMD体系

多核处理器

GPU

互连网络

内存访问模式

并行计算系统的体系结构

并行计算的性能评测

并行计算的性能

计算量的度量

性能指标

内存系统对性能的影响

加速比定律

Amdahl 定律

Gustafson 定律

Sun and Ni 定律

可扩放性评测

并行程序设计方法

并行算法设计

设计思想

一般策略

串行算法的直接并行化

重新设计并行算法

利用已有的并行算法

PCAM方法学

划分

通讯

组合

映射

算法设计与分析

算法的基本概念

算法的特点

算法的正确性

算法的优劣

算法分析的数学基础

复杂性函数的阶

渐进复杂性

复杂性阶的三个记号

严格函数

函数阶的性质

和的估计与界限

直接求和

求和转换为积分

积分求和的上界

积分求和的下界

递归方程

逐层展开法

变量替换法

Master定理

算法实例

NP问题分析

决策问题与优化问题

问题的难易