复杂性理论

$centerproblem:P\ne NP$

1.P、EXP、NP

定义1 $DTIME$

​ $T:\mathbb{N}\to \mathbb{N}$,语言$L\in DTIME(T(n))$,当且仅当存在一个多带图灵机(常数带)，可以在时间$O(T(n))$的时间里判定$L$

定义2 $P、EXP$

$P={\bigcup }_{c\ge 1}DTIME(n^c)$（多项式时间）

$Exp={\bigcup }_{c>1}DTIME(2^{n^c})$（指数时间)

例如：

​ 最短路 $O(M^2)O(|E|+MlogM)$

​ 最小生成树 $O(|E|logM)O(|E|+Mlog|M|)$

​ 最大流：

​ 增广路算法 $O(|v||E{|}^2)$

​ 预流推进 $O(|v{|}^3)$

​ CKLPGS(22年) $O(|E{|}^{(1+O(1))})$

​ 线性规划：（n个变量，输入有L位bit长)

​ $g(n)\in \tilde{O}()$,如果$(\exists c>0)(g(n)\in O(f(n)lo{g}^{c}n))$

​ 字符串匹配 $O(|v|+|E|)$

​ 并查集 $O(m\alpha (n)),\alpha$是$Ackerman$的反函数

​ $efficient=n^{O(1)}$多项式时间，

定理3 有向图中判断是否有路属于P

​ P A T H = { < G , s , t > : G 是有向图，且存在一条 s 到 t 的路 } PATH=\{<G,s,t>:G是有向图，且存在一条s到t的路\} PATH={<G,s,t>:G是有向图，且存在一条s到t的路}

定理4 判断互质属于P

​ R E L P R I M E = { < x , y > : x , y 互质 } RELPRIME=\{<x,y>:x,y互质\} RELPRIME={<x,y>:x,y互质}

使用欧几里得算法

​ $EuclidGCD(x,y):$

​ $ifx<ythenswapx,y$

​ $whiley>0:$

​ $ x \leftarrow x\ mod\ y$

​ $swapx,y$

​ $returnx$

在欧几里得算法中，x每次都会减半

​ 若$\frac{x}{2}\ge y$，那么$x\%y<y\le \frac{x}{2}$

​ 若$\frac{x}{2}<y$，那么$x\%y=x=\lfloor \frac{x}{y}\rfloor y=x-y<\frac{x}{2}$

​ 所以$x$每次至少减半

则$\#iterations=O(lo{g}_{2}x)=O(lo{g}_2{2}^{O(l_1)})=O(l_1)=O(n)$计算理论中的$n$表示输入的长度

在每次循环中，我们要计算取模，需要$O(n^2)$

则总共需要$O(n^3)$

定理5 判断质数属于EXP

P R I M E = { x : x 是一个二进制形式的质数 } PRIME=\{x:x是一个二进制形式的质数\} PRIME={x:x是一个二进制形式的质数}

$PRIME\in EXP$

$Proof$

​ $PRIME(x):$

​ $y\leftarrow 2$

​ $whiley<x$

​ $ifxmody=0thenreject$

​ $y\leftarrow y+1$

​ $accept$

$n=\lceil lo{g}_{2}x\rceil \to lo{g}_{2}x\le n\to x\le 2^n$

则需要循环$2^n$次

则总共需要$2^n\times O(n^2)=2^{O(n)}$

定理6 [AKS 2002] 判断质数属于P

定义7 NP

​ N：不确定的

​ P：多项式的

​ 直观地说，NP是可在多项式时间内验证的

​ P是可在多项式时间内被判定的(解决的)

​ $PvsNP$问题：$P\ne NP$

如果$P=NP$ 所有数学家都会失业，所有加密的系统都不安全

语言 L ⊆ { 0 , 1 } ∗ L\subseteq\{0,1\}^* L⊆{0,1}∗属于NP，如果存在一个多项式$p:\mathbb{N}\to \mathbb{N}$,和一个多项式时间的TM M，称为$L$的证书, ∀ x ∈ { 0 , 1 } ∗ \forall x\in\{0,1\}^* ∀x∈{0,1}∗：

​ x ∈ L ⇔ ∃ w ∈ { 0 , 1 } p ( ∣ x ∣ ) , s . t . M ( x , w ) = 1 x\in L\Leftrightarrow \exist w\in\{0,1\}^{p(|x|)},s.t. M(x,w)=1 x∈L⇔∃w∈{0,1}p(∣x∣),s.t.M(x,w)=1

​ x ∉ L ⇔ ∀ w ∈ { 0 , 1 } p ( ∣ x ∣ ) , s . t . M ( x , w ) = 0 x\notin L \Leftrightarrow \forall w\in\{0,1\}^{p(|x|)},s.t. M(x,w)=0 x∈/L⇔∀w∈{0,1}p(∣x∣),s.t.M(x,w)=0

即验证过程有三步

1. 证明者为验证者提供一个多项式长度的输入
2. 验证者运行一个图灵机(使用某种算法)，在多项式时间内能得出答案
3. 验证者返回结果(接收或拒绝)

NP判定的练习

练习 8 图同构问题

​ G r a p h I s o m o r p h i s m = { < G , H > : 无向图 G , H s 是同构的 } ∈ N P Graph\ Isomorphism=\{<G,H>:无向图G,Hs是同构的\}\in NP Graph Isomorphism={<G,H>:无向图G,Hs是同构的}∈NP

​ 两个图同构时，一定有双射$f:V(G)\to V(H)$,有$(u,v)\in E(G)$当且仅当$(f(u),f(v))\in E(H)$,

证书：

1. $f$是$V(G)\to V(H)$的一个双射
2. 检查$(u,v)\in E(G),则(f(u),f(v))\in E(H)$，而这个检查时间是$O(n^2)$的

那么$f$是可以被验证的，但如何找到这样的$f$可能是很困难的，但NP问题不用考虑

练习9 完全图子图问题

​ k − C L I Q U E = { < G , f > : 图 G 中含有 K k 子图 } k-CLIQUE=\{<G,f>:图G中含有K_k子图\} k−CLIQUE={<G,f>:图G中含有Kk​子图}(完全图）

证书：在$G$中找$k$个点，提供给这个TM，记为$u_1,u_2,\cdots ,u_k$，检查它们间是否两两有边，$O(n^2)$

练习10 旅行商问题

​ 旅行商给出n个节点$C_n^2$个数字，$d_{ij}$表示节点$i$和节点$j$问题和一个数字$k$,确定是否存在一条经过所有节点的回路并且总长度小于等于k

​ 这个问题是NP的

证书：给出一条路，先判断是回路，且经过所有顶点，并计算他的长度，是多项式时间的

练习 11

​ 给定$N,L,U$,判断是否$N$有一个$[L,U]$(区间)中的质因数

证书：给出一个$p\in [L,U],s.t.p$是质数并且$p|N$

练习12 0/1 整数规划问题

​ 给定$m$个线性的整数系数的不等式，有$n$个变量，$u_1,u_2,\cdots ,u_n$

​ 判断是否有一个 0和1的赋值给$u_1,u_2,\cdots ,u_n$，满足所有的不等式

整数：显然只需要将给定的数值带进去判定是否满足即可

练习13 子集合问题(背包问题)

​ 给定$n$个整数$A_1,A_2,\cdots ,A_n$,和一个数字$T$,判断是否有一个子集，它的和大于T

​ 显然属于$NP$,把给的数加一下就行了

练习14 图不同构

​ G r a p h N o t I s o m o r p h i c = { < G , H > : G ≆ H } GraphNotIsomorphic=\{<G,H>:G\ncong H\} GraphNotIsomorphic={<G,H>:G≆H}

​ 不属于NP，这是个很难的问题，要将所有的双射都找一遍

练习15 没有完全图子图

​ N o C l i q u e = { < G , k > : G 没有 K k 子图 } NoClique=\{<G,k>:G没有K_k子图\} NoClique={<G,k>:G没有Kk​子图}

​ 不属于NP，也是要把所有的k个节点的子图都找一遍。

$C_n^{lo{g}_n}$不是一个多项式

$P$的否也在$P$内

$NP$的否不一定在$NP$内

定理16 P，NP，EXP的包含关系

​ $P\subseteq NP\subseteq EXP$

$(P\subseteq NP)$ 如果一个问题属于P，那么直接让证书为空串，那么验证者可以用一个图灵机在多项式时间内来判定。

​ 令$L\in P,则证明L\in NP$

​ 令$p(n)=0$，则构造M为:

​ $x\in L,M(x,ϵ)=1$

​ $x\notin L.M(x,ϵ)=0$

($NP\subseteq EXP $），如果一个问题属于NP，则存在一个多项式$p:\N\rightarrow \N$，令一个多项式时间的TMM可以判定，构造一个TMM‘，枚举所有的$w\in {0,1}^{p|x|}$，来判定是否有$M(x,w)=1$,如果存在这样的$w$，则M^{\prime }接收$x$。

​ $M^{\prime }$的总共运行时间为$2^{p(n)}，poly(n)=2^{n^{O(1)}},n^{O(1)}=2^{n^{O(1)}}$

​

非确定性图灵机(Nondeterministic TMs)

​ 总是会选对。

​ 在任何时候，非确定性图灵机的转移结果可能有多个(可以只有1个)。转移函数$\delta$:
δ : Q × Γ → P ( Q × Γ × { L , R , S } ) \delta: Q\times \Gamma \rightarrow P(Q\times \Gamma\times\{L,R,S\}) δ:Q×Γ→P(Q×Γ×{L,R,S})
​ 转移结果是一个集合。

​ 形式化地，一个$NTMM=(\sum ,\Gamma ,Q,\delta ,q_0,q_{accept},q_{reject})$

​ $M$接收$x$，如果存在这样的一条路径接收$x$

定义17 NTM的运行时间

​ 如果对任意 x ∈ { 0 , 1 } ∗ x \in\{0,1\}^* x∈{0,1}∗,对于每个非确定的选择，$M$都在$T(n)$步内到达终止状态，那么我们说一个$NTMM$的运行时间为$T(n)$.(最坏的情况也能在$T(n)$步内停下)

定义18 NTM可判定

​ 如果对于任意 x ∈ { 0 , 1 } ∗ , x ∈ L ⟺ M ( x ) = 1 x\in\{0,1\}^*,x\in L \Longleftrightarrow M(x)=1 x∈{0,1}∗,x∈L⟺M(x)=1,我们说$NTMM$可判定$L$

定义19 Binary-choice NTM

​ $M=(Q,\sum ,\Gamma ,{\delta }_1,{\delta }_2,q_0,q_{accept},q_{reject})$

​ 其中 δ 1 , δ 2 : Q × Γ → Q × Γ × { L , R , S } \delta_1,\delta_2: Q\times \Gamma \rightarrow Q\times \Gamma \times \{L,R,S\} δ1​,δ2​:Q×Γ→Q×Γ×{L,R,S}，对于每一步转移，$M$随机使用${\delta }_1$或是${\delta }_2$

引理20 二选一NTM和NTM等价

​ 令 L ⊆ { 0 , 1 } ∗ L\subseteq\{0,1\}^* L⊆{0,1}∗,如果$L$可以在时间$T(n)$内被一个$NTMM$内判定，那么$L$可在$O_M(T(n))$内被一个二选一(binary-choice)图灵机判定。

证明：

​ 思路：对于一步四选一，可转换成两步二选一

​ 对于任意一步，$M$至多有$2^{|Q|\times |T|\times 3}$个选择(幂集的大小)，则这可以被二选一在$lo{g}_2{2}^{|Q|\times |T|\times 3}=|Q|\times |T|\times 3$步内完成模拟。

​ 所以，总共的运行时间$T^{\prime }(n)\le |Q|\times |T|\times 3\times T(n)=O_M(T(n))$，（$O_M$表明参数与图灵机M有关）

定义21 NTIME

​ 令$T:\mathbb{N}\to \mathbb{N}$,定义$NTIME(T(n))$是一些语言的集合，这些语言可以被一个NTM在$O(T(n))$内判定。

定理22 NP的形式化定义

$$NP=\bigcup _{c\ge 1}NTIME(n^c)$$

$Proof$

(${\bigcup }_{c\ge 1}NTIME(n^c)\subseteq NP$)

​ 令$L\in NTIME(n^c)$，则$L\in NP$，

​ 因为$L\in NTIME(n^c)$,存在一个二选一NTM N 可以在时间$d\cdot n^c$内判定$L,d>0$。

​ 令$p(n)=d\cdot n^c$，并且令证书 w ∈ { 0 , 1 } p ( x ) w \in\{0,1\}^{p(x)} w∈{0,1}p(x)表明应该选择哪个转移函数。那么验证者可以检验，如果$N$接收$x$（如何选择是由证书决定)

$(NP\subseteq {\bigcup }_{c\ge 1}NTIME(n^c))$

​ 若$L\in NP$，则$L\in {\bigcup }_{c\ge 1}NTIME(n^c)$

​ 构造一个$NTM$:

1. 猜测 w ∈ { 0 , 1 } p ( ∣ x ∣ ) w\in\{0,1\}^{p(|x|)} w∈{0,1}p(∣x∣)，因为是NTM，所以每一位都能猜对。。。。如果猜错了，说明没有正确的，直接拒绝
2. 以输入$(x,w)$模拟$M$,当且仅当$M$接收$(x,w)$时接收。M是NP的证书的那个图灵机

显然$N$运行时间为多项式时间，那么$N$判定$L$。

定义 23 (karp reduction)

​ 令 L , K ⊆ { 0 , 1 } ∗ L,K\subseteq \{0,1\}^* L,K⊆{0,1}∗，我们将$L$ karp reduction to K记作$L{\le }_{p}K$。如果存在一个多项式时间的TM M ,有对任意 x ∈ { 0 , 1 } ∗ , x ∈ L ⇔ N ( x ) ∈ K x\in \{0,1\}^*,x\in L \Leftrightarrow N(x)\in K x∈{0,1}∗,x∈L⇔N(x)∈K,即

1. 如果$K\in P$,那么$L\in P$
2. 如果$L\notin P$,那么$K\notin P$

引理24 karp reduction的性质

​ 传递：如果$L_1{\le }_p{L}_2,L_2{\le }_p{L}_3$,则$L_1{\le }_{p}L3$

​ 令$M_3=M_2(M_1(x))$，是多项式时间内的

​ 那么有$x\in L_1\iff M_3(x)\in L_3$

3.NP难与NP完全问题

定义25 NP难问题

​ L ⊆ { 0 , 1 } ∗ L\subseteq\{0,1\}^* L⊆{0,1}∗是NP难问题，如果对所有的语言$K\in NP，K{\le }_{p}L$，即$L$至少不比NP简单

定义26 NP完全问题

​ NP完全，如果$L\in NP,L\in NP-hard$

​ 即$NP-complete=NP\bigcap NP-hard$

引理27 P=NP 的证明思路1

​ 如果$L$是NP难问题，且$L\in P$,那么$P=NP$

引理28 P=NP 的证明思路2

​ 令$L\in NP-complete$,那么$L\in P\iff P=NP$

Cook-Levin的理论

​ Cook-Levin在1923年证明了第一个NP完全问题 SQT

定理 29 SAT 是NP完全问题

​ 布尔可满足性问题：

变量：$x,y,z$，可以取$True$或者$False$

literal:变量和它的非，$x,\neg x,y,\neg y$

子句：$OR$(或）,使用在一个或多个literals里，$\neg x\vee y,\neg y\vee z,x\vee y\neg z$

formula：$AND$（且），使用在一个或更多个literals

例如，对于$\varphi =(\neg x\vee y)\wedge (\neg y\vee z)\wedge (x\vee z\vee y)$

取 x=y=z=1，是可以满足的

但对于$\varphi =x\wedge \neg x$ 是不可以被满足的

显然$SAT\in NP$，显然可以用一个NTM来猜，也可以直接给一个证书(输入每个变量的值).