主定理

发布时间 2023-12-19 12:14:48作者: Creeper_l

参考文章:时间复杂度及主定理详解托比欧:主定理 Master Theorem

简介

在算法分析中,主定理(英语:master theorem)提供了用渐近符号表示许多由分治法得到的递推关系式的方法。

在初赛题目中,主定理可以用来计算形如 \(T(n)=a\times T(n/b) + O(n^{d})\) 的时间复杂度,其中 \(T(n)\) 是我们要求的时间复杂度。

定理

首先我们假设 \(x=\log_{b}a\),那么有以下结论:

\(T(n)=\begin{cases}O(n^{d}) (d > x) \\O(n^{d} \log_{b} n)(d=x) \\O(n^{x})(d<x) \end{cases}\)

上式的意思如下:

我们可以将 \(d\) 看做代表了主公式中的第二项,即将原问题分解成子问题和将子问题的解合并成原问题的解的时间。

推导与证明

如图,首先递推求出这个函数的每一层的时间复杂度,每一层的数量乘上 \(a\),长度除以 \(b\)。于是可以得到第 \(i\) 层的时间复杂度为:\(O(n^{d})(\frac{a}{b^{d}})^{i}\)。而总层数则应该是 \(\log_{b}n\) 层,因为当长度减到 \(0\) 过后就结束了。所以我们可以得出总时间复杂度为:

\(T(n) = \sum_{i=0}^{\log_{b}n} O(n^{d})(\frac{a}{b^{d}})^{i}\)

仔细观察之后会发现这是一个等比数列,公比为 \(a/b^{d}\)

然后我们可以分类讨论公比和 \(1\) 之间的大小关系(三种情况:大于 \(1\),等于 \(1\),小于 \(1\)),对于每一种情况再用特殊的方法计算即可。

  • \(a/b^{d} > 1\),即 \(d>\log_{b}a\)

如果等比数列的公比大于 \(1\) 的话,那么总时间复杂度应该由第一项来决定。所以直接可以得出:\(T(n)=O(n^{d})\)

  • \(a/b^{d} < 1\),即 \(d<\log_{b}a\)

同理,如果等比数列的公比小于 \(1\) 的话,那么总时间复杂度应该由最后一项来决定。所以:\(T(n)=O(n^{\log_{b}a})\),具体推导过程如下:

首先我们这道这个等比数列的最后一项为:\(O(n^{d})\times (\frac{a}{b^{d}})^{\log_{b}n}\)。于是我们就可以化简原式:

\(O(n^{d})\times (\frac{a}{b^{d}})^{\log_{b}n}=O(n^{d})\times (\frac{a^{log_{b}n}}{b^{d\log_{b}n}})=O(n^{d}\times (\frac{a^{log_{b}n}}{n^{d}}))=O(a^{\log_{b}n})\)

\(\because \frac{\log_{a}n}{\log_{a}b}=\log_{b}n\)

\(\therefore a^{\log_{b}n}=a^{\frac{\log_{a}n}{\log_{a}b}}=(a^{\log_{a}n})^{\frac{1}{\log_{a}b}}=n^{\frac{1}{\log_{a}b}}\)

\(\because \frac{1}{\log_{a}b}=\log_{b}a\)

\(\therefore O(n^{\frac{1}{\log_{a}b}})=O(n^{\log_{b}a})\)

于是得证。

  • \(a/b^{d} = 1\),即 \(d=\log_{b}a\)

这个时候就必须求和了,因为每一项的大小都一样大(因为公比为 \(1\)),所以直接用第一项乘以项数就行了,即:\(T(n)=O(n^{d})*(\log_{b}a+1)=O(n^{d}\log_{b}a)\)

证毕。

具体详见这篇文章