【学习笔记之数据结构】时间复杂度与空间复杂度

一、算法效率

  算法在编写成可执行程序后，运行时需要耗费时间资源和空间（内存）资源。因此衡量一个算法的好坏，一般是从时间和空间两个维度来衡量的，即时间复杂度和空间复杂度。
  时间复杂度主要衡量一个算法的运行快慢，而空间复杂度主要衡量一个算法运行所需要的额外空间。

二、时间复杂度

  定义：在计算机科学中，算法的时间复杂度是一个函数（数学中带未知数的函数式），它定量描述了改算法的运行时间。一个算法执行所耗费的时间，从理论上说，不能计算的，只有把程序放在机器上跑起来，才能知道。但是如果每个算法都进行上机测试会非常的麻烦，所以引入时间复杂度分析方式。一个算法所花费的时间与程序中语句的执行次数成正比，算法中的基本操作的执行次数，就是算法的时间复杂度。
  找到某条基本语句与问题规模N之间的数学表达式，就能够算出该算法的时间复杂度。
  因为计算机的运行速率是非常快的，所以我们不用精确的算出执行次数，只需要计算出大概次数就行了。这里就需要引入渐进表示法。
  大O符号：是用于描述函数渐进行为的数学符号。

1. 用常数1取代运行时间中的所有加法常数；
2. 在修改后的运行次数函数中，只保留最高阶项（去掉其他项对结果的影响不大）；
3. 如果最高阶存在且不是1， 则取出与这个项目相乘的常数。得到的结果就是大O阶。
4. 部分算法的时间复杂度存在最好、平均和最坏情况：
    最坏情况：任意输入规模的最大运行次数(上界)；
    平均情况：任意输入规模的期望运行次数；
    最好情况：任意输入规模的最小运行次数(下界)。
   在实际中一般情况关注的是算法的最坏运行情况，所以数组中搜索数据时间复杂度为O(N)

// 请计算一下Func1中++count语句总共执行了多少次？
void Func1(int N) {
	int count = 0;
	for (int i = 0; i < N; ++i) {
		for (int j = 0; j < N; ++j) {
			++count;
		}
	}
	for (int k = 0; k < 2 * N; ++k) {
		++count;
	}
	
	int M = 10;
	while (M--) {
		++count;
	}

	printf("%d\n", count);
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19

// 计算Func2的时间复杂度
void Func2(int N) {
	int count = 0;
	for (int k = 0; k < 2 * N; ++k) {
		++count;
	}
	int M = 10;
	while (M--) {
		++count;
	}

	printf("%d\n", count);
}
1
2
3
4
5
6
7
8
9
10
11
12
13

// 计算Func3的时间复杂度？
void Func3(int N, int M) {
	int count = 0;
	for (int k = 0; k < M; ++k){
		++count;
	}
	for (int k = 0; k < N; ++k){
		++count;
	}
	printf("%d\n", count);
}
1
2
3
4
5
6
7
8
9
10
11

// 计算Func4的时间复杂度？
void Func4(int N) {
	int count = 0;
	for (int k = 0; k < 100; ++k)
	{
		++count;
	}
	printf("%d\n", count);
}
1
2
3
4
5
6
7
8
9

// 计算BubbleSort的时间复杂度？
void BubbleSort(int* a, int n) {
	assert(a);
	for (size_t end = n; end > 0; --end)
	{
		int exchange = 0;
		for (size_t i = 1; i < end; ++i)
		{
			if (a[i - 1] > a[i])
			{
				Swap(&a[i - 1], &a[i]);
				exchange = 1;
			}
		}
		if (exchange == 0)
			break;
	}
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18

// 计算BinarySearch的时间复杂度？
int BinarySearch(int* a, int n, int x) {
	assert(a);
	int begin = 0;
	int end = n - 1;
	// [begin, end]：begin和end是左闭右闭区间，因此有=号
	while (begin <= end)
	{
		int mid = begin + ((end - begin) >> 1);
		if (a[mid] < x)
			begin = mid + 1;
		else if (a[mid] > x)
			end = mid - 1;
		else
			return mid;
	}
	return -1;
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18

// 计算阶乘递归Fac的时间复杂度？
long long Fac(size_t N) {
	if (0 == N)
		return 1;

	return Fac(N - 1) * N;
}
1
2
3
4
5
6
7

三、空间复杂度

  空间复杂度也是一个数学表达式，是对一个算法在运行过程中临时占用存储空间大小的量度。
  空间复杂度计算的是变量的个数，计算规则与时间复杂度类似，也是使用大O渐进表示法。
  函数运行是所需要的栈空间（存储参数、局部变量、一些寄存器信息等）在编译期间已经确定好了，因此空间复杂度主要通过函数在运行显式申请的额外空间来确定。

// 计算BubbleSort的空间复杂度？
void BubbleSort(int* a, int n) {
	assert(a);
	for (size_t end = n; end > 0; --end)
	{
		int exchange = 0;
		for (size_t i = 1; i < end; ++i)
		{
			if (a[i - 1] > a[i])
			{
				Swap(&a[i - 1], &a[i]);
				exchange = 1;
			}
		}
		if (exchange == 0)
			break;
	}
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18

// 计算Fibonacci的空间复杂度？
long long* Fibonacci(size_t n) {
	if (n == 0)
		return NULL;

	long long* fibArray = (long long*)malloc((n + 1) * sizeof(long long));
	fibArray[0] = 0;
	fibArray[1] = 1;
	for (int i = 2; i <= n; ++i)
	{
		fibArray[i] = fibArray[i - 1] + fibArray[i - 2];
	}
	return fibArray;
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14

// 计算阶乘递归Fac的空间复杂度？
long long Fac(size_t N) {
	if (N == 0)
		return 1;

	return Fac(N - 1) * N;
}
1
2
3
4
5
6
7