算法
主要研究问题(核心):时间与空间复杂度
使用大O记号(这个为最坏的情况,是算法的上界,忽略常数系数)
时间:基本操作次数(会变指令条数)
空间:占用内存字节数
区别:空间可以再利用
时间空间可以互换(Hash表)
常见时间复杂度分析方法:
1.输入输出——确定算法的下界
2.数循环次数——循环次数相乘,通过最内层循环优化
3.均摊分析——平均预估,多个操作,一起算时间复杂度
常见复杂度:
O(1) (不管执行多少次)
基本运算,+,-,*,/,%,寻址
O(logn)(分治类,一般以2为底)
二分查找
O(n1/2)
枚举约数
O(n)
线性查找
O(n2)
朴素最近点对、冒泡、选择排序
O(n3)
Floyd最短路
普通矩阵乘法
O(nlogn)
归并排序
快速排序的期望(均摊)复杂度
基于比较排序的算法下界
O(2n)
枚举全部的子集
O(n!)
枚举全排列
总结:
优秀 O(1) < O(logn) < O(n1/2) < O(n) < O(nlogn)
可能可以优化 O(n2) < O(n3) < O(2n) < O(n!) (n到底是多大!!一秒一亿条指令)
条件:
- 有穷性(在有限的时间内结束)
- 确定性(数值是确定的)
- 可行性(算法可以是一段描述,也可以是一段代码,每一行都可行的)
- 有输入与输出
应用:
机器学习、数据挖掘、自然语言处理、密码学、计算机图形学等
常用算法:
- 穷举(万能算法)
- 分而治之(减而治之 )
二分查找——减而治之
归并排序——分而治之 - 贪心法
最小生成树
单源最短路 - 动态规划
揹包
士兵路径
介绍三个算法:
- 暴力枚举 O(n3)
- 优化枚举 O(n2)
- 贪心法 O(n)