Académique Documents
Professionnel Documents
Culture Documents
算步驟的一个序列[1],常用於計算、數據處理和自動推理。精確而言,算法是一個表示爲有
限長[2]列表的有效方法。算法應包含清晰定義的指令[3]用於計算函數[4]。
算法中的指令描述的是一個計算,當其執行時能從一個初始狀態和初始輸入(可能爲空)開
始,[5]經過一系列有限[6]而清晰定義的狀態最終產生輸出[7]並停止於一個終態。一個狀態
到另一個狀態的轉移不一定是確定的。隨機化算法在内的一些算法,包含了一些隨機輸入。
[8][9]
形式化算法的概念部分源自尝试解决希尔伯特提出的判定问题,並在其后尝试定义有效可計
算性[10]或者有效方法[11]中成形。这些尝试包括库尔特·哥德尔、雅克·埃尔布朗和斯蒂芬·科
尔·克莱尼分别于1930年、1934年和1935年提出的遞歸函數,阿隆佐·邱奇於1936年提出的λ演
算,1936年埃米爾·萊昂·珀斯特的Formulation 1和艾倫·圖靈1937年提出的圖靈機。即使在當
前,依然常有直覺想法難以定義爲形式化算法的情況。[12]
目录
1 历史
2 特征
3 基本要素
3.1 常用设计模式
3.2 常用实现方法
4 形式化算法
5 复杂度
5.1 时间复杂度
5.2 空间复杂度
6 非確定性多項式時間(NP)
7 实现
8 範例
8.1 求最大值演算法
8.2 求最大公約數演算法
9 分类
10 参考文献
11 外部链接
12 参见
历史
算法在中国古代文献中称为“术”,最早出现在《周髀算經》、《九章算术》。特别是《九章
算术》,给出四则运算、最大公约数、最小公倍数、开平方根、开立方根、求素数的埃拉托
斯特尼筛法,线性方程组求解的算法。三国時代的刘徽给出求圆周率的算法:刘徽割圆术。
自唐代以来,历代更有许多专门论述“算法”的专著:
元代:《丁巨算法》;
明代:程大位 《算法统宗》
清代:《开平算法》、《算法一得》、《算法全书》。
而英文名稱「algorithm」来自于9世纪波斯数学家花拉子米(比阿勒·霍瓦里松,波斯語:
خوارزمی,拉丁轉寫:al-Khwarizmi),因為比阿勒·霍瓦里松在数学上提出了算法这个概念。
「算法」原为「algorism」,即“al-Khwarizmi”的音转,意思是“花拉子米”的运算法则,在18
世纪演变为「algorithm」。
欧几里得算法被人们认为是史上第一个算法。
第一次编写程序是愛達·勒芙蕾絲(Ada Byron)于1842年为巴贝奇分析机编写求解解伯努利
微分方程的程序,因此愛達·勒芙蕾絲被大多数人认为是世界上第一位程序员[13]。因为查尔
斯·巴贝奇(Charles Babbage)未能完成他的巴贝奇分析机,这个算法未能在巴贝奇分析机上
执行。
因为「well-defined procedure」缺少数学上精确的定义,19世纪和20世纪早期的数学家、逻
辑学家在定义算法上出现了困难。20世纪的英国数学家图灵提出了著名的图灵论题,并提出
一种假想的计算机的抽象模型,这个模型被称为图灵机。图灵机的出现解决了算法定义的难
题,图灵的思想对算法的发展起到了重要的作用。
特征
以下是高德纳在他的著作《计算机程序设计艺术》裡對演算法的特徵歸納:
MerkleTree1.JPG
输入:一个算法必须有零个或以上输入量。
输出:一个算法应有一个或以上输出量,输出量是算法计算的结果。
明確性:算法的描述必须无歧义,以保证算法的實際执行结果是精確地符合要求或期望,通
常要求實際執行結果是确定的。
有限性:依據圖靈的定義,一個演算法是能夠被任何圖靈完備系統模擬的一串運算,而圖靈
機只有有限個狀態、有限個輸入符號和有限個轉移函數(指令)。而一些定義更規定演算法
必须在有限個步骤内完成任務。
有效性:又称可行性。能够实现,算法中描述的操作都是可以通过已经实现的基本运算执行
有限次来实现。
基本要素
算法的核心是建立问题抽象的模型和明确求解目标,之后可以根据具体的问题选择不同的模
式和方法完成算法的设计。
常用设计模式
完全遍歷法和不完全遍歷法:在问题的解是有限离散解空间,且可以验证正确性和最优性时
,最简单的算法就是把解空间的所有元素完全遍历一遍,逐个检测元素是否是我们要的解。
这是最直接的算法,实现往往最简单。但是当解空间特别庞大时,这种算法很可能导致工程
上无法承受的计算量。这时候可以利用不完全遍历方法——例如各种搜索法和规划法——来
减少计算量。
分治法:把一个问题分割成互相独立的多个部分分别求解的思路。这种求解思路带来的好处
之一是便于进行并行计算。
动态规划法:当问题的整体最优解就是由局部最优解组成的时候,经常采用的一种方法。
贪婪算法:常见的近似求解思路。当问题的整体最优解不是(或无法证明是)由局部最优解
组成,且对解的最优性没有要求的时候,可以采用的一种方法。
线性规划法:见条目。
简并法:把一个问题通过逻辑或数学推理,简化成与之等价或者近似的、相对简单的模型,
进而求解的方法。
常用实现方法
递归方法与迭代方法
顺序计算、并行计算和分布式计算:顺序计算就是把形式化算法用编程语言进行单线程序列
化后执行。
确定性算法和非确定性算法
精确求解和近似求解
形式化算法
算法是计算机处理信息的本质,因为计算机程序本质上是一个算法来告诉计算机确切的步骤
来执行一个指定的任务,如计算职工的薪水或打印学生的成绩单。一般地,当算法在处理信
息时,会从输入设备或数据的存储地址读取数据,把结果写入输出设备或某个存储地址供以
后再调用。
复杂度
时间复杂度
算法的时间复杂度是指算法需要消耗的时间资源。一般来说,计算机算法是问题规模
{\displaystyle n} n的函数 {\displaystyle f(n)} {\displaystyle f(n)},算法的时间复杂度也因此记做
空间复杂度
算法的空间复杂度是指算法需要消耗的空间资源。其计算和表示方法与时间复杂度类似,一
般都用复杂度的渐近性来表示。同时间复杂度相比,空间复杂度的分析要简单得多。
非確定性多項式時間(NP)
主条目:NP (複雜度)
实现
算法不单单可以用计算机程序来实现,也可以在人工神经网络、电路或者机械设备上实现。
範例
求最大值演算法
这是算法的一个简单的例子。
我们有一串随机数列。我们的目的是找到这个数列中最大的数。如果将数列中的每一个数字
看成是一颗豆子的大小,可以将下面的算法形象地称为「捡豆子」:
首先将第一颗豆子放入口袋中。
从第二颗豆子开始检查,如果正在检查的豆子比口袋中的还大,则将它捡起放入口袋中,同
时丢掉原先口袋中的豆子。反之則繼續下一顆豆子。直到最后一颗豆子。
最后口袋中的豆子就是所有的豆子中最大的一颗。
以上算法在中国大陆的教科书中通常被叫做“打擂法”或者“循环打擂”[14][15][16]:在一个for
循环中,每轮循环都有新的挑战者。若挑战者胜的话,挑战者做新擂主,否则擂主卫冕。
for循环结束后输出最后的擂主。
下面是一个形式算法,用ANSI C代码表示
int i;
mval = array[i];
return mval;