论复杂性与随机性的关系.docx

1、论复杂性与随机性的关系论复杂性与随机性的关系【内容提要】本文通过对历史上复杂性与随机性关系的熟悉回顾，展示和分析了起源于运算机科学领域的Kolmogorov复杂性与随机性的直接关联，分析了盖尔曼的有效复杂性概念，论证了两种复杂性与随机性的关系，和随机性的不同情形，力图剥离混合在复杂性与随机性彼此关系上的一些误读和误解，还复杂性与随机性一种客观的本真关系。【关键词】复杂性/计算复杂性/算法复杂性/随机性/有效复杂性/有效复杂性【正文】最近，咱们在研究复杂性问题的进程中，发觉复杂性与随机性的关系具有特别的意义，许多国内外的学者在复杂性与随机性的关系熟悉上，常常以随机性代替复杂性，以为随机性就是复杂

2、性的内容之一。本文力图剥离混合在复杂性与随机性彼此关系上的一些误读和误解，还复杂性与随机性一种客观的本真关系。一、历史上复杂性与随机性的熟悉回顾科学上经典的复杂性的概念，最先起源于运算机科学研究领域，固然它主要参考了物理学那时的大体观念。（一）建基随机性上的两种复杂性概念为了探索复杂性与随机性的关系，咱们先了解计算复杂性、算法复杂性的概念。第一让咱们从信息理论的角度来看待问题。信息的简单仍是复杂涉及的是表达信息的序列串如何。简单的非复杂系统的产生指令很简短，通常也很明显：例如，所有项相加即为和。如此复杂性能够操作性地概念为：寻觅最小的程序或指令集来描述给定“结构”一个数字序列。那个微型程序的大

3、小相关于序列的大小就是其复杂性的测量。序列111111是均匀的（不复杂的）。对应的程序如下；在每一个1后续写1。那个短程序使得那个序列得以延续，无论要多长都能够办到。序列的复杂性高一些，但仍然很容易写出程序：在两个1后续写0并重复。乃至序列10100也能够用很短的程序来描述；在两个1后续写0并重复；每三次重复将第二个1代之以0。如此的序列具有可概念的结构，有对应的程序来转达信息。比较这三个一个比一个复杂些的序列。再看下面的序列1010010，它再也不是一个可识别的结构，若想编程必需将它全数列出。可是若是它是完全随机性的，那么，咱们按照概率规则，能够明白最终在那个数串中0和1的出现几乎是等概率的

4、。于是为了解决这些关于如何熟悉复杂性增加和判别复杂性程序的问题，科学家们概念了多种描述性的复杂性概念。计算复杂性(computational complexity)源于20世纪30年代数学逻辑进展进程中提出的一些深刻命题。它们都有自己特定的问题规模N，计算复杂性就是指解决问题随问题规模N增加而需要的代价增加。这种简单性和复杂性的分野是，若是计算时刻（或空间）的增加不超过N的某个幂次或多项式，那么该问题是简单的，称为P类问题。若是增加速度超过N的任何多项式，则问题是困难的，称为NP类（NP即“非肯定多项式”Non-deterministic Polynomial的缩写）问题，即复杂性问题之一。如

5、推销商的线路选择问题（Travelling Selesman Problem，简称TSP）就属于问题中的“完全NP”一类问题。此类问题的特点是，随着问题涉及面增加，其计算量将指数性或失控式地增加。对计算复杂性的常见气宇是时刻和空间。一般地说，所谓时刻就是一个计算中离散步骤的数量；空间就是指计算指令读取独特的存储地址的数量。1如前所述，时刻上的计算复杂性即一个运算机描述一个系统（或解一个问题）所需要的时刻；空间上的计算复杂性即描述一个系统所需要的运算机存储量。算法复杂性(algorithmic complexity)，主如果由和在20世纪60年代中期别离独立提出的概念，又称为Kolmogorov

6、复杂性。大体思想和概念如下：对每一个D域中的对象x，咱们称最小程序p的长度丨p丨就是运用指定方式S产生的关于对象x的复杂性。对运算机S而言，设给定的符号串为x，将产生x的程序记为p。对一个运算机来讲，x是输入，p是输出。粗略的说，关于一个符号串x的Kolmogorov复杂性，就是产生x的最短程序p的长度。上述概念可写为：5K,s(x)=min丨P丨:S(p)=n(x)K,s(x)=若是不存在p.其中K,s(x)即Kolmogorov复杂性。后一个公式的含义是明显的，即若是传送的符号串完全杂乱无章，找不到任何规律（即程序p），那么，复杂性就等于符号串本身，而符合串是无规无穷数，复杂性即无穷。因此

7、在算法复杂性中，实际上是越随机性(random)的东西，越不可熟悉，其结果是它越复杂。换句话说，复杂的随机性对象有最大的复杂性，因为不可能紧缩对其对象的描述。6（二）Kolmogorov复杂性的影响和有效复杂性的提出Kolmogorov复杂性概念实际上支配了后来运算机科学上对复杂性的几乎所有的研究，以后又波及到几乎所有科学领域。例如，就是依照这种思路把复杂性程度分为三个品级：亚复杂性、临界复杂性和根本复杂性。所谓亚临界复杂性是指系统表面复杂但其实很简单，或许是算术性的。简单的物理定律，如牛顿定律能够用于取得的决定性系统；所谓临界复杂性是指在复杂性的特定阶段在它的临界值上开始出现某些结构。最简单

8、的情形是对流和对流图案形式。那个复杂度称为临界复杂性。这些系统组成一些亚系统，例如进化系统或不可逆热力学系统；所谓根本复杂性是指“只要系统有着不肯定性解或混沌解它就是根本复杂的”，7“一旦程序的大小变得与试图描述的系统能够相提并论，不能再对系统进行编程。当结构不可辨识时即当描述它的最小算法具有的信息比特数可与系统本身进行比较时我称之为根本复杂性。根本复杂性的那个概念是以的方程为基础的。”(7,依照的熟悉，根本复杂性相当于无法熟悉。根本复杂性即那些表现得完全随机性（random或stochastic）、描述结果与被描述对象能够相提并论，完全无法取得规律性熟悉，简单地说，无法辨识即根本复杂性。所以

9、，根本复杂性完全随机性。还依照复杂性程序的不同，比较了数学、一般科学理论、物理学、生物学、进化进程、科学之外系统（包括科学作为一个整体系统、哲学、美学、语言、宗教和历史）等6类知识体系的描述复杂性情形，依照他的分类，咱们看到几乎每一个熟悉体系都有自己的三类复杂性（第一类实际上是简单性）情形。固然，这种通过图灵机方式，用算法耗用资源的方式表示计算复杂性程序，给研究的难度做了一个专门好的客观的划界。可是，若是一个对象根本无法简约对对象的描述，其描述长度与组成对象的组分“程序”完全一样，乃至完全不存在一个最短描述程序P，算法复杂性给出的复杂性概念与咱们在物理学等科学上对随机性的复杂性熟悉就有所背离。

10、例如，完全随机性的全同粒子组成的气体系统，它的内部状态是无法给出程序描述的随机状态，可是它的结果却是超级简单的、肯定的，不具有复杂性特征。因此，反对复杂性等于随机性的观点也是应该考虑的。其典型的代表是盖尔曼，他提出“有效复杂性”概念。所谓“有效复杂性，大致能够用对该系统或数串的规律性的简要描述长度来表示”。(8,他以为算法复杂性不能用来概念复杂性，其原因在于算法复杂性具有不可计算性和随机性。他的根本观点是随机性不是复杂性，即有效复杂性这一概念的作用，尤其当它不是内部有效复杂性时，与进行观察的复杂适应系统可否专门好地识辨与紧缩规律并抛弃偶然性的东西有关。盖尔曼以为，假定所描述的系统根本没有规律性

11、，一个正常运作的复杂适应系统也就不能发觉什么图式，因为图式是对规律性的概述，而这里没有任何规律可言。换句话说，它的图式的长度是零，复杂适应系统将以为它所研究的系统是一堆乱七八糟的废物，其有效复杂性为零。这是完全正确的；胡说八道的语法图式其长度应该是零。虽然在具有给定长度的比特串中，随机比特串的AICI算法信息量最大，可是其有效复杂性却为零。(8,AIC标度的另一个极端情形是，当它几乎等于零时，比特串完全规则，比如全由1组成。有效复杂性一用于描述如此一个比特串的规律性的图式的长度应该超级接近于零，因为“全数为1”的消息是如此之短。因此，盖尔曼提出，要想具有专门大的有效复杂性，AIC既不能太高，也

12、不能太低。换句话说，系统既不能太有序，也不能太无序。有效复杂性是非随机性的，可是有效复杂性又不等于有序中的简单性，即完全规则的那种情形。这里的有效复杂性应该指可理解性意义上的描述长度较长的类。因为可理解性意义的描述长度很短，就相当于简单性了。而完全不可理解，意味着完全随机性。描述长度与事物本身相等，相当于对事物没有熟悉。有效复杂性必然介于这二者之间。有效复杂性如何才是能够气宇的呢？无法准确或定量的气宇，是有效复杂性的缺点之一。固然，有效复杂性一方面是对客观复杂性的有效理解与最小表达，一方面也应该是一个随人类主体熟悉能力进化而转变的变量。二、对随机性的理解这里需要对随机性概念进行辨析。研究表明，

13、咱们通常在三种“随机性”上利用随机性概念：第一，指该事物或事物之状态超级不规则，找不到任何规律来紧缩对它的描述；第二，指产生该事物的进程是纯粹偶然的或随机的进程。而该进程所产生的结果，主如果随机的，其信息不可紧缩；有时则可能得出包括必然的规律性，其信息可有必然程序的紧缩性；极少情形下能够得出超级规则的结果，其信息具有专门大紧缩性。第三，指伪随机性进程产生的貌似随机性结果，即事实上该进程是非偶然的决定论进程的，可是其结果却超级紊乱（如混沌）。为避免混淆，盖尔曼建议在英文顶用stochastic表示随机的进程，用random表示随机性的结果。本文所指的随机性是结果的随机性，即random。咱们此刻

14、能够熟悉的随机性中的规律性的东西，是第二种类和第三种类的一部份性质。即对它们的描述有能够紧缩其信息的情形。如此，所谓随机性即有两种，一种即进程随机性，一种结果或状态随机性。而真正意义的随机性是不仅其产生的结果具有随机性的特征，而且产生的进程也是随机性的进程。混沌只具有结果形态上的貌似随机性，而不具有进程的随机性。三、两类复杂性与随机性关系由以上关于复杂性的各类描述性概念的探讨，咱们能够看出，这里实际上存在着两种关于复杂性完全不同的观点。观点一，以为“复杂性”相当于随机性。随机性大小是气宇熟悉复杂性的尺度。随机性越多，复杂性越大，完全随机性的信息，则相当于最大复杂性，或根本复杂性。能够比较一下关

15、于熵的概念，系统内部混乱程度最大，系统熵最大。所以，最大复杂性就相当于最大信息熵。计算复杂性、算法复杂性中相当大的成份包括着这种涵义。像熵，Kolmogorov复杂性，和概念的根本复杂性都属于此类复杂性。我以为，此类复杂性的意义对对象本身的复杂性熟悉没成心义，可是对熟悉条件下的熟悉复杂性长度即熟悉难度却是成心义的，即这种复杂性不是关于熟悉对象的，而是关于熟悉能力（如运算机解题所需资源）的。Kolmogorov给出了一个对如何气宇计算难度有效的“复杂性”概念，可是却使得人们在熟悉客观对象的复杂性上陷入误区。观点二，以为“复杂性”不等于随机性，而是胜于随机性的、人们对事物的复杂性的有效熟悉。这两类

16、复杂性哪个更科学和准确呢？咱们需要仔细研究一下不同情形。咱们要证明复杂性不等于随机性，可是复杂性又离不开结果表现为“随机性”的状态。第一种情形，我通过“同无素的大量粒子组成的体系”的结果简单性表明，随机性不复杂。如气体体系，抵达平衡态时，体系熵达到最大。但它复杂呢？不，原因在哪里？实际上，在体系未达到平衡态时，体系内部的分子的微观态存在大量的区别，如速度散布不遵循麦克斯韦散布，这时体系就其微观态的个数多少而言，其微观态个数多，体系是复杂的；可是到了平衡态时，依照麦克斯韦速度散布，绝大多数分子的速度趋于一致，体系的不同的微观态不是增加，而是减少了。故体系进入平衡与均匀，熵趋向最大。抵达熵最大时，

17、理想条件下体系的微观态变成全同态，完全一致，没有不同的微观态了。体系因此变得简单了。现在物理学对它能够运用气体定律（实际气体用范德瓦斯气体方程）描述。从信息的程序角度看，描述语句能够写成：f(P,V,T)=C换句话说，虽然体系内部现在微观态最随机，可是微观态为全同志，无区别、无演化（体系状态不随时刻转变而转变），因此，描述能够极为简单，数据信息能够紧缩，即存在着对这种针对全同微观态的统计意义下的简单规律描述。可见，完全随机性的东西不必然复杂，或完全随机性的东西有最简单的情形。因此，把随机性等同于复杂性至少存在反例。 第二种情形，我通过“混沌”的复杂性表明它不是随机性的复杂性。混沌是一种貌似随机

18、的复杂性状态。说它貌似随机，即指它的产生不是随机性(stochastic)所为，而是肯定性体系所为。可是它的微观态具有“随机性”(random)，即混沌局域内没有两个相同的状态，这种混沌与平衡态的无序完全不同。现在，体系内部的微观态个数随演化时刻长度增加而增加，区别愈来愈大，愈来愈多，混沌的程序也随演化时刻增加，如此对混沌的全数微观态描述就是不可能的了。但是，属于复杂性态的混沌态却不能作为复杂性等于随机性的证明，因为混沌不是随机性，而是貌似随机性的东西。对此，混沌现象和规律的发觉者、美国气象学家洛伦兹作了如此的说明：“我用混沌那个术语来泛指如此的进程它们看起来是随机发生的，而实际上其行为却由精

19、准的法则决定。”9这表明混沌行为的重要属性是肯定性，而不是随机性，即对处于混沌行为状态的系统来讲，“现有状态完全或几乎完全决定未来，但却不是看上去如此”。那么，肯定性的混沌行为为何会看上去像是随机的呢？他以为，这是因为“在某些动力系统中，两个几乎一致的状态通过充分长时刻后变得毫不一致，恰如从长序列中随机选取的两个状态那样。”(9,第一种情形和第二种情形还有一个不同，那就是，产生第一种情形的办法是随机性(stochastic)的，因此对其产生进程咱们是无法描述的；可是对结果或体系最终结果或体系整个状态咱们能够用简单方式（统计方式）加以描述。而产生第二种情形的方式是肯定性的，是有其简单性（动力学）

20、方式的，对其产生进程或演化进程的一部份（在有限时刻内）咱们能够描述，可是对结果或体系最终结果或体系整个状态咱们无法加以描述。换句话说，咱们无法产生第一种情形，可是能够描述它；咱们能够产生第二种情形，可是无法描述它。这种情形使我想起突变论开创人托姆对“理解”和“行动”的精辟观点。依照托姆的观点，整个科学活动可比作一个持续进行进程，这一进程具有两极。一极代表纯粹知识：其大体目标是理解现实。另一个极涉及行动：其目标是对现实采取有效行动。传统的、目光短浅的熟悉论不同意这种两极说，因为要采取有效的行动，总必需先“理解”。相应于这两种对科学所持的相反观点，存在两种不同的方式论。“行动”说在本质上是解决局部

21、的问题，而“理解”说却试图要找到通用解（也即整体解）。明显的矛盾是，求解局部问题需要利用非局部手腕，而可理解性则要求将整表现象化为几种典型的局部情形。10上述对无序和混沌的复杂性情形的分析告知咱们，这种传统熟悉论的观点可能是错误的。因为有如此的情形，咱们对它已理解透彻，却无力对它采取任何行动。反过来，有时咱们对现实世界能采取有效行动，但对其所以有效的原因却茫然无知。几乎能够毫不夸张地说，无序的简单性和混沌的复杂性为这种情形提供了佐证。咱们能够产生和控制混沌，可是对混沌复杂性的熟悉尚未完全转化为盖尔曼意义上的有效复杂性。关于混沌类型的复杂性，咱们目前就知之甚少，咱们只了解混沌具有对初值的极端敏感

22、性，具有某种类型的吸引子（局域性），混沌具有微观结构。咱们计算的越细致，混沌也越反映出层次间的自相似性和嵌套性，它也就越复杂。咱们研究一个问题，一般先要界定清楚问题和环境。若是不能清楚地界定问题，你能拿它怎么办呢？但是，许多复杂性问题都是其内容尚未界定清楚的、而且在不断生成的问题，其环境因时刻的推移而不断转变。适应性作用只是对外界对它的回报做出反映，而用不着考虑清楚行动的意义和对行动背后的理解。复杂性问题的复杂正在于此。作用者面对的是界定不清的问题、界定不清的环境和完全不知走向的转变。只要略想片刻就会熟悉到，这就是生命的全数含义。人们常常在含糊不清的情形下做出决定，乃至自己对此都不明白。咱们是

23、在摸着石头过河，在过河中咱们不断改变自己的思想，不断拷贝他人的经验，不断尝试以往成功的经验。以气象学为例。天气从来不会是一成不变的，从不会有一模一样的天气。咱们对一周以上的气候大体上是无法事前预测的，有时12天的预报都会产生错误。但咱们却能够了解和解释各类天气现象，能够识别出像锋面、气流、高压圈等重要的气象特征。一句话，虽然咱们无法对气象做出完全的预测，但气象学却仍不失为真正的科学。11以上研究表明，第一种类型即所谓随机性的复杂性不是咱们要的复杂性，它相当于意义的亚临界复杂性（类似简单性），若是把复杂性与这种随机性联系起来，那么说复杂性等于随机性(stochastic)，则是不对的；可是若是是

24、第二种意义的复杂性则与貌似随机性的随机性(random)结果彼此关联在一路。那么的确存在随机性越大，似乎越复杂的情形。可是这里需要注意的是，信息熵在这里决不是热力学熵，另外，产生这种复杂性的原因也不是随机性。所以在说复杂性与随机性的关系时，咱们必然要辨别所说的随机性是什么随机性，是stochastic呢，仍是random。咱们是不是能够如此说，复杂性是具有random性态的东西，而不是由stochastic产生的。四、复杂性与状态随机性及其他在随机性(random)基础上成立起来的复杂性，还应该继续加以分析。咱们先暂时去掉第二种随机性(stochastic)，于是这里还存在两种random意义

25、下的随机性。第一种是超级不规则结果，从而找不到任何规律来紧缩对它的描述的随机性，另一种是貌似随机性的结果，即由非偶然的决定论进程所产生的，可是其结果却超级紊乱（如混沌）的随机性。在第一种随机性情形下，无法取得对事物的熟悉，描述长度将同事物本身一样。该事物咱们以为复杂吗，若是不复杂为何咱们无法熟悉？若是承认它不复杂，那么就需要承认除复杂性成为咱们熟悉的障碍之外，咱们熟悉的障碍还有其他。有其他障碍吗？若是承认其复杂，咱们就需要承认世界上存在完全无规则的东西，它无法熟悉。而这点与咱们关于世界是有规律的假定是矛盾的，似乎进入了不可知论。看起来，咱们只能等待熟悉进步来解决该问题。因此，我建议，在假定那个

26、世界不断演化的前提下，把对应于第一类随机性（超级不规则，而无法紧缩信息串）的复杂性称为“潜在复杂性”(potential complexity)，而把对应于第二类随机性（貌似随机性的结果，超级紊乱）的复杂性称为“有效复杂性”，以区别盖尔曼的“有效复杂性”。因为盖尔曼把对应于第一种随机性中可熟悉的复杂性称为“有效复杂性”（咱们把它称为复杂性），有效复杂性不等于咱们对该对象的熟悉达到了所有细节全数熟悉完毕，无一遗漏。而是指这种复杂性抓住了该对象的大体方面和特性，使得该对象成为科学研究的实在对象。如此在随机性(random)背景下的复杂性能够分类为如下：附图五、余论：一些未解问题随着对复杂性与随机性

27、关系的讨论深切，咱们自然会问：对随机性本身而言，它对熟悉客观复杂性就没成心义吗？此刻最大的问题是，当咱们面对一系列“貌似”随机性的东西，咱们并非清楚它在演化进程中未来会如何？第一，在更广漠的场景中和更长的时刻序列中它是真随机性，仍是伪随机性？第二，对一个有限的时刻和实践而言，此刻它显现为随机性，并非能保证它以后的演化也是随机性的。所以，咱们即便以为真随机性中不包括复杂性，咱们在有限的时刻内也不可能判定事物的后演化进程必然是非随机性的，或随机性的，从而也就无法判断其中是不是成心义，即包括有效的复杂性。另外，若是随机性中不包括有效的意义，咱们如何说它复杂呢？这里马上就有一个例子：猴子在运算机键盘上

28、随机地敲出的100万个符号组成的“文本”与莎士比亚的哈姆雷特哪个更复杂呢？依照根本复杂性最大随机性的观点，那必然是前者复杂于后者；而依照有效复杂性的观点则后者复杂于前者。在与随机性意义的关系上看，若是承认随着思想中包括第一类随机性(stochastic)越大，思想就越复杂的话，咱们就得承认疯子的胡乱思想最复杂，因为无法对他的思想加以熟悉和把握（编程，或许在疯子的思想世界里，被以为能够把握，可是这两个世界即理性世界与非理性世界无法通约，除非一个理性人疯后又恢复为理性人而且没有遗忘疯子的经历和思想），咱们也要承认谁的语言最晦涩难懂，谁的理论最复杂。若是以为非随机性的表达有效复杂性的思想才复杂，咱们

29、则可利用有效复杂性那个尺度上去气宇历史上思想家的理论的复杂性程度。事实上，咱们对思想家的思想复杂程度常以其思想深刻、细致和广度，和是不是逻辑自洽和论证充分判定的。我想，比较两个思想的复杂性程度时，能够通过是不是对相同思想和思想对象的解读更深切、更细致和更普遍，和思想体系的层次逻辑四个尺度加以把握，这四个尺度实际是：信息深度、结构层次、细致性、广度（包括问题范围性）。可见，仍是有效复杂性的实际意义更好些。可是一个没有随机性的世界，只有貌似随机性的世界虽然充满了不肯定性，可是这却不解渴，咱们那些突然的转变，咱们那些临时的改变，那些偶然性的东西也是存在的，那么它们对复杂性就没有奉献了吗？若是存在这种

30、奉献，又应该如何计量这种由偶然性或随机性产生的复杂性呢？【参考文献】1Joel ,Machine-lndependent Complexity Theory,JHandbook of Theoretical Computer Science,Edited by Leeu wen,Elsevier Science Publishers .,1990,.2 approaches to the definition of the conceptquantity of information,JProblem of Information Transmission,1(1965)1.3 On the

31、length of progams for computing finite binary sequences,J 13(1966)547.4 formal theory of inductive inference,J Control 7(1964)1,224.5Ming Li, Complexity and it Applications,JHandbook of Theoretical Computer Science,Edited by Leeuwen,Elsevier Science Publishers .,1990,.6,Complexity:Hierarchical struc

32、tures and scaling in physics,MCambridge university Press,1997,.7,Chaos and Order,The Complex Structure of Living Systems,M,VCH,New York,1993,.中译本已由柯志阳、吴彤译出，上海科技教育出版社2000年出版。8Murray Gell-Mann,The Quark and the Jaguar,adventures inthe simple and the complex, & Co.,New York,1994,；中译本：美盖尔曼夸克和美洲豹简单性和复杂性的奇遇.M长沙：湖南科学技术出版社，1998，第47页。9美.洛伦兹著，刘式达等译，混沌的本质，M北京：气象出版社，1997.第3页。10法勒内托姆.突变论：思想和应用，M.上海：上海译文出