正则化和反问题.docx

正则化和反问题.docx

《正则化和反问题.docx》由会员分享，可在线阅读，更多相关《正则化和反问题.docx（13页珍藏版）》请在冰豆网上搜索。

正则化和反问题

正则化和反问题

正则化（regularization）在线性代数理论中，不适定问题通常是由一组线性代数方程定义的，而且这组方程组通常来源于有着很大的条件数的不适定反问题。

大条件数意味着舍入误差或其它误差会严重地影响问题的结果。

反问题有两种形式。

最普遍的形式是已知系统和输出求输入，另一种系统未知的情况通常也被视为反问题。

许多反问题很难被解决，但是其他反问题却很容易得到答案。

显然，易于解决的问题不会比很难解决的问题更能引起人们的兴趣，我们直接解决它们就可以了。

那些很难被解决的问题则被称为不适定的。

一个不适定问题通常是病态的，并且不论是简单地还是复杂地改变问题本身的形式都不会显著地改善病态问题。

另一方面，病态问题不一定是不适定的，因为通过改变问题的形式往往可以改善病态问题。

在严格的数学意义上，我们通常不可能对不适定问题进行求解并得到准确解答。

然而，通过使用我们的先验知识，我们通常有希望能够得到一个接近准确解答的答案。

求解不适定问题的普遍方法是：

用一族与原不适定问题相"邻近"的适定问题的解去逼近原问题的解,这种方法称为正则化方法。

如何建立有效的正则化方法是反问题领域中不适定问题研究的重要内容。

通常的正则化方法有基于变分原理的Tikhonov正则化、各种迭代方法以及其它的一些改进方法,这些方法都是求解不适定问题的有效方法,在各类反问题的研究中被广泛采用,并得到深入研究。

正则化：

Normalization，代数几何中的一个概念。

通俗来说，就是给平面不可约代数曲线以某种形式的全纯参数表示。

即对于PC^2中的不可约代数曲线C，寻找一个紧Riemann面C*和一个全纯映射σ：

C*→PC^2,使得σ（C*）=C

严格的定义如下：

设C是不可约平面代数曲线，S是C的奇点的集合。

如果存在紧Riemann面C*及全纯映射σ：

C*→PC^2,使得

（1）σ（C*）=C

（2）σ^（-1）（S）是有限点集（3）σ：

C*\σ^（-1）（S）→C\S是一对一的映射

则称（C*,σ）为C的正则化。

不至于混淆的时候，也可以称C*为C的正则化。

正则化的做法，实际上是在不可约平面代数曲线的奇点处，把具有不同切线的曲线分支分开，从而消除这种奇异性。

反问题简介

顾名思义，反问题是相对于正问题而言的。

以前面所举的"盲人听鼓"反问题为例，它的正问题就是要在已知鼓的形状的条件下，研究其发声规律，这在数学物理历史上已经研究在先，而且比较成熟。

此时鼓的所有谱都能通过一套算法利用计算机算出来。

如何区分某个问题的"正""反"?

这并没有一个严格的标准，但是我们可以粗略地这样理解：

世间的事物或现象之间往往存在着一定的自然顺序，如时间顺序、空间顺序、因果顺序，等等。

所谓正问题，一般是按着这种自然顺序来研究事物的演化过程或分布形态，起着由因推果的作用。

反问题则是根据事物的演化结果，由可观测的现象来探求事物的内部规律或所受的外部影响，由表及里，索隐探秘，起着倒果求因的作用。

可以看出，正、反两方面都是科学研究的重要内容。

尽管一些经典反问题的研究可以追溯很早，反问题这一学科的兴起却是近几十年来的事情。

在科学研究中经常要通过间接观测来探求位于不可达、不可触之处的物质的变化规律；生产中经常要根据特定的功能对产品进行设计，或按照某种目的对流程进行控制。

这些都可以提出为某种形式的反问题。

可见，反问题的产生是科学研究不断深化和工程技术迅猛发展的结果，而计算技术的革命又为它提供了重要的物质基础。

现在，反问题的研究已经遍及现代化生产、生活、研究的各个领域。

简单的概括不足以说明问题，我们下面具体介绍一些常见的反问题类型，希望大家能够对它有一个概括的了解

定向设计

工业生产离不开产品设计，如何设计出优质产品使之更好地实现其功能，是关系到厂家信誉和企业生存的大问题。

在这方面，从事反问题研究的数学家可以为企业家出谋划策。

事实上，最早的反问题研究就是起源于定向设计问题。

我们知道，单摆的等时性只是在小角度的假设下才近似成立。

能不能找到一种特殊轨线的摆，使它严格满足等时性?

Huygens于1673年提出并解决了这一问题，这种特殊的轨线就是旋轮线，它的方程为

到了十九世纪，挪威数学家Abel将Huygens的问题推广为：

测出了物体从不同高处落下的时间，如何反求物体下落的轨道?

他于1823年给出了问题的解答。

当代工业产品的极大丰富为反问题的研究提供了广阔的用武之地，许多工业设计问题是相当困难的，需要用到高深的数学手段。

例如，国外的光学仪器厂家提出：

能否设计一种光栅，利用其非线性衍射效应产生出高能量的单色光射线?

这就是一个定向设计问题，它要求数学家利用推导和计算手段构造出所需要的曲面（光栅）形状。

定向设计不限于产品，它的应用相当广泛。

比如说：

一个城市的某条街道车流量很大，不堪负荷，怎样通过铺设新的路段来进行分流?

在军事行动中如何对不同种类的炮火进行分布以达到特定的轰炸效果?

这类问题往往涉及各种事物的组合、分配、布局，要求在各种相互制约、相互影响的因素中寻找出最佳方案，为领导的决策提供依据。

物性探测

给你一只管子，不允许直接进入内部测量，你能算出里面的形状吗?

如果管子是轴对称的，这时只需要知道内部的截面半径就可以了。

美国贝尔电话实验室的Sondhi和Gophinath提供了一个方法：

在管子的一边发出声音，用仪器测量管口的位移速度和压力。

通过测量结果就可以推知管内的截面半径。

理论计算与实验结果吻合得很好。

不要小看了这个例子，它实际上暗示了许多不能直接测量的物性探测问题可以通过类似的间接方法来解决。

我们通常说"上天入地"都是很困难的事情，可是在一些情况下似乎必须"入地"才能解决问题，比如说石油勘探。

石油通常埋在几千米的地下，无法直接观察油田的位置和储量，靠试打井的办法来探测不但费用昂贵（一口井的代价要上千万元），而且效率极低（只能探测到井附近的局部信息）。

一个可行的办法是通过地面爆炸向地下发射地震波，同时接收地层的反射波信号。

可以想象，地面接收到的反射信号中含有地下的物性结构信息（地层的密度、声速等等），利用数学手段将这些信息提取出来，就可以对地下的油储及其分布作出科学的判断。

这很象在夏天人们挑西瓜，把瓜放在耳边拍一拍，有经验的人就知道瓜瓤熟不熟，不需要切开来看，不会破坏西瓜的完整。

类似的探测方法可以应用于许多方面，如：

农用土壤分析、地下水勘查，甚至于在考古发现上也有应用。

位于三峡库区的四川省云阳县故陵镇有一个大土包，相传为楚国古墓，但是历经三千余年的变迁，已经难以确认了。

科技工作者在地表利用地震波法、高精度磁法、电场岩性探测和地化方法四种手段进行探测，不但确认了古墓的存在，而且得到了关于古墓的埋藏深度、形状、大小甚至墓道的准确信息，为抢救和保护文物作出了贡献。

扫描成像

在前面讲到的Abel反问题中，如果把下落的物体用扫描射线替代，从另一个角度来看它为我们提供了从射线的走时响应反推其传播轨迹的方法，将不同轨迹射线的反演结果组合起来就能得到传播介质的内部形态信息。

本世纪初，Hebglotz和Wiechebt应用Abel型反演方法解决了在一定对称条件下通过地震波的走时曲线来反推地层内部形貌的方法。

据此Mohobovic（1909年）发现了地壳与地幔之间的断层。

现在，利用地震波的接收信号通过成像来考察地层地貌形态已经成为地球物理勘探最为重要的手段。

例如，通过走时成像，可以得到地震波在不同深度的传播速度；而在已知速度的前提下，利用声波方程或其单程波方程偏移成像方法，又可以得到反射界面的位置和形状。

成像的另一个重要应用是医学上的计算机层析成像（CT），这是X光射线自Roentgen发明（获1900年诺贝尔奖）以来在医疗诊断上的重大进展，其发明人Hounsfield和Cormack因此获得了1979年的诺贝尔医学奖。

CT技术是医学、电子技术、计算机技术和反演数学相结合的产物，它利用计算机来对穿越人体的X射线信号进行处理，来重建体内的结构信息，生成透视图象供医疗诊断参考，其核心算法的数学基础是二维Radon变换。

继之而起的是基于三维Radon变换的核磁共振成像，在诊断效果和无伤害性方面更为优越。

事实上，类似的方法也可以借助于声波、光波、电磁波在无损探伤、雷达侦察、射电望远镜探测、环境监测等多方面有广泛应用。

逆时反演及其它

在科学研究中，我们经常遇到这样的问题：

知道了某个事物的现在状态，希望了解它的过去，即通常所说的"恢复历史的本来面目。

"这往往可以提为逆时反问题。

当然，反问题研究不是历史学，它所研究的对象一般要满足某种类型的演化方程或数学模式。

例如，通过远程测得的某次爆炸产生的辐射波，如何确定爆炸的位置和初始能量?

这是波动方程的逆时反问题；又如，根据近来的温度变化能否确定过去某个时间的温度状态?

这就成为热传导方程的逆时反问题。

前面介绍了反问题的几种类型，它们在研究和应用上经常是相互联系的，分门别类只是为了叙述方便。

另外，反问题与其它数学学科之间并没有一个严格的界限，而是互为补充，互相促进。

反问题的研究起源于数理方程，其反演算法中包含了微分方程数值解法、最优化方法和概率统计等方面的许多思想和技巧。

另一方面，反问题的研究也促进了人们对世界的认识，使得研究更全面、深化。

一个著名的例子是反散射方法在孤立子发现中的作用：

反散射问题是量子物理学研究中的一个问题，通过谱和谱函数在无穷远处的散射性态反推一维Schordinger方程的位势函数。

它由前苏联数学家Gelfand和Levitan（1955年）一举解决。

在此基础上引发了一系列突破性进展，最为著名的是利用这个结果Lax（1968年）得到了关于KDV方程的巧妙解法，从而发现了非线性方程中的孤立子现象。

这是近代非线性科学研究的重要事件。

反问题研究的难点及对策

与正问题相比，反问题的研究起步较晚，发展还远不成熟。

从本质上来说，反问题的研究的难度一般比相应的正问题要大。

这是因为反问题的求解往往违背了物理过程的自然顺序，从而使正问题中的许多良好性质不再满足。

这种现象在许多学科的研究中都是普遍存在的。

比如说：

曹雪芹创作了古典名著《红楼梦》，这是人所共知的，但是要从现存的史料和文物"碎片"来恢复这位伟大作家的人生经历和创作历程则是一件万分艰辛的事情，更何况这些"碎片"信息真伪交杂，且时有含混。

反问题的研究也经常遇到类似的困难，这些困难体现在：

1.存在性：

我们要求的反问题的解很可能不存在！

无解的原因多种多样，可能是在定向设计中问题的提法不合理，也可能是探测时接收到的响应中含有假信息（噪音），将求解引入歧途。

2.唯一性：

有的反问题的解虽然存在，却不唯一，有几个甚至无穷多个。

这是因为收集到的信息不够，不足以确定解的性态。

对大多数反问题（比如探测问题）来说，真正的解只有一个，这就要从许多解当中进行挑选，去伪存真，颇费周折。

3.稳定性：

利用计算手段，由接收信息来反演物质的结构和特性是反问题研究的重要内容。

可是实际的接收响应中不可避免地含有噪音，计算过程也有累积误差。

这种微小的误差会不会导致反演结果面目全非?

研究表明，相当多的反问题正是具有这样的病态性质！

热传导方程的逆时反问题就是一个例子。

热力学第二定律告诉我们，热传导是一个不可逆过程，它的反问题求解是高度病态的。

为了解决温度的逆时反演，就不得不冒这种"差之毫厘，谬以千里"的危险。

存在性、唯一性和稳定性，三者之一不满足就称为不适定性问题。

用传统的眼光来看，这样的问题是不值得研究的。

正是反问题的研究开阔了人们的视野，认识到这样的问题是大量存在的，而且有着重要的研究和应用价值。

如果一个问题的解不存在、不唯一、不稳定，那么求解得到的结果可信吗?

这是反演工作者必须面对的问题。

解决的办法是有的！

奠基性工作是由前苏联Tikonov等学者提出的解决线性不适定问题的正则化方法。

方法的主要思想是：

利用对解和数据误差的先验估计可以将问题的求解限定在某个较小范围内，对问题的提法进行适当的改造后，原本不适定的问题就可以转化为适定的最优化问题求解，而且先验估计表明在一定精度下用正则化方法求得的解是合理的。

这比如猜谜：

"后，打一人名"，无从猜起。

如果限定"打《红楼梦》中一人名"，范围缩小了，可以用书中601个人物（有的书中没有交代姓名）逐一比较，最后选出最优的答案-"王夫人"。

充分利用各种合理的先验信息对问题作适当形式的转换，是反问题求解的重要方法，在实际生产中经常要用到。

拿地震波勘探为例，限于技术原因，地面接收的信号噪音很大，信息残缺不全，完全的反演是很困难的。

为了满足生产的要求，必须尽最大可能恢复出地下的结构形态。

这时，多种反演方法并用是一个可行的办法；如果在目的地有一口油井，那么可以把井下的信息作为局部约束来校正反演结果；为了计算的稳定性还必须使用一些特殊的数学技巧。

这样得到的反演结果与资料解释人员的经验结合起来，可以对油田的决策与发展提供参考依据。

除了前面提到的不适定性以外，反问题的研究与应用还经常面临非线性的困扰。

即使正问题是线性的，它的反问题也往往表现为非线性，这为反演的研究和计算带来了很多麻烦。

为了求解非线性反问题，通常要线性化后反复进行正、反演迭代，在高维情况下将导致十分巨大的计算量。

我们知道，一个效率低下的算法在生产应用中将导致时间和人力、物力的极大浪费。

所以反问题的计算效率也是一个非常重要的课题。

它要求计算数学工作者从实际应用出发，充分研究问题的性质和特点，构造出精巧、快速的算法以适应生产的需要。

反演问题有着特殊的困难，它向我们提出了许多在认识论、方法论中富有挑战性的课题，深化了对客观现象的理解。

反问题的研究确有它独立的价值。

发展和展望

反问题研究的兴起不过是近几十年的事情，它主要的研究对象是涉及与探测、识别和设计有关的应用问题。

实际生产的迫切需求是推动这一学科迅速发展的原动力。

1987年，以"反问题、反演方法和数据反演计算"为主要内容的专题杂志InverseProblems创刊，标志着反问题的研究走向独立和成熟。

世界上每年都举行各种形式的反问题研讨会，得到了数学、物理、工程技术等多方面专家的响应。

需要指出的是，在国外对反问题研究的资助不仅来自于科研和工业部门，还得到了国防部门的有力支持。

我国的反问题研究自八十年代初由冯康先生首倡，在实际问题的推动下，先后在中国科学院、哈尔滨工业大学、山东大学、中山大学、南京大学以及石油等工业部门多家单位取得相当数量的理论和实际应用成果。

近四十年来计算技术的飞速发展大大增强了数学工作者在自然科学、社会科学和工程技术等广阔领域的参与能力，反问题正是在这样的背景下应运而生的交叉性学科。

它的生命力源于实际应用的迫切需求和反演工作者卓有成效的工作。

反问题的出现为传统数理方程的研究开辟了新的疆域，也为数学家参与实际生活提供了新的切入点。

应该看到，反问题的开展程度与工业和国防的现代化、科学技术在产品中的含量有着密切的关系。

我们期待着这一新兴学科在国内能够健康地发展起来，为国家的经济建设作出它应有的贡献。

发展状况

近二十年来,数学物理反问题已成为应用数学中发展和成长最快的领域之一。

之所以如此,在很大程度上是受其它学科与众多工程技术领域的应用中产生的迫切需要所驱动；同时,由于它在理论上又具有鲜明的新颖性和挑战性，所以引起了国内外许多学者和实际工作者从事研究和应用。

迄今,它已发展成为具有交叉性的计算数学、应用数学和系统科学中的一个热门学科方向。

分类

数学物理反问题的研究可分为研究和实际应用两个方面，地质工程、医学、军事、环境、遥测、控制、通讯、气象、经济等领域着重实际的应用；而数学研究着重研究问题的理论和方法。

数学物理反问题是和数学物理正问题相对应的，我们称一个先前研究的相对充分或完备的问题为正问题，它描述的是时空域中顺时针的物理变化过程，一般是按某物理规律由因而果，由过去、现在来预测未来；而反问题描述的是时空域逆时针的物理变化过程，由果探求因。

反问题又和问题的不适定性紧密联系在一起的，由于不适定问题大量的普遍存在，必然要求寻求合适的特殊的方法处理才能得到稳定的近似解各种反问题不胜枚举，从实际应用角度来看，可以概括的说，有两种不同的动机驱动着反问题的研究：

（1）.想了解物理过程过去的状态或辩识其参数（以便为预测的目的服务）；

（2）.想了解如何通过干预当前的状态或调整某些参数去影响（或控制）该系统,以便使其在未来达到人们所预期的状态。

因此我们可以这么说,反问题就是要定量的探求：

在已观察到的效果（表现）的背后的动因究竟是什么?

以及对于期望达到的效果而言,应当预先施加何种措施或控制?

求解方法

求解数学物理反问题所面临的两个本质性的实际问题是：

（1）原始数据可能不属于所论问题精确解所对应的数据集合，因而在经典意义下的近似解可能不存在；

（2）近似解的不稳定性，即原始数据小的误差会导致近似解与真解的严重偏离。

总之，反问题常常是不适定的，是和不适定性紧密联系在一起的，若不采用特殊的方法求解，将得不到合理的答案。

一般地，反问题都是非线性的和不适定的，因而比求解正问题更困难。

应用领域

在遥测和勘探技术中提出了大量的反问题。

例如，在地球物理勘探中，通过地震波的测量来判断地球内部的结构或地下矿藏的位置；在无损探伤中,用红外线扫描来探测固体材料中的缺陷；通过测量地面上的牛顿引力势来推断地下金属矿藏的位置、形状和密度；利用X光分层扫描构像来作医学诊断等等，都是在研究对象不能达到或直接接触的情况下，利用特定的物理手段来取得有关解的某些信息，而化为数学上的反问题来处理的。

工程技术中的定向设计及系统识别等方面的问题，都属于反问题的范畴。

在量子物理中，利用散射资料来反推位势的反散射问题，也是一类有重要意义的反问题。

反问题的提法多种多样，且往往在经典的意义下是不适定的。

为了求解各种不同形式的反问题，人们已经提出了一些有效的方法，如拉东变换、反散射方法、最优设计方法以及各种正则化方法等，但是还有很多问题有待进一步的研究。

近二十年来,数学物理反问题已成为应用数学中发展和成长最快的领域之一。

之所以如此,在很大程度上是受其它学科与众多工程技术领域的应用中产生的迫切需要所驱动；同时,由于它在理论上又具有鲜明的新颖性和挑战性，所以引起了国内外许多学者和实际工作者从事研究和应用。

迄今,它已发展成为具有交叉性的计算数学、应用数学和系统科学中的一个热门学科方向。

数学物理反问题的研究可分为研究和实际应用两个方面，地质工程、医学、军事、环境、遥测、控制、通讯、气象、经济等领域着重实际的应用；而数学研究着重研究问题的理论和方法。

数学物理反问题是和数学物理正问题相对应的，我们称一个先前研究的相对充分或完备的问题为正问题，它描述的是时空域中顺时针的物理变化过程，一般是按某物理规律由因而果，由过去、现在来预测未来；而反问题描述的是时空域逆时针的物理变化过程，由果探求因。

反问题又和问题的不适定性紧密联系在一起的，由于不适定问题大量的普遍存在，必然要求寻求合适的特殊的方法处理才能得到稳定的近似解各种反问题不胜枚举，从实际应用角度来看，可以概括的说，有两种不同的动机驱动着反问题的研究：

（1）.想了解物理过程过去的状态或辩识其参数（以便为预测的目的服务）；

（2）.想了解如何通过干预当前的状态或调整某些参数去影响（或控制）该系统,以便使其在未来达到人们所预期的状态。

因此我们可以这么说,反问题就是要定量的探求：

在已观察到的效果（表现）的背后的动因究竟是什么?

以及对于期望达到的效果而言,应当预先施加何种措施或控制?

求解数学物理反问题所面临的两个本质性的实际问题是：

（1）原始数据可能不属于所论问题精确解所对应的数据集合，因而在经典意义下的近似解可能不存在；

（2）近似解的不稳定性，即原始数据小的误差会导致近似解与真解的严重偏离。

总之，反问题常常是不适定的，是和不适定性紧密联系在一起的，若不采用特殊的方法求解，将得不到合理的答案。

一般地，反问题都是非线性的和不适定的，因而比求解正问题更困难。

目前，欧洲和美国对反问题的研究比较投入，分别建立了网站。

比较著名的月刊有

1.InverseProblems；

2.Inverseproblemsinengineering；

inverseandill-posedproblems.

反问题的书

Inverseproblemsforpartialdifferentialequations.springerInverseacousticandelectromyneticscatteringtheory.springer

因有关积分方程的知识在反问题研究上有许多应用所以还想能得到下面的书

Linearintegral

下面再介绍几本反问题的书

Integralequationmethodsinscattering,R.Kress.

Anintroductiontothemathematicaltheoryofinverseproblems.SpringerElementsofthetheoryofinverse,TheNetherlands,1999.

Introductiontothetheoryoftheinverse

另外推荐科学出版社，肖庭延，于慎根，王彦飞著的《反问题的数值解法》。

该书新东西不多，不过作为启蒙书，可以看看，主要谈的是正则方法。

本书系统介绍了数学物理反问题求解的正则化方法，主要包括适定与不适定问题的基本概念：

反问题、不适定性及其与第一类算子方程的联系，基于算子广义逆理论的各种推广，几种提高正则解精度和计算效率的迭代正则化方法、离散正则化方法，各种正则化算法的数值实现，带有工程、物理与经济应用背景有启发性的实例，在附录中给出了最近的国内外研究成果和示范性MALAB语言源程序。

本书适合于数学专业科研人员、大学教师使用，亦可供从事科学和工程领域中反问题数值计算方法研究的科研人员，高等院校的教师、研究生和高年级大学生参考。

什么是反问题?

对反问题的回答没有一个明确的描述，就象对分形的描述。

我的理解：

我们所碰到的问题一般是由因索果，这是正问题（forward,directproblems）。

比如求解方程（从小学到大学的课程都是如此），要求给出已知条件（出现在方程中的未知系数，初始条件以及边界条件等），这样才可以求解；反过来，我们在由果索因，即已知其解，反求方程中的未知量，即确定方程中的未知系数，初始条件以及边界条件等,这就是反问题（inverseproblems）。

其应用比如无损检测，雷达探测（隐形飞机的识别就是要得到其阻抗），声呐探测，石油资源地下矿藏的探测等，

一般地，反问题都是非线性的和不适定的，因而比求解正问题更困难。

数学物理反问题是和数学物理正问题相对应的，我们称一个先前研究的相对充分或完备的问题为正问题，它描述的是时空域中顺时针的物理变化过程，一般是按某物理规律由因而果，由过去、现在来预测未来；而反问题描述的是时空域逆时针的物理变化过程，由果探求因。

反问题又和问题的不适定性紧密联系在一起的，由于不适定问题大量的普遍存在，必然要求寻求合适的特殊的方法处理才能得到稳定的近似解。

数学物理反问题的研究可分为研究和实际应用两个方面，地质工程、医学、军事、环境、遥测、控制、通讯、气象、经济等领域着重实际的应用；而数学研究着重研究问题的理论和方法。

书名：

动力学逆问题

作者：

梅凤翔

出版社：

国防工业出版社

出版时间：

2009-5-1ISBN：

61994

开本：

16开

定价：

42.00元

内容简介

本书全面系统地论述有限自由度力学系统的动力学逆问题，包括动力学逆问题的基本提法和解法，分析动力学中的逆问题，运动控制理论中的逆问题，刚体动力学中的逆问题，变质量动力学中的逆问题，非完整动力学中的逆问题，Birkhoff系统动力学逆问题，广义Birkhoff系统动力学逆问题以及其他动力学逆问题等。

本书可供力学、数学、物理学工作者和相关工程技术人员参考。

第1章动力学逆问题的基本提法和解法

1.1质点动力学第一类问题