Turbo码给我们的启示.docx
《Turbo码给我们的启示.docx》由会员分享，可在线阅读，更多相关《Turbo码给我们的启示.docx（30页珍藏版）》请在冰豆网上搜索。
Turbo码给我们的启示
Turbo码给我们的启示
冀复生
今天Turbo码在通信界已经几乎无人不晓。
用Google搜索“Turbocode”可以得到800多万结果。
在未来的第三代移动通信中，它很可能成为编码方案的标准之一（即使不采用它，新的方案也很可能是受其启发，基于与它相似的思路而产生的类似方案），但是Turbo码诞生过程却有一段引人入胜的故事。
1993年在日内瓦召开的IEEE通信国际会议上，两位当时名不见经传的法国电机工程师克劳德.伯劳和阿雷恩.格莱维欧克斯声称他们发明了一种编码方法，可以使信道编码效率接近香农极限。
这一消息太“轰动”了，以致多数权威认为一定是计算或实验有什么错误。
许多专家甚至懒得去读完这篇论文。
在数字通信领域，编码效率一直是关注的焦点。
根据现代信息论的奠基人香农提出的为科学界公认的理论，在一个存在噪声的信道里，可以可靠地传输的最大速率是
C=Wlog2（1+P/N）
其中：
C是信道内可以可靠传输的最高码率（以比特/秒为单位），称之为信道容量；
W是信道带宽（以赫兹或1/秒为单位）；
P/N是信道的信噪比（即信号功率与噪声功率之比）。
按照这一理论，要想在一个带宽确定而存在噪声的信道里可靠地传送信号，无非有两种途径：
加大信噪比或在信号编码中加入附加的纠错码。
用生活中的例子类比，就好像在一个嘈杂的啤酒馆里要让侍者听到你的要求，你就得提高嗓门（信噪比），反复吆喝（附加的冗余信号）。
多年来人们都在试图接近香农提出的码率极限，然而在这两位法国老兄以前，最好的结果所消耗的功率和香农定理比较还有3.5分贝的差距。
就是说比按照香农定律计算得到的所需功率数值高一倍多。
香农曾经指出，要提高信号编码效率达到信道容量，就要使编码的分段（所谓“编码词”的长度）尽可能加长而且使信息的编码尽可能随机。
但是，这带来的困难是计算机科学里经常碰到的“计算复杂性”问题。
为了使编码接近香农理论，也许需要使编码词长度为1000比特。
相应的计算量为21000，即约为10301。
为了理解这个数字有多大，只需要指出人类目前所能探索到的宇宙范围里所有原子的总数也只有1080而已。
因此在过去的几十年里尽管各种复杂的编码方案不断涌现，3.5分贝的距离好像被无比高耸的计算复杂性之墙阻挡而变得不可逾越。
多年来，编码成为数学家的禁脔。
编码专家提出种种方案，试图在可接受的计算复杂性条件下设计编码和算法，以提高效率。
但我们的这两位法国老兄的数学功底也许并不怎么样，他们没有试图从数学上找突破口，因此他们的论文在会上被怀疑甚至忽略就不足为奇了。
在这些专家看来他们根本不是“圈内”的人。
用北京土话说就是“棒槌”。
凭着电机工程师的经验，他们发现在电子学中经常用到的反馈概念似乎被数学家们忽略了。
也许反馈能够使我们绕过计算复杂性问题。
于是他们就设计了一套新的办法。
首先他们摈弃了“纯粹”的数字化概念。
在典型的数字化方法中，总是先把某一电平设定为阈值。
信号电平高于这一阈值就判决为“1”，低于就判决为“0”。
在Turbo码解码过程中，某一特定比特的电平被量化为整数，例如从-127到+127。
其数值就作为判决该比特为“1”或“0”的可置信度的度量（例如-110意味该比特非常非常可能是“0”，而+40意味该比特也许是“1”但把握不大）。
其次，与其他系统不同，Turbo码系统在发射端和接收端分别设置两个编码器和解码器。
其中一对编解码器对特定的一段比特流进行奇偶校验码的加入和校验计算，另一对编解码器则在同一段码流经过交织扰动后对其进行上述同样操作。
由于这两段码流包含同样的数据，如果没有信道噪声，解码结果应该一致。
但在噪声干扰下两组结果会产生差别。
通过上述对比特判决的可置信度信息的帮助，把这两组结果彼此参照，可以得出第一次近似的结果。
把这一结果“反馈”到解码器前端，再进行迭代，经过几次迭代两个解码器的结果就会互相接近（收敛）。
这样就绕过了计算复杂性问题。
当然这样做也得付出代价。
由于迭代解码，必然会产生时延。
所以对于实时性要求很高的场合，Turbo码直接应用会受到限制。
使那些编码专家“跌破眼镜”的是，其他小组对这两位法国老兄论文重复检验的结果验证了他们方案的正确性。
现在人们谈论的已经是和香农极限相差0.1分贝还是0.01分贝。
这就解决了在信道信噪比很差条件下获得高效率数字通信的难题。
因此这一方案受到了从从事深空探测到开发第三代移动通信的各方面工程界人士的重视，很有可能阁下的下一个手机里就会装有一个Turbo码模块，让我们拭目以待吧。
（编译自《IEEESpectrum》2004年3月号》）
（转载自《计算机教育》2004年第7期，本刊增加了原文全文中英文对照）
编译者按：
在技术发展史上许多突破性进展是出自名不见经传的“小人物”。
他们不顾当时科学权威认定的种种“极限”（甚至也许就不知道这些极限）另辟蹊径，从而突破了理论壁垒。
克劳德.伯劳和阿雷恩.格莱维欧克斯发明Turbo码就是新的典型案例。
如果他们也像当时许多具有坚实数学基础的编码专家那样，从计算复杂性入手，恐怕永远也走不出迷宫。
不能由此得出理论无用的结论，因为他们的工作是基于香农的理论；也不能以为侥幸可以代替艰苦的探索，他们的工作是长期工程实践的结晶。
然而，Turbo码的产生过程使我们对创新有了更为深刻地了解。
如果我们从事的研究都必须是当时科学家认可的项目，类似Turbo码这样的创新就不可能产生。
如果一切研究都要经过审批才能立项，那创新就死定了。
什么都靠计划、规划许多伟大的科学家和发明家就不可能产生，因为科技史上的革命性突破很多是事先没有规划或计划到的。
不是说规划和计划不重要，问题是规划、计划什么，是环境政策为主还是项目为主。
这实在值得为政者三思。
附：
《Closinginontheperfectcode》中英文对照
Closinginontheperfectcode
接近完美的编码
Turbocodes,whichletengineerspumpfarmoreerror-freedatathroughachannel,willbethekeytothenextgenerationofmultimediacellphones
Turbo码使工程师可以在一个信道里传输多得多的无误码数据，从而将成为下一代多媒体移动通信的关键
ByEricoGuizzo
It'snotoftenintherarefiedworldoftechnologicalresearchthatanesotericpaperisgreetedwithscoffing.It'sevenrarerthatthepaperprovesintheendtobetrulyrevolutionary.
Ithappenedadecadeagoatthe1993IEEEInternationalConferenceonCommunicationsinGeneva,Switzerland.TwoFrenchelectricalengineers,ClaudeBerrouandAlainGlavieux,madeaflabbergastingclaim:
theyhadinventedadigitalcodingschemethatcouldprovidevirtuallyerror-freecommunicationsatdataratesandtransmitting-powerefficiencieswellbeyondwhatmostexpertsthoughtpossible.
在超尘脱俗的技术研究领域，一篇深奥的论文通常很少受到嘲笑。
更为罕见的是这篇论文后来竟又被证明是革命性的。
而这恰恰发生在十年以前，1993年在瑞士日内瓦举行的IEEE国际通信学会。
会上两位法国电机工程师克劳德.伯劳和阿雷恩.格莱维欧克斯声称他们发明了一种数字编解码方案，可以实现事实上无误码而码率与发射功率效率超出所有专家预期的传输。
Turbo码的发明人克劳德.伯劳（左）和阿雷恩.格莱维欧克斯，这两位法国人都是位于布莱斯特的布列塔尼国立高等电信学校的教授。
他们解决了困扰通信界近40年的一个难题。
FRENCHCONNECTION:
TurbocodesinventorsClaudeBerrou[left]andAlainGlavieux,bothprofessorsattheEcoleNationaleSupérieuredesTélécommunicationsdeBretagneinBrest,France,solvedacommunicationspuzzlethathadlastedformorethan40years.
Thescheme,theauthorsclaimed,coulddoubledatathroughputforagiventransmittingpoweror,alternatively,achieveaspecifiedcommunicationsdataratewithhalfthetransmittingenergy—atremendousgainthatwouldbeworthafortunetocommunicationscompanies.
Fewveterancommunicationsengineersbelievedtheresults.TheFrenchmen,bothprofessorsintheelectronicsdepartmentattheEcoleNationaleSupérieuredesTélécommunicationsdeBretagneinBrest,France,werethenunknownintheinformation-theorycommunity.Theymusthavegoneastrayintheircalculations,somereasoned.Theclaimsweresopreposterousthatmanyexpertsdidn'tevenbothertoreadthepaper.
Unbelievableasitseemed,itsoonprovedtrue,asotherresearchersbegantoreplicatetheresults.Codingexpertsthenrealizedthesignificanceofthatwork.BerrouandGlavieuxwereright,andtheirerror-correctioncodingscheme,whichhassincebeendubbedturbocodes,hasrevolutionizederror-correctioncoding.Chancesarefairlygoodthatthenextcellphoneyoubuywillhavethembuiltin.
Fromanichetechnologyfirstappliedmainlyinsatellitelinksandinatleastonedeep-spacecommunicationssystem,turbocodesareabouttogomainstream.Astheyareincorporatedintothenext-generationmobiletelephonesystem,millionsofpeoplewillsoonhavethemliterallyintheirhands.Thiscodingschemewillletcellphonesandotherportabledeviceshandlemultimediadatasuchasvideoandgraphics-richimageryoverthenoisychannelstypicalofcellularcommunications.Andresearchersarestudyingtheuseofturbocodesfordigitalaudioandvideobroadcasting,aswellasforincreasingdataspeedsinenhancedversionsofWi-Finetworks.
Withpossibilitieslikethese,turbocodeshavejumpedtotheforefrontofcommunicationsresearch,withhundredsofgroupsworkingonthemincompaniesanduniversitiesallovertheworld.ThelistincludestelecommunicationsgiantslikeFranceTélécomandNTTDoCoMo;high-techheavyweightslikeSony,NEC,Lucent,Samsung,Ericsson,Nokia,Motorola,andQualcomm;hardwareandchipmanufacturerslikeBroadcom,Conexant,ComtechAHA,andSTMicroelectronics;andstart-upslikeTurboconceptandiCoding.
Turbocodesdoasimplebutincrediblething:
theyletengineersdesignsystemsthatcomeextremelyclosetotheso-calledchannelcapacity—theabsolutemaximumcapacity,inbitspersecond,ofacommunicationschannelforagivenpowerlevelatthetransmitter.ThisthresholdforreliablecommunicationswasdiscoveredbythefamedClaudeShannon,thebrilliantelectricalengineerandmathematicianwhoworkedatBellTelephoneLaboratoriesinMurrayHill,N.J.,andisrenownedasthefatherofinformationtheory[seesidebar,"Shannon:
CrackingtheChannel"].
Inalandmark1948paper,Shannon,whodiedin2001,showedthatwiththerighterror-correctioncodes,datacouldbetransmittedatspeedsuptothechannelcapacity,virtuallyfreefromerrors,andwithsurprisinglylowtransmittingpower.BeforeShannon'swork,engineersthoughtthattoreducecommunicationserrors,itwasnecessarytoincreasetransmissionpowerortosendthesamemessagerepeatedly—muchaswhen,inacrowdedpub,youhavetoshoutforabeerseveraltimes.
Shannonbasicallyshoweditwasn'tnecessarytowastesomuchenergyandtimeifyouhadtherightcodingschemes.Afterhisdiscovery,thefieldofcodingtheorythrived,andresearchersdevelopedfairlygoodcodes.Butstill,beforeturbocodes,eventhebestcodesusuallyrequiredmorethantwicethetransmittingpowerthatShannon'slawsaidwasnecessarytoreachacertainlevelofreliability—ahugewasteofenergy.Thegapbetweenthepracticalandtheideal,measuredindecibels—aratiobetweenthesignallevelandthenoiselevelonalogarithmicscale—wasabout3.5dB.Tochipawayatit,engineersneededmoreelaboratecodes.
Thatwasthegoalthatpersistedformorethanfourdecades,untilBerrouandGlavieuxmadetheirdiscoveryintheearly1990s.Whentheyintroducedturbocodesin1993,theyshoweditwaspossibletogetwithinanastonishing0.5dBoftheShannonlimit,forabit-errorrateofonein
100000.Today,turbocodesarestillchippingawayateventhatsmallgap.
Thesolutiontoovercomingthenoisethatplaguedallcommunicationschannels,accordingtoShannon'sseminalpaper,wastodividethedataintostringsofbitsandaddtoeachstringasetofextrabits—calledparitybits—thatwouldhelpidentifyandcorrecterrorsatthereceivingend.Theresultinggroupofbits—thedatabitsplustheparitybits—iscalledacodeword,andtypicallyitrepresentsablockofcharacters,afewimagepixels,asampleofvoice,orsomeotherpieceofdata.
Shannonshowedthatwiththerightcollectionofcodewords—withtherightcode,inotherwords—itwaspossibletoattainthechannelcapacity.Butthen,whichcodecoulddoit?
"Shannonleftunansweredthequestionofinventingcodes,"saysDavidForney,aprofessorofelectricalengineeringattheCambridge-basedMassachusettsInstituteofTechnology（MIT）andanIEEEFellow.Shannonprovedmathematicallythatcodingwasthemeanstoreachcapacity,buthedidn'tshowexactlyhowtoconstructthesecapacity-approachingcodes.Hiswork,nevertheless,containedvaluableclues.
Shannonthoughtofcodewordsaspointsinspace.Forexample,thecodeword011canbeconsideredapointinathree-dimensionalspacewithcoordinatesx=0,y=1,andz=1.Codewordswithmorethanthreebitsarepointsinhyperspace.Noisecanalteracodeword'sbits,andthereforeitscoordinates,displacingthepointinspace.Iftwopointsareclosetoeachotherandoneisaffectedbynoise,thispointmightfallexactlyontotheother,resultingindecodingerror.Therefore,thelargerthedifferencesincodewords—thefartheraparttheyare—themoredifficultitisfornoisetocauseerrors.
Toachievecapacity,Shannondemonstratedthatyoushouldrandomlychooseinfinitelylongcodewords.Inotherwords,goingbacktohisspatialanalogy,ifyoucouldmakethecode
升级会员 