霍金GMIC演讲《让人工智能造福人类及其赖以生存的家园》.docx

霍金GMIC演讲《让人工智能造福人类及其赖以生存的家园》.docx

《霍金GMIC演讲《让人工智能造福人类及其赖以生存的家园》.docx》由会员分享，可在线阅读，更多相关《霍金GMIC演讲《让人工智能造福人类及其赖以生存的家园》.docx（15页珍藏版）》请在冰豆网上搜索。

霍金GMIC演讲《让人工智能造福人类及其赖以生存的家园》

霍金GMIC演讲《让人工智能造福人类及其赖以生存的家园》

霍金GMIC演讲《让人工智能造福人类及其赖以生存的家园》Overmylifetime，Ihaveseenverysignificantsocietalchanges。

Probablyoneofthemostsignificant，andonethatisincreasinglyconcerningpeopletoday，istheriseofartificialintelligence。

Inshort，IbelievethattheriseofpowerfulAI，willbeeitherthebestthing，ortheworst，evertohappentohumanity。

Ihavetosaynow，thatwedonotyetknowwhich。

Butweshoulddoallwecan，toensurethatitsfuturedevelopmentbenefitsus，andourenvironment。

Wehavenootheroption。

IseethedevelopmentofAI，asatrendwithitsownproblemsthatweknowmustbedealtwith，nowandintothefuture。

在我的一生中，我见证了社会深刻的变化。

其中最深刻的，同时也是对人类影响与日俱增的变化，是人工智能的崛起。

简单来说，我认为强大的人工智能的崛起，要么是人类历史上最好的事，要么是最糟的。

是好是坏，我不得不说，我们依然不能确定。

但我们应该竭尽所能，确保其未来发展对我们和我们的环境有利。

我们别无选择。

我认为人工智能的发展，本身是一种存在着问题的趋势，而这些问题必须在现在和将来得到解决。

TheprogressinAIresearchanddevelopmentisswift。

Andperhapsweshouldallstopforamoment，andfocusourresearch，notonlyonmakingAImorecapable，butonmaximizingitssocietalbenefit。

SuchconsiderationsmotivatedtheAmericanAssociationforArtificialIntelligence‘s，twothousandandeighttotwothousandandnine，PresidentialPanelonLong-TermAIFutures，whichuptorecentlyhadfocusedlargelyontechniques，thatareneutralwithrespecttopurpose。

ButourAIsystemsmustdowhatwewantthemtodo。

Inter-disciplinaryresearchcanbeawayforward：

rangingfromeconomics，law，andphilosophy，tocomputersecurity，formalmethods，andofcoursevariousbranchesofAIitself。

人工智能的研究与开发正在迅速推进。

也许科学研究应该暂停片刻，从而使研究重点从提升人工智能能力转移到最大化人工智能的社会效益上面。

基于这样的考虑，美国人工智能协会（AAAI）于2008至2009年，成立了人工智能长期未来总筹论坛[原文：

PresidentialPanelonLong-TermAIFutures]，他们近期在目的导向的中性技术上投入了大量的关注。

但我们的人工智能系统的原则依然须要按照我们的意志工作。

跨学科研究可能是一条可能的前进道路：

从经济、法律、哲学延伸至计算机安全、形式化方法，当然还有人工智能本身的各个分支。

Everythingthatcivilizationhastooffer，isaproductofhumanintelligence，andIbelievethereisnorealdifferencebetweenwhatcanbeachievedbyabiologicalbrain，andwhatcanbeachievedbyacomputer。

Itthereforefollowsthatcomputerscan，intheory，emulatehumanintelligence，andexceedit。

Butwedon’tknow。

SowecannotknowifwewillbeinfinitelyhelpedbyAI，orignoredbyitandside-lined，orconceivablydestroyedbyit。

Indeed，wehaveconcernsthatclevermachineswillbecapableofundertakingworkcurrentlydonebyhumans，andswiftlydestroymillionsofjobs。

文明所提产生的一切都是人类智能的产物，我相信生物大脑总有一天会达到计算机可以达到的程度，没有本质区别。

因此，它遵循了“计算机在理论上可以模仿人类智能，然后超越”这一原则。

但我们并不确定，所以我们无法知道我们将无限地得到人工智能的帮助，还是被藐视并被边缘化，或者很可能被它毁灭。

的确，我们担心聪明的机器将能够代替人类正在从事的工作，并迅速地消灭数以百万计的工作岗位。

Whileprimitiveformsofartificialintelligencedevelopedsofar，haveprovedveryuseful，Ifeartheconsequencesofcreatingsomethingthatcanmatchorsurpasshumans。

AIwouldtakeoffonitsown，andre-designitselfataneverincreasingrate。

Humans，whoarelimitedbyslowbiologicalevolution，couldn‘tcompete，andwouldbesuperseded。

Itwillbringgreatdisruptiontooureconomy。

Andinthefuture，AIcoulddevelopawillofitsown，awillthatisinconflictwithours。

AlthoughIamwell-knownasanoptimistregardingthehumanrace，othersbelievethathumanscancommandtherateoftechnologyforadecentlylongtime，andthatthepotentialofAItosolvemanyoftheworld’sproblemswillberealized。

Iamnotsosure。

在人工智能从原始形态不断发展，并被证明非常有用的同时，我也在担忧这样这个结果，即创造一个可以等同或超越人类的智能的人工智能：

人工智能一旦脱离束缚，以不断加速的状态重新设计自身。

人类由于受到漫长的生物进化的限制，无法与之竞争，将被取代。

这将给我们的经济带来极大的破坏。

未来，人工智能可以发展出自我意志，一个与我们冲突的意志。

很多人认为人类可以在相当长的时间里控制技术的发展，这样我们就能看到人工智能可以解决世界上大部分问题的潜力。

但我并不确定。

尽管我对人类一贯持有乐观的态度。

InJanuary2015，Ialongwiththetechnologicalentrepreneur，ElonMusk，andmanyotherAIexperts，signedanopenletteronartificialintelligence，callingforseriousresearchonitsimpactonsociety。

Inthepast，ElonMuskhaswarnedthatsuperhumanartificialintelligence，ispossibleofprovidingincalculablebenefits，butifdeployedincautiously，willhaveanadverseeffectonthehumanrace。

HeandI，sitonthescientificadvisoryboardfortheFutureofLifeInstitute，anorganizationworkingtomitigateexistentialrisksfacinghumanity，andwhichdraftedtheopenletter。

Thiscalledforconcreteresearchonhowwecouldpreventpotentialproblems，whilealsoreapingthepotentialbenefitsAIoffersus，andisdesignedtogetAIresearchersanddeveloperstopaymoreattentiontoAIsafety。

Inaddition，forpolicymakersandthegeneralpublic，theletterismeanttobeinformative，butnotalarmist。

Wethinkitisveryimportant，thateverybodyknowsthatAIresearchersareseriouslythinkingabouttheseconcernsandethicalissues。

Forexample，AIhasthepotentialtoeradicatediseaseandpoverty，butresearchersmustworktocreateAIthatcanbecontrolled。

Thefour-paragraphletter，titledResearchPrioritiesforRobustandBeneficialArtificialIntelligence，anOpenLetter，laysoutdetailedresearchprioritiesintheaccompanyingtwelve-pagedocument。

2015年1月份，我和科技企业家埃隆·马斯克，以及许多其他的人工智能专家签署了一份关于人工智能的公开信，目的是提倡就人工智能对社会所造成的影响做认真的调研。

在这之前，埃隆·马斯克就警告过人们：

超人类人工智能可能带来不可估量的利益，但是如果部署不当，则可能给人类带来相反的效果。

我和他同在“生命未来研究所”担任科学顾问委员会的职务，这是一个旨在缓解人类所面临的存在风险的组织，而且之前提到的公开信也是由这个组织起草的。

这个公开信号召展开可以阻止潜在问题的直接研究，同时也收获人工智能带给我们的潜在利益，同时致力于让人工智能的研发人员更关注人工智能安全。

此外，对于决策者和普通大众来说，这封公开信内容翔实，并非危言耸听。

人人都知道人工智能研究人员们在认真思索这些担心和伦理问题，我们认为这一点非常重要。

比如，人工智能具有根除疾患和贫困的潜力的，但是研究人员必须能够创造出可控的人工智能。

那封只有四段文字，题目为《应优先研究强大而有益的人工智能》的公开信，在其附带的十二页文件中对研究的优先次序作了详细的安排。

Forthelast20yearsorso，AIhasbeenfocusedontheproblemssurroundingtheconstructionofintelligentagents，systemsthatperceiveandactinsomeenvironment。

Inthiscontext，intelligenceisrelatedtostatisticalandeconomicnotionsofrationality。

Colloquially，theabilitytomakegooddecisions，plans，orinferences。

Asaresultofthisrecentwork，therehasbeenalargedegreeofintegrationandcross-fertilisationamongAI，machinelearning，statistics，controltheory，neuroscience，andotherfields。

Theestablishmentofsharedtheoreticalframeworks，combinedwiththeavailabilityofdataandprocessingpower，hasyieldedremarkablesuccessesinvariouscomponenttasks，suchasspeechrecognition，imageclassification，autonomousvehicles，machinetranslation，leggedlocomotion，andquestion-answeringsystems。

在过去的20年或更长时间里，人工智能一直专注于建设智能代理所产生的问题，即在特定环境下可以感知并行动的各种系统。

在这种情况下，智能是一个与统计学和经济学相关的理性概念。

通俗地讲，这是一种做出好的决定、计划和推论的能力。

基于这些工作，大量的整合和交叉孕育被应用在人工智能、机器学习、统计学、控制论、神经科学、以及其它领域。

共享理论框架的建立，结合数据的供应和处理能力，在各种细分的领域取得了显著的成功。

例如语音识别、图像分类、自动驾驶、机器翻译、步态运动和问答系统。

Asdevelopmentintheseareasandothers，movesfromlaboratoryresearchtoeconomicallyvaluabletechnologies，avirtuouscycleevolves，wherebyevensmallimprovementsinperformance，areworthlargesumsofmoney，promptingfurtherandgreaterinvestmentsinresearch。

ThereisnowabroadconsensusthatAIresearchisprogressingsteadily，andthatitsimpactonsocietyislikelytoincrease。

Thepotentialbenefitsarehuge，sinceeverythingthatcivilizationhastooffer，isaproductofhumanintelligence;wecannotpredictwhatwemightachieve，whenthisintelligenceismagnifiedbythetoolsAImayprovide。

But，andasIhavesaid，theeradicationofdiseaseandpovertyisnotunfathomable。

BecauseofthegreatpotentialofAI，itisimportanttoresearchhowtoreapitsbenefits，whileavoidingpotentialpitfalls。

随着这些领域的发展，从实验室研究到有经济价值的技术形成良性循环。

哪怕很小的性能改进，都会带来巨大的经济效益，进而鼓励更长期、更伟大的投入和研究。

目前人们广泛认同，人工智能的研究正在稳步发展，而它对社会的影响很可能扩大，潜在的好处是巨大的，甚至文明所产生的一切，都可能是人类智能的产物;但我们无法预测我们可能取得什么成果，这种成果可能是被人工智能工具放大过的。

但是，正如我说过的，根除疾病和贫穷并不是完全不可能，由于人工智能的巨大潜力，研究如何（从人工智能）获益并规避风险是非常重要的。

Artificialintelligenceresearchisnowprogressingrapidly。

Andthisresearchcanbediscussedasshort-termandlong-term。

Someshort-termconcernsrelatetoautonomousvehicles，fromciviliandronesandself-drivingcars。

Forexample，aself-drivingcarmay，inanemergency，havetodecidebetweenasmallriskofamajoraccident，andalargeprobabilityofasmallaccident。

Otherconcernsrelatetolethalintelligentautonomousweapons。

Shouldtheybebanned。

Ifso，howshouldautonomybepreciselydefined。

Ifnot，howshouldculpabilityforanymisuseormalfunctionbeapportioned。

Otherissuesincludeprivacyconcerns，asAIbecomesincreasinglyabletointerpretlargesurveillancedatasets，andhowtobestmanagetheeconomicimpactofjobsdisplacedbyAI。

现在，关于人工智能的研究正在迅速发展。

这一研究可以从短期和长期来讨论。

一些短期的担忧在无人驾驶方面，从民用无人机到自主驾驶汽车。

比如说，在紧急情况下，一辆无人驾驶汽车不得不在小风险的大事故和大概率的小事故之间进行选择。

另一个担忧在致命性智能自主武器。

他们是否该被禁止?

如果是，那么“自主”该如何精确定义。

如果不是，任何使用不当和故障的过失应该如何问责。

还有另外一些担忧，由人工智能逐渐可以解读大量监控数据引起的隐私和担忧，以及如何管理因人工智能取代工作岗位带来的经济影响。

Long-termconcerns，compriseprimarilyofthepotentiallossofcontrolofAIsystems，viatheriseofsuper-intelligencesthatdonotactinaccordancewithhumanwishes，andthatsuchpowerfulsystemswouldthreatenhumanity。

Aresuchdaystopicoutcomespossible。

Ifso，howmightthesesituationsarise。

Whatkindofinvestmentsinresearchshouldbemade，tobetterunderstandandtoaddressthepossibilityoftheriseofadangeroussuper-intelligence，ortheoccurrenceofanintelligenceexplosion。

长期担忧主要是人工智能系统失控的潜在风险，随着不遵循人类意愿行事的超级智能的崛起，那个强大的系统威胁到人类。

这样错位的结果是否有可能?

如果是，这些情况是如何出现的?

我们应该投入什么样的研究，以便更好的理解和解决危险的超级智能崛起的可能性，或智能爆发的出现?

ExistingtoolsforharnessingAI，suchasreinforcementlearning，andsimpleutilityfunctions，areinadequatetosolvethis。

Thereforemoreresearchisnecessarytofindandvalidatearobustsolutiontothecontrolproblem。

当前控制人工智能技术的工具，例如强化学习，简单实用的功能，还不足以解决这个问题。

因此，我们需要进一步研究来找到和确认一个可靠的解决办法来掌控这一问题。

Recentlandmarks，suchastheself-drivingcarsalreadymentioned，oracomputerwinningatthegameofGo，aresignsofwhatistocome。

Enormouslevelsofinvestmentarepouringintothistechnology。

Theachievementswehaveseensofar，willsurelypaleagainstwhatthecomingdecadeswillbring，andwecannotpredictwhatwemightachieve，whenourownmindsareamplif