霍金GMIC演讲《让人工智能造福人类及其赖以生存的家园》.docx

霍金GMIC演讲《让人工智能造福人类及其赖以生存的家园》.docx

《霍金GMIC演讲《让人工智能造福人类及其赖以生存的家园》.docx》由会员分享，可在线阅读，更多相关《霍金GMIC演讲《让人工智能造福人类及其赖以生存的家园》.docx（9页珍藏版）》请在冰豆网上搜索。

霍金GMIC演讲《让人工智能造福人类及其赖以生存的家园》

霍金GMIC演讲《让人工智能造福人类及其赖以生存的家园》

　　霍金GMIC演讲《让人工智能造福人类及其赖以生存的家园》

Overmylifetime，Ihaveseenverysignificantsocietalchanges。

Probablyoneofthemostsignificant，andonethatisincreasinglyconcerningpeopletoday，istheriseofartificialintelligence。

Inshort，IbelievethattheriseofpowerfulAI，willbeeitherthebestthing，ortheworst，evertohappentohumanity。

Ihavetosaynow，thatwedonotyetknowwhich。

Butweshoulddoallwecan，toensurethatitsfuturedevelopmentbenefitsus，andourenvironment。

Wehavenootheroption。

IseethedevelopmentofAI，asatrendwithitsownproblemsthatweknowmustbedealtwith，nowandintothefuture。

在我的一生中，我见证了社会深刻的改变。

其中最深刻的，同时也是对人类影响与日俱增的改变，是人工智能的崛起。

简洁来说，我认为强大的人工智能的崛起，要么是人类历史上最好的事，要么是最糟的。

是好是坏，我不得不说，我们仍旧不能确定。

但我们应当竭尽所能，确保其将来开展对我们和我们的环境有利。

我们别无选择。

我认为人工智能的开展，本身是一种存在着问题的趋势，而这些问题必需在此时此刻和将来得到解决。

TheprogressinAIresearchanddevelopmentisswift。

Andperhapsweshouldallstopforamoment，andfocusourresearch，notonlyonmakingAImorecapable，butonmaximizingitssocietalbenefit。

SuchconsiderationsmotivatedtheAmericanAssociationforArtificialIntelligence‘s，twothousandandeighttotwothousandandnine，PresidentialPanelonLong-TermAIFutures，whichuptorecentlyhadfocusedlargelyontechniques，thatareneutralwithrespecttopurpose。

ButourAIsystemsmustdowhatwewantthemtodo。

Inter-disciplinaryresearchcanbeawayforward：

rangingfromeconomics，law，andphilosophy，tocomputersecurity，formalmethods，andofcoursevariousbranchesofAIitself。

人工智能的探究与开发正在快速推动。

或许科学探究应当暂停片刻，从而使探究重点从提升人工智能实力转移到最大化人工智能的社会效益上面。

基于这样的考虑，美国人工智能协会（AAAI）于2022至2022年，成立了人工智能长期将来总筹论坛[原文：

PresidentialPanelonLong-TermAIFutures]，他们近期在目的导向的中性技术上投入了大量的关注。

但我们的人工智能系统的原那么仍旧须要遵照我们的意志工作。

跨学科探究可能是一条可能的前进道路：

从经济、法律、哲学延长至计算机平安、形式化方法，当然还有人工智能本身的各个分支。

Everythingthatcivilizationhastooffer，isaproductofhumanintelligence，andIbelievethereisnorealdifferencebetweenwhatcanbeachievedbyabiologicalbrain，andwhatcanbeachievedbyacomputer。

Itthereforefollowsthatcomputerscan，intheory，emulatehumanintelligence，andexceedit。

Butwedon’tknow。

SowecannotknowifwewillbeinfinitelyhelpedbyAI，orignoredbyitandside-lined，orconceivablydestroyedbyit。

Indeed，wehaveconcernsthatclevermachineswillbecapableofundertakingworkcurrentlydonebyhumans，andswiftlydestroymillionsofjobs。

文明所提产生的一切都是人类智能的产物，我坚信生物大脑总有一天会到达计算机可以到达的程度，没有本质区分。

因此，它遵循了“计算机在理论上可以效仿人类智能，然后超越”这一原那么。

但我们并不确定，所以我们无法知道我们将无限地得到人工智能的协助，还是被亵渎并被边缘化，或者很可能被它消灭。

确实，我们担忧机灵的机器将能够代替人类正在从事的工作，并快速地歼灭数以百万计的工作岗位。

Whileprimitiveformsofartificialintelligencedevelopedsofar，haveprovedveryuseful，Ifeartheconsequencesofcreatingsomethingthatcanmatchorsurpasshumans。

AIwouldtakeoffonitsown，andre-designitselfataneverincreasingrate。

Humans，whoarelimitedbyslowbiologicalevolution，couldn‘tcompete，andwouldbesuperseded。

Itwillbringgreatdisruptiontooureconomy。

Andinthefuture，AIcoulddevelopawillofitsown，awillthatisinconflictwithours。

AlthoughIamwell-knownasanoptimistregardingthehumanrace，othersbelievethathumanscancommandtherateoftechnologyforadecentlylongtime，andthatthepotentialofAItosolvemanyoftheworld’sproblemswillberealized。

Iamnotsosure。

在人工智能从原始形态不断开展，并被证明特别有用的同时，我也在担忧这样这个结果，即缔造一个可以等同或超越人类的智能的人工智能：

人工智能一旦脱离束缚，以不断加速的状态重新设计自身。

人类由于受到漫长的生物进化的限制，无法与之竞争，将被取代。

这将给我们的经济带来极大的破坏。

将来，人工智能可以开展出自我意志，一个与我们冲突的意志。

许多人认为人类可以在相当长的时间里限制技术的开展，这样我们就能看到人工智能可以解决世界上大局部问题的潜力。

但我并不确定。

尽管我对人类一贯持有乐观的看法。

InJanuary2022，Ialongwiththetechnologicalentrepreneur，ElonMusk，andmanyotherAIexperts，signedanopenletteronartificialintelligence，callingforseriousresearchonitsimpactonsociety。

Inthepast，ElonMuskhaswarnedthatsuperhumanartificialintelligence，ispossibleofprovidingincalculablebenefits，butifdeployedincautiously，willhaveanadverseeffectonthehumanrace。

HeandI，sitonthescientificadvisoryboardfortheFutureofLifeInstitute，anorganizationworkingtomitigateexistentialrisksfacinghumanity，andwhichdraftedtheopenletter。

Thiscalledforconcreteresearchonhowwecouldpreventpotentialproblems，whilealsoreapingthepotentialbenefitsAIoffersus，andisdesignedtogetAIresearchersanddeveloperstopaymoreattentiontoAIsafety。

Inaddition，forpolicymakersandthegeneralpublic，theletterismeanttobeinformative，butnotalarmist。

Wethinkitisveryimportant，thateverybodyknowsthatAIresearchersareseriouslythinkingabouttheseconcernsandethicalissues。

Forexample，AIhasthepotentialtoeradicatediseaseandpoverty，butresearchersmustworktocreateAIthatcanbecontrolled。

Thefour-paragraphletter，titledResearchPrioritiesforRobustandBeneficialArtificialIntelligence，anOpenLetter，laysoutdetailedresearchprioritiesintheaccompanyingtwelve-pagedocument。

2022年1月份，我和科技企业家埃隆·马斯克，以及很多其他的人工智能专家签署了一份关于人工智能的公开信，目的是提倡就人工智能对社会所造成的影响做谨慎的调研。

在这之前，埃隆·马斯克就警告过人们：

超人类人工智能可能带来不行估量的利益，但是假如部署不当，那么可能给人类带来相反的效果。

我和他同在“生命将来探究所”担当科学参谋委员会的职务，这是一个旨在缓解人类所面临的存在风险的组织，而且之前提到的公开信也是由这个组织起草的。

这个公开信号召绽开可以阻挡潜在问题的干脆探究，同时也收获人工智能带给我们的潜在利益，同时致力于让人工智能的研发人员更关注人工智能平安。

此外，对于决策者和平凡群众来说，这封公开信内容翔实，并非危言耸听。

人人都知道人工智能探究人员们在谨慎思索这些担忧和伦理问题，我们认为这一点特别重要。

比方，人工智能具有铲除疾患和贫困的潜力的，但是探究人员必需能够缔造出可控的人工智能。

那封只有四段文字，题目为《应优先探究强大而有益的人工智能》的公开信，在其附带的十二页文件中对探究的优先次序作了具体的支配。

Forthelast20yearsorso，AIhasbeenfocusedontheproblemssurroundingtheconstructionofintelligentagents，systemsthatperceiveandactinsomeenvironment。

Inthiscontext，intelligenceisrelatedtostatisticalandeconomicnotionsofrationality。

Colloquially，theabilitytomakegooddecisions，plans，orinferences。

Asaresultofthisrecentwork，therehasbeenalargedegreeofintegrationandcross-fertilisationamongAI，machinelearning，statistics，controltheory，neuroscience，andotherfields。

Theestablishmentofsharedtheoreticalframeworks，combinedwiththeavailabilityofdataandprocessingpower，hasyieldedremarkablesuccessesinvariouscomponenttasks，suchasspeechrecognition，imageclassification，autonomousvehicles，machinetranslation，leggedlocomotion，andquestion-answeringsystems。

在过去的20年或更长时间里，人工智能始终专注于建立智能代理所产生的问题，即在特定环境下可以感知并行动的各种系统。

在这种状况下，智能是一个与统计学和经济学相关的理性概念。

通俗地讲，这是一种做出好的确定、打算和推论的实力。

基于这些工作，大量的整合和穿插孕育被应用在人工智能、机器学习、统计学、限制论、神经科学、以及其它领域。

共享理论框架的建立，结合数据的供给和处理实力，在各种细分的领域取得了显著的胜利。

例如语音识别、图像分类、自动驾驶、机器翻译、步态运动和问答系统。

Asdevelopmentintheseareasandothers，movesfromlaboratoryresearchtoeconomicallyvaluabletechnologies，avirtuouscycleevolves，wherebyevensmallimprovementsinperformance，areworthlargesumsofmoney，promptingfurtherandgreaterinvestmentsinresearch。

ThereisnowabroadconsensusthatAIresearchisprogressingsteadily，andthatitsimpactonsocietyislikelytoincrease。

Thepotentialbenefitsarehuge，sinceeverythingthatcivilizationhastooffer，isaproductofhumanintelligence;wecannotpredictwhatwemightachieve，whenthisintelligenceismagnifiedbythetoolsAImayprovide。

But，andasIhavesaid，theeradicationofdiseaseandpovertyisnotunfathomable。

BecauseofthegreatpotentialofAI，itisimportanttoresearchhowtoreapitsbenefits，whileavoidingpotentialpitfalls。

随着这些领域的开展，从试验室探究到有经济价值的技术形成良性循环。

哪怕很小的性能改良，都会带来巨大的经济效益，进而鼓舞更长期、更宏大的投入和探究。

目前人们广泛认同，人工智能的探究正在稳步开展，而它对社会的影响很可能扩大，潜在的好处是巨大的，甚至文明所产生的一切，都可能是人类智能的产物;但我们无法预料我们可能取得什么成果，这种成果可能是被人工智能工具放大过的。

但是，正如我说过的，铲除疾病和贫困并不是完全不行能，由于人工智能的巨大潜力，探究如何（从人工智能）获益并躲避风险是特别重要的。

Artificialintelligenceresearchisnowprogressingrapidly。

Andthisresearchcanbediscussedasshort-termandlong-term。

Someshort-termconcernsrelatetoautonomousvehicles，fromciviliandronesandself-drivingcars。

Forexample，aself-drivingcarmay，inanemergency，havetodecidebetweenasmallriskofamajoraccident，andalargeprobabilityofasmallaccident。

Otherconcernsrelatetolethalintelligentautonomousweapons。

Shouldtheybebanned。

Ifso，howshouldautonomybepreciselydefined。

Ifnot，howshouldculpabilityforanymisuseormalfunctionbeapportioned。

Otherissuesincludeprivacyconcerns，asAIbecomesincreasinglyabletointerpretlargesurveillancedatasets，andhowtobestmanagetheeconomicimpactofjobsdisplacedbyAI。

此时此刻，关于人工智能的探究正在快速开展。

这一探究可以从短期和长期来探讨。

一些短期的担忧在无人驾驶方面，从民用无人机到自主驾驶汽车。

比方说，在紧急状况下，一辆无人驾驶汽车不得不在小风险的大事故和也许率的小事故之间进展选择。

另一个担忧在致命性智能自主武器。

他们是否该被制止?

假如是，那么“自主”该如何准确定义。

假如不是，任何运用不当和故障的过失应当如何问责。

还有另外一些担忧，由人工智能渐渐可以解读大量监控数据引起的隐私和担忧，以及如何管理因人工智能取代工作岗位带来的经济影响。

Long-termconcerns，compriseprimarilyofthepotentiallossofcontrolofAIsystems，viatheriseofsuper-intelligencesthatdonotactinaccordancewithhumanwishes，andthatsuchpowerfulsystemswouldthreatenhumanity。

Aresuchdaystopicoutcomespossible。

Ifso，howmightthesesituationsarise。

Whatkindofinvestmentsinresearchshouldbemade，tobetterunderstandandtoaddressthepossibilityoftheriseofadangeroussuper-intelligence，ortheoccurrenceofanintelligenceexplosion。

长期担忧主要是人工智能系统失控的潜在风险，随着不遵循人类意愿行事的超级智能的崛起，那个强大的系统威逼到人类。

这样错位的结果是否有可能?

假如是，这些状况是如何出现的?

我们应当投入什么样的探究，以便更好的理解和解决危急的超级智能崛起的可能性，或智能爆发的出现?

ExistingtoolsforharnessingAI，suchasreinforcementlearning，andsimpleutilityfunctions，areinadequatetosolvethis。

Thereforemoreresearchisnecessarytofindandvalidatearobustsolutiontothecontrolproblem。

当前限制人工智能技术的工具，例如强化学习，简洁管用的功能，还缺乏以解决这个问题。

因此，我们须要进一步探究来找到和确认一个牢靠的解决方法来掌控这一问题。

Recentlandmarks，suchastheself-drivingcarsalreadymentioned，oracomputerwinningatthegameofGo，aresignsofwhatistocome。

Enormouslevelsofinvestmentarepouringintothistechnology。

Theachievementswehaveseensofar，willsurelypaleagainstwhatthecomingdecadeswillbring，andwecannotpredictwhatwemightachieve，