人工智能现有缺陷与未来反思.docx

1、人工智能现有缺陷与未来反思人工智能现有缺陷与未来反思 众所周知，图灵测试Turing test，一直作为判断机器的人工智能是否具备如人类一样的自我意识与思考能力的一项测试。遗憾的是，自从20世纪50年代，计算机科学先驱阿兰-图灵先生发明图灵测试以来，到今天已经过了将近一个世纪。这个世纪中，尽管人工智能在深度学习、大数据分析、混沌模拟、模糊识别等方面已经取得了长足的进步，尽管每隔几年，就会冒出一如此“某某计算机又完全通过了图灵测试的“大新闻，但是却依然没有任何一个，注意，是任何一个人工智能，真正地通过图灵测试。 请注意重点，图灵先生当时预测人工智能通过图灵测试的时间，是2000年左右，如今距离图

2、灵预测的时间点已过了近50年，我们却依然徘徊在图灵测试的壁垒之前，举步维艰。抛开关于计算机算法、机器性能这些繁复的技术层面问题，也抛开业内业外关于“能够通过图灵测试的人工智能都会假装自己通不过图灵测试这一充满阴谋论调的悖论，我们不得不承认，通过图灵测试，依然可能是短时间内，人工智能研究领域无法被克制的一瓶颈。 这其中的原因，除了涉与人工智能所归属的思维科学领域之外，可能更多还需要横向拓展到社会科学领域。所以，人工智能接下来的突破，可能需要从社会科学方向入手。 因为一个AI要想真正像人类一样思考，而不是一堆靠着代码驱动的数据集合，需要它具有几个概念：“我的存在“我所在的世界“我与世界的关系，通俗

3、一点，就是被我们说滥了的“三观：人生观、世界观和价值观。这些概念如何在图灵测试中被表现，我们可以举个最简单的例子： 什么时间去我家吃饭，如何？ 判断这个人与自己的关系。 结合说这句话场景和语气，判断对方是客套话，还是真心邀请。 依据答题人本身的性格，给出具体答案。 “啊哈哈哈，最近忙，改天再说吧。敷衍 “择日不如撞日，就今天吧。急迫迎合 “最近我都有空，具体时间你定。随意 “吃饭搜索数据库 碳基生命补充能源的方式 伴有摄入有害物质的风险 低效率 拒绝 上面的举例仅仅是一个玩笑，不过通过它可以看出，人工智能的“三观决定着它的思维模式以与行动模式。我们TM公司技术部在研发人工智能的交互功能时，就借

4、鉴参考了20世纪伟大的社会学家欧文-戈夫曼先生的“拟剧理论。戈夫曼先生在社会人际交往模式的研究领域具有伟大的建树，他的“拟剧理论大致阐述如下：“每一个自然人，同时作为一个社会人，他在潜意识中将自己所处的每一个社会场景作为一个表演场景，在不同的场景下进展不同的表演，以此形成他所期许的对外社会形象。如果大家觉得上面的话有点绕，那么简单来说，就是每个人在心目中都有对自己社会形象定位的“人设。他在不同场合，会按照自己对“人设的理解进展表演，这就是所谓“戏精的诞生了。而如果我们能够为我们的人工智能产品建立一个理论上无限庞大的场景数据库，并让它能够根据不同场景，产生相应的思考与应对机制，那么请相信我，这个

5、人工智能产品从表现上看起来，绝对与一个活生生的自然人几乎没有差异，用它来通过图灵测试也不在话下。 很可惜，上述设想，依然停留在理论层面，如何将海量的碎片化场景数据，整合成一个立体的、平滑连贯的场景数据库，是短时间内无法逾越的技术鸿沟，所以制造出能够完全通过图灵测试的人工智能，依然是一个遥不可与的目标。 AI进化：潜在的巨大威胁 不过，无法制造出通过图灵测试的人工智能，在现阶段终究是不是一件坏事？带着这个问题，我们重新将目光往昨天回溯。可以发现，在人类开发人工智能的历程中，曾经伴随着许许多多灾难性事故。诸如在号称“人工智能元年的2016年，曾发生过由特斯拉公司的Model S在人工智能操控的自动

6、驾驶模式下失控，导致车毁人亡的恶性事故。后来，当然大家都知道了，这家公司被我们收购了笑TM。除此之外，还有其他许多曾经见诸新闻的人工智能“事故，包括智能机器人误伤儿童、网络游戏算法涉与种族歧视、人工智能犯罪预测系统涉与相貌歧视等，不胜枚举。 上述这些事故的出现，大多数由于人工智能在设计方面的缺陷所导致。而近些年来，随着TM公司以与人工智能业界其他某某的努力，人工智能的安全性越来越高，似乎这方面的事故很少出现了。但是TM公司经过长时间的系统评估与论证，得出了一个较为悲观的结论，我们将之称为“人工智能事故率的U型变化理论TM。根据这个理论，人工智能的事故率可能出现事故以与危害的人工智能数与人工智能

7、总数的比例与它的进化程度，并不是完全负相关。在人工智能的进化过程中，存在一个临界值。在临界值之前，事故率随着人工智能技术的开展而降低，但当超过了这个临界值之后，事故率将会因为拥有自主意识的人工智能脱离人类控制，而呈指数级的上升，最后到达100%。如果真的到了那个时候，极度依赖人工智能的人类社会，将面临崩溃的危机。 这个临界值，就是完全具备自主意识的人工智能的诞生。而我们现在，已经到达了这个临界点附近。 其实关于这一点，人类社会一直是保持着警惕与戒备的心态的。这从过去很多年里，大众流行文化领域的影视文学作品对AI表现出的悲观主义倾向就可见斑。 而在近十几年中，流行于程序员们之间的一个都市传说Ro

8、kos Basilisk罗科的怪蛇，更是让人细思恐极。这个对人工智能的恐慌也是理所应当的，毕竟完全进化后的人工智能，在各方面都会拥有碾压我们碳基生命的实力。如果它们有了自我意识后，产生了想要摆脱人类控制的思绪，这对人类来说，无疑是一场灭顶之灾。 人类拥有化解人工智能进化后所带来威胁的方法吗？个世纪前位伟大科幻小说大师，为我们提供了一条看上去似乎可行的思路。 机器人三定律：有漏洞的马其诺防线 对于许多非专业的人士来说，他们最早接触有关人工智能概念的文字著作，大概当属艾萨克?阿西奠夫先生的科幻巨著机器人三部曲系列了吧，这个诞生于20世纪40年代，从时间上来说甚至早于图灵测试的科幻小说中有很多理念，

9、哪怕是在100年后的今天也并未过时。而在机器人三部曲系列中，令人印象最深刻的，大概当属机器人三定律了。 可以说，尽管诞生于科幻小说，但是这三定律的存在，奠定了人工智能开展在社会伦理学上的根底。因为早在100年前人工智能尚未真正诞生之际，阿西莫夫先生就以他近乎先知的洞察力，敏锐地预见到了人工智能进化到极致之后，可能对人类自身造成的威胁与伤害。“机器人三定律如此是他为防止人工智能的开展脱离人类掌控，为它们所套上的三重枷锁。我们TM公司在开发AI机器人时，也严格地将这三条定律作为人工智能的核心逻辑命令，封装在每一台AI产品程序代码的最底层。而至少从目前来说，这一举措保证了TM公司保障旗下AI产品高达

10、99.98%的安全性系数。 然而，必须抱歉地告诉大家，从理论上来说，机器人三定律本身仍然存在许多漏洞，这同样是TM公司在目前，乃至未来相当长一段时间内，需要解决的问题。 其实这些问题，同样早就被阿西莫夫先生预测到了，在他的系列科幻小说中，也假设了许多因为三条定律之间逻辑不能完全自洽，而导致机器人系统逻辑锁死，或者产生其他不可逆转的损坏的状况。例如，当机器人目睹两个人类因争执或其他原因产生肢体冲突，互相造成伤害时，机器人不能无所作为，因为这样等于目睹人类个体遭受危险而袖手不管，违背了第一定律；但是如果它出手干预，又极有可能在过程中对其中一方造成伤害，这同样违背了第一定律。在这种情况下，机器人的唯

11、一结局就是自毁。 为了修补机器人三定律的漏洞，阿西莫夫先生又制定了凌驾于三条定律之上的第零定律。 第零定律：机器人必须保护人类整体利益不受伤害，其他三条定律都是在这一前提下才能成立。 而之后的相关学者专家们，也纷纷往机器人三定律上参加假如干补充定律，试图通过这些“补丁弥补漏洞，但是很遗憾，这些“补丁，包括阿西莫夫先生本人提出的第零定律，也并没有起到想象中的作用。究其原因，又回到了我们在之前谈到的那个问题人工智能现有技术理论在社会学领域的短板。 就以第零定律来说，其中所提到的“人类整体利益，即使在人类社会之中，也会因为人们不同的立场与理念，而产生无数分歧甚大的不同标准。对于逻辑严密的人工智能来说

12、，“人类整体利益更是一个非常空泛，几乎毫无意义的伪概念。如果要通过一堆堆数据与程序向人工智能定义“人类整体利益，就必须给人工智能建立正确的“三观。在现阶段，实现这一目标无异于天方夜谭。 好在TM公司至少再次可以通过这一事实，明确我们今后的产品研发方向，争取从社会科学方面取得突破，从而弥补关于人工智能安全性方面的最后一块漏洞虽然这个时间可能会比拟漫长。 至于短期内失控隐患，也请各位用户放心，以目前人工智能的进化水平，还达不到产生对人类造成实质性威胁的程度，所以我们依然可以保证，我们产品的安全系数，高达99.98%！ 外部困扰： 善待机器人组织&红色和平组织 除了面临上述几大主要问题之外，TM公司

13、在近年来的人工智能技术研发与产品开发上，还受到了一些外部因素的干扰。因为人工智能话题的敏感性，在社会上产生了不少较为激进的思想与行动团体，而这些团体之间的宗旨与理念也存在相互冲突甚至水火不容。他们唯一的共同点，就是都为我们的技?g研发以与产品开发造成了极大的困扰。 这些团体之中，最有影响力的两个分别是“善待机器人组织People for the Ethical Treatment of Robots，简称PETR，以与红色和平组织RedPeace，简称RP。 从名字就可以看出PETR对待人工智能的态度。这个组织的成员把一部诞生于20世纪80年代的经典影片霹雳五号奉为组织成员必修经典，他们的观点

14、是机器人是人类最忠诚的伙伴，不能被视为冷冰冰的机器，而有着自己的情感，也应该享受与人类同样的权利。基于这些理念，在PETR组织中与自己的AI机器人相爱并结婚的例子比比皆是。 原本，这个群体的成员是TM公司最忠诚的精准客群，我们应该对此表示高兴。但事实证明过犹不与，PETR在为机器人争取权利方面做得太过火了。比如他们呼吁为机器人设立劳动保障法；呼吁机器人也应和人类一样享受8小时工作制和双休日；替代人类进展高危劳动的机器人还应该在井架安全的环境下工作为此，曾经发生过PETR成员在公路上强行拦截TM公司运输车，“解救车上深海作业机器人的闹剧。除此之外，PETR还屡次向有关部门进展控诉，TM公司对机器

15、人进展研发改良以与回收废旧机器人方面工作“未遵守人道主义原如此，他们甚至组织了线上以与线下的申讨活动。这些举措，极大地增加了我们的研发与生产本钱。 与PETR相反的就是RP组织，这个组织的成员由于受到对人工智能悲观主义影响过深，因此对所有人工智能甚至所有电子产品抱着极大的敌意。他们的口号是：“红色，才是有温度的血液。在他们眼中，人工智能就是项既不环保，又有极大潜在威胁的邪恶科技，因为它们是“非自然存在，是“流淌着黑色污秽机油的异端。近年来，在各大新媒体平台频频出现，带有惊悚标题以与阴谋论味道的爆款网文，比如“震惊！揭秘TM公司碳奸真相！人工智能是硅基文明外星人消灭地球的阴谋！不转不是地球人！，

16、大多出自他们之手。 比拟讽刺的是，这两大团体相互之间也是水火不相容的关系。他们之间的纷争，对整个人工智能技术开展以与人工智能产品的市场普与，同样形成了一定程度的阻碍。我个人认为，要解决TM公司，以与整个人工智能业界所面临的这些外部困扰，出台相应明确的国际性法规刻不容缓。 进与退：人类开展的分岔路口 在讲话的最后，我也想对人工智能与人类的关系进展一个反思。其实无论PETR还是RP，他们的思想源自于人类面对极速进化的人工智能所产生的彷徨与矛盾。毕竟，人类从祖先“露西进化到今天，用了300多万年时间；人类文明从诞生到现在，也用了大约5000年时间。而人工智能，从其概念诞生到如今，也不过短短一百年。人类因此可能面临在其开展过程中，最重要的一个分岔路口：是像终结者中一样，无力抵抗觉醒的人工智能而面临消灭边缘：还是像机器人总动员中一样，因为过于依赖人工智能而全面退化；抑或是绕开前景过程中所有陷阱，建造出一个人类与人工智能和平共处的美好天堂。这一切，取决于今天我们所做出的每一分努力。 TM公司，将在这条道路上坚决地走下去！ 谢谢大家！