第一七五章 回顾 (第2/2页)

当然，随之而必然浮现的悲观，也让方然有一点感同身受。

    说这些话的时候，方然心里明白，人类文明岂但无需担心几十亿年后的红巨星，也不用担心几千万年后的大冰期。

    因为着文明，已时日无多。

    但在教授眼中，很显然，对人类文明的未来还是多少有所期许，作为严谨的学者，费曼在开口前还犹豫了一小会儿：

    “这问题很宽泛，显然会涉及到诸多应用科学的领域，坦率的讲，

    我觉得以你、我的专业范畴，并不太适合讨论这么一个看重实践、仰仗行动的课题……

    哦，倒也未必；方，既然你是计算机相关专业的学生，那么在这方面，我倒是有一些疑点想找人讨论。

    简而言之，你怎么看待这种观点：

    计算机、人工智能、自动化系统的发展，对人类文明而言，是一种威胁。”

    “计算机，人工智能……”

    费曼教授的提问，出乎意料，方然原本还打算请教一些更“长远”的危机，譬如盖亚的气候变迁，或者恒星系的变化，因为他心知肚明，“眼前”的很多威胁，不管对人类文明、还是对他自己，都已经不成其为问题，围绕这些威胁进行的讨论，对他而言，也没有什么参考的价值。

    但教授却主动提及，诸如AI、自动化这些很现实的话题，直接岔开也不太好。

    说些什么好呢，一开始，方然还在盘算怎样讲比较“安全”，然后他才想到，至少以自己多年来的经验总结，理查德*费曼这样对民众持批评态度、对文明却寄托希望的人，绝无一点可能会是“同类”。

    观察，调查，甚至直接交锋，都不一定靠谱，但面对教授的方然却如此肯定。

    因为教授的年龄：五十有余，结合现实世界的发展轨迹而言，这时候再追寻永生，已经太晚，成功的希望极其渺茫；

    更不用说若志在永生，一个人，又怎会选择理论物理为奋斗的方向。

    想通了这一点，忽然间，长久以来连轴转、每天都殚精竭虑的年轻人，心生困倦，他不太想在这时候继续保持高度的警惕与伪装。

    于是他便直言相告：

    “不，我认为，这是杞人忧天。

    时间有限，很全面的分析过程一时无法说清，但明显的事实是，现今人类世界存在的一切自动化、智能化系统，完全是由人来创造。

    要说这人创造出来的工具，会反噬其主，理论上是有这样的可能性，但我却怀疑，会研究、制造出这种系统的人，他的行为动机又会是什么，难道就是为了毁灭眼前的这一切，甚至不惜搭上自己的性命？

    人的一切行为，皆有动机，这是我思考的出发点。”

    “哦，这是你的想法？

    这想法可一点也不新颖，当然，我目前还没能找到反驳的论据。”

    那么教授您难道是相信这一点吗：

    人类创造的工具，会反戈一击，这岂非就是在说，未来某一天的计算机系统，会生出能权衡利弊、能寻找动机的自我意识，进而如同蛮族毁灭罗马那样，毁灭人类文明么。