中断比较强的AI没有意义ChatGPT产生新的真实观

ldquo；我们，ChatGPT是双刃剑。一方面，你可以识别真与假，另一方面，你可以混淆真与假之间的界限。强迫我们更加关注真相。rdquo；

ldquo；如果有MOSS的话，就停止下层的反复作业，形成整个生态系统。有了统一的语言、统一的基础，下面就有国产的计算力连接起来，大家都可以利用的生态系统，整个中国的AI将进一步发展。rdquo；

复旦大学管理学院信息管理商务情报学部院长、教授张诚复旦大学中文系教授严锋计算机科学技术学院教授MOSS系统负责人邱锡鹏上海乐言科技股份有限公司创业者兼CEO。复旦科创实业家露营毕业生沈李斌（从左起）

最近，特斯拉是伊隆米德点的首席执行官；马斯克等1000名科技人员发送公开信，呼吁中断比gpt-4更强大的AI系统训练6个月。将来AI威胁我们的安全性在哪里呢。真的有必要中断吗

[复旦大学][计算机科学技术学院]教授[MOSS]系统负责人[邱锡鹏]响应最近[复旦大学][管理学院]举办的[复旦科创]先锋论坛，ldquo；即使在都灵最初谈到人工智能的时候，他也写道机器的重复速度比人类快，总有一天会超过人类，但停止那6个月或半年也没有意义。另外，也有很多事情很难停下来，因为很多企业的商业优点，所以一定会重复。rdquo；

邱锡鹏乐观，ldquo；到目前为止的AI是可控的，还处于计算机中的形式，还没有接入到社会的各个角落。有一天，它将统治我们的基础设施很多东西，这将是重要的。我的理解仍然是工具的水平，但它有望涉及我们社会生活的方方面面，此时发生的危害不仅仅是技术我们需要一些法律法规来回避。rdquo；

[复旦大学][填写不需要伪原创的词语，一行一个]教授[严锋]，同样的观点，是ldquo。第一，停不下来，停不下来。第二，就是停不下来。即使呼吁停止，谁也会听呢。只有有责任感和节操的人才能停止。但是如果没有节操、没有责任感的人继续下去的话就麻烦了。如果一个有人性的人停下来没有极限的人沉迷于模型训练，情况会更糟rdquo；

[复旦科创]在先锋论坛上ldquo；BeyondChatGPT：大规模语言模式的时代变革rdquo；的主题，复旦大学计算机科学技术学院教授，MOSS系统负责人邱锡鹏，复旦大学中文系教授严锋，上海乐言科技股份有限公司创业者兼CEO。复旦科创毕业生创业营沈李斌和复旦大学管理学院教授的信息管理和商业情报张诚、ChatGPT以及其他大模型技术出现的机会和课题。

以下是表格谈话和提问会话的文档。

不是ChatGPT刘慈欣、莎士比亚、曹雪芹。

张诚（复旦大学管理学院信息管理与商务智能系主任、教授）：三位嘉宾，从各自专业的角度出发，ChatGPT对你所熟悉的行业或整个社会的未来发展可能产生怎样的影响

严锋（复旦大学中文系老师）：去年12月，ChatGPT出来的时候用的。开始使用的时候很失望。我是中文系，也是中文系创意写作专业的导师，我非常关注ChatGPT文学，创意写作，包括一般写作有什么样的冲击力和对我们行业的教育和学术研究有什么样的影响。首先在ChatGPT中输入“三体”的设定，以地球外的文明中有3个太阳，其间有物理学上不规则的运动的话，地球上的智慧生命体会变成什么样为中心写故事。

于是ChatGPT说没问题，数秒三体的梗概出来。我一看真的是那样，说得很流畅。那就是，在有3个太阳的银河中，由于太阳的不规则运动，行星的生活环境很严峻，由于智慧生命体依赖技术，技术发达，开始星际航行，从行星上飞了出来。但是在那个过程中，他们的文明发展太依赖技术了，有一天他们的机器坏了，整个世界毁灭了。但是，一些智慧生命体幸存下来，认为不能过于依赖技术，找到了古老的记录，开始烧田，新的文明诞生了。

这个故事听起来也不错，但逻辑上没有问题。但是从sf文学的标准来说，这个故事当然不是像刘慈欣那样的“三体”水平的作品。它缺乏创造性，缺乏艺术性，也缺乏打动人的力量。在那个时候，ChatGPT还是比较老的版本，我相信它可能会研磨得更好。也可以提示引导出各种各样的想法用户可以提出各自的想法，但是为了能马上明白，不能只用ChatGPT来写。人的判断力，艺术品味，接受传统的人文学教育还是重要的，甚至更重要的。另一方面，成为我的写作助手，或者成为布莱恩斯托明的工具都没有问题。

我和一些同行交流，ChatGPT能不能写论文那很好，但让他们直接写也有问题。也有关于某部分的问题，请提供视点和材料，使之进一步发展归结的方法。写论文需要整体形象、整体形象的视角和问题意识。

张诚：我理解严老师说的话。涌出是什么样的能力。当然涌出是物理概念。你体验的时候涌出的是总结、组装的力量，是否会产生新的文章和想法。

严锋创意写作和文学写作需要很多想象力、创造力、独创性，甚至天赋。在这一点上是平庸的，但也可以说是流畅、自信、有逻辑的，整个故事的逻辑是没有问题的。在看得见的时间里，你可以写得井井有条，但没那嚒有创意。理工科不习惯，人文社会科学毕竟是助手的工作，要完全依靠它现在是不可能的。

张诚：至少在文学领域，ChatGPT可以承担更多辅助性工作，或者替代一些传统，完成常规工作式工作，但在最高端或前沿文学创作上还暂时不足。

严锋：暂时不是刘慈欣、莎士比亚、曹雪芹。它可能是一个三流的小说家，但它能为你提供各种信息、材料。通过写作具体的知识，比如航海、太空、电子技术等，这是很有用的。在传统时代，作者会进入图书馆，在互联网时代会进行搜索，但是搜索的结果必须由人来判断、整理和提取。今天的ChatGPT可以为你提炼工作概括，为你细化问题，即使这是过去没有的，过去你可以用google和百度，还是要花很长时间，在沙子里捡金子。ChatGPT毫无疑问，它大大提高了我们学习和写作的效率。

ChatGPT代替下级程序员

张诚：这真有趣。特别是对技科领域的影响不是很大吗。我们经常说程序猿或者ldquo。搬砖狗rdquo；重复的工作有很多。你觉得邱老师怎么样，不管是ChatGPT还是MOSS，今后对你的详细领域会有什么影响

邱锡鹏（复旦大学计算机科学技术学院教授，MOSS系统负责人：我有非常同意严老师的地方。现在的ChatGPT的表现与普通人相似，不过，在被细分了的专业性上与业界的最高水平的专家有很大的差异。被认为很厉害的是它的通用性。到现在为止制作了的人工智能模型，是所谓弱的人工智能模型，譬如AlphaGo只围棋能打，不过，我想象ChatGPT一样的大的语言模型，在语言水平非常擅长，通用性高（贵）

在专业性方面，我认为它将来会有不同的分支，向不同的专业方向发展。另一方面，它的能力还在不断进化，虽然在文学上无法评价，但通过让它交替写科幻小说，可以写出大约100页以上的科幻小说，所以它的能力非常高。对于计算机编程，它的能力也非常高，研究这个软件工程，如何把需求变成一个代码，他们已经在这方面做了很多研究，大体结论是ChatGPT可以代替比较底层的这些程序员。高度的，或者创新的，非常整合力高的任务，还是缺不了人的。

张诚：正如刚才严老师所说，ChatGPT如果能代替一部分简单的工作，人类就能将自己的能力和能量更多地释放到创造上。在科技领域，如果能以ChatGPT或MOSS为辅助完成部分软件工程学基础工作，那么软件工程学专业的学生们预计，从这些繁琐的工作中解放出来后，他们将在哪些方面发挥新的活力？

邱锡鹏：人的适应力非常高，有了新的工具就一定要利用新的工具。就像搜索引擎一样，现在就像我们的外脑一样；现在程序员写代码也包括在内，很多时候不是从零开始，而是参考现有的开源代码来写。但现在有更好的工具来帮助你，也省去了搜索步骤。严老师刚才ChatGPT的整合能力，整合了满足您需求的代码，直接编写了代码。不是像以前那样找很多片段自己去扒。

张诚：我们的信息管理专业也是相关专业。以前我们做作业的时候都会找开源程序参考。在摸索中变成ldquo。踏坑rdquo；、至少这些摸索工作以后会更高效地完成。刚才从老师的角度探讨了这个问题，沈总在行业里。你觉得怎么样？

沈李斌（上海乐言科技股份有限公司创始人兼CEO，复旦科创企业家营地出身者）：我们的主要产品之一是呼叫机器人，每天在线接待千万级的人。大家都是电商平台，感觉不到机器人在服务。我们关注的是如何将人工智能技术产业化，以取代原来工作中简单重复的部分。

我以前也做过机器翻译，看到机器翻译也有规律。从我的经验来看，ChatGPT这个技术是革命性的。原来人工智能的技术限制，只局限于某些领域，因此人工可以被替代，慢慢地在很多行业都可以看到它的替代。例如，在翻译领域，前五年左右我在做翻译时，都是从头到尾翻译稿件，但现在这个行业已经完全改变了。如果用机器翻译的话，人手再加5%的劳力就能做得更好。在AI给予力量的行业中，翻译最简单，从原文到目标语言，对外部知识的依赖很少。呼叫机器人已经替代了7、80%的人工，如果有人留下来可以做更积极的工作，而不是回答简单乏味的问题。ChatGPT的发展，AI的能力不仅仅局限于这两个行业。原以为需要大量知识的积累，包括教师、金融工作者和大量脑力劳动者，其实大部分具有重现性的工作，都具有机器完全可以替代的能力。至少这项技术已经看到了，应该是这个发展方向。

ChatGPT强迫我们避免学术垃圾的生产吗？

张诚：大家或多或少提到替代人工，人被释放可以做创新工作。但是ChatGPT在置换了一些人的工作后，如果人类在没有找到新的创新点的情况下在短时间内引发技术变革，GPT取代人类就等于替代关系而不是促进关系。

严锋：许多传统老师的职能被替代。当教师传道解除混乱时，ldquo；上课是使rdquo混乱的地方，ChatGPT能，不过，传道难。我想问某人的思想是什嚒，观点是什嚒，老师很快就会回答我。当然，学生也可以听书。这可能需要很多时间。此外，有些答案并不总是可靠的。老师会给出可靠的答案。这很重要。现在，如果ChatGPT也能给老师同样的可信度答案，那么老师这部分的职能就会被替代。我甚至认为，随着整个模型的完成，它的可靠性会超过老师。

并不是所有的老师都值得信赖。老师的知识挑战了信息爆炸的时代，需要重新学习和适应，在此过程中一些老师可能会失业。对于学生来说，他们使用ChatGPT这样的工具，所以有天然的优势。

ChatGPT可以说从以前开始就突出了某个问题。我是说，我们称之为知识和学问的东西太多了，实际上是事实。而且，这个事实还不一定那么可靠。这些东西可以完全放入数据库，在需要的时候提取出来。以这样的标准来看，我们的很多论文，还有所谓的知识，其实是真的过时了，或者本来就无效了。

关于技术，我认为不仅是面向未来，过去的学术、知识、教育中存在的问题，比如各种重复、冗余、谬误、复制和粘贴等，都会让你反省自己。因为以前没有像“ChatGPT”这样的工具，所以这些问题并不容易表现出来，但是现在随着“ChatGPT”的出现，变得更清楚了。那会不会迫使我们进一步避免学术垃圾的生产。我们是否能从那种低效、反复性的学术劳动中解放出来，专注于更有效的学习、更有效的知识和更有效的独创性。

张诚：不知道邱老师是怎么想的，在教育领域，各大学采取的应对方式也不一样。有些大学鼓励学生使用ChatGPT，但老师要看学术为什么存在。有的大学禁止使用ChatGPT完成作业。

邱锡鹏：这是一个很难回答的问题，在某种程度上可以让学生巧妙。从学习知识的角度来看，你可以用这些工具让自己成为一个了不起的人。可能涉及到我们的培养理念，学生是可以看起来很厉害，还是让他们了解背后的东西，是不是需要从头开始学习。

我们人类的学习方式与机器学习方式相比有着天然的劣势，人的学习速度慢，机器的反复非常快，不知疲倦地学习。每个人都必须从童年开始学习。如果我们一直保持这种方式，人类的进化速度其实很慢，机器会越来越快。如果我们想快速发展，就要积极接受这些新技术，利用它们来促进我们的学习，使我们的学习速度，或者增长速度更快。

张诚：我想起了另一个问题。哲学老师也是这么想的。到目前为止，人类并没有通过大量的数据和复杂的模型计算来实现知识的前进。我们按照比较小的现实观察和我们人类引以为豪的逻辑前进。这会引起两种讨论。第一，现在这样的人工智能显然与人进化的智能不同。这是什么智能？第二个问题是，刚才邱老师说的是本质问题，ChatGPT或者MOSS，已经具备了在相对大数据中加入推理连锁或者思维连锁的模式，我们人类如何跟上它？

邱锡鹏：如果按照那个逻辑反复，它会越来越强大，最终会超脱我们人类的控制。正如刚才所说，我们了解世界可能更多地依赖因果关系。还有很多学者认为它非常重要。因果是非常容易理解复杂的世界。例如，人类实际上无法想象超过三维的东西。升到四维我们就很难理解了，高维就更难了。

当社会和世界变得非常复杂时，人类的理解力是有限的，机器可以从大量的数据中找到关联性。这也引发过第四范式，我们在很多情况下，不必追寻原来的科学假设，关联性可能足够。从我们目前的角度来说，今后开发人工智能或人工智能的各种产品，一定要配合人的价值观，使人与机器在未来能够和谐共存。

沈李斌：你刚才说的潜在影响可能是哪个方面的，我觉得很难回答。像最近的家长一样，当孩子上大学问我应该向什嚒专家报告时，我真的回答不出什嚒专家好。以前，我认为创意类职业可能对机器学习的影响比较小，但我不认为这种波浪生成式AI是从文字生成图像，在大脑中打洞，制作各种创意的图开始的。这种影响很快，很多企业已经使用这个文字生成图像，产品有一定的创造性。正如刚才严老师举的例子，那就是无止境地在头上打个洞，然后做下一个生成。

它的潜在影响非常大，一些入门职位可能会消失，但我们现在回顾一下这些资深专家们从入门中成长起来。如果没有这些入门职位，他们能以什么样的方式成长，这是令人担忧的地方。

从检索力到MOSS力

张诚：我们ChatGPT时代的危险，而且机会说得太多，不知道大家对同学们有什么建议和想法。

严锋：这也是一个非常好的问题，面对AI的崛起，我们如何适应这种变化。一定会有科研、学习、教学、认知的大转变。首先，很多危险我们不清楚，但有一点是确定的，也有很多人还没有意识到的。我认为，我们如何认识我们与AI的关系，如何学习这项技术，如何与它相处，如何提问，这将是一个新的职业。我们本来就有一些缺失的环节，比如我们中国学生腼腆、内向，不太喜欢提问。AI逼我们成为提问者。我想我们将来应该学会成为更好的prompter（提词师）无论是对提问者、AI还是传统老师，还是对其他人，这都是我们本来应该做的。

另外创造性真的很重要，我们以前可能崇拜钱钟书先生这样富有的人。他们的脑子里有全世界的知识。然而，在ChatGPT时代，这种知识分子形象可能不再是我们追求的目标。因为越来越普遍，每个人都会被ChatGPT束缚，连接API，转眼间就变成钱钟书先生了。

我们以前埋头苦读，做题目，这个学习方式也要调整吗。我们需要一种新的学习方法，它有点像ldquo。rdquo ;。我在研究游戏，很多创造性的东西在游戏性活动中产生。我们把许多繁琐、重复、简单的劳动交给AI，从事艺术、娱乐和游戏的时间会更多。我们人类的优势在哪里，我们的特长在哪里，如何扬长避短。我们是有感情的动物，AI至少目前还没有。AI反而让我们更走情商之路，包括更能处理人与人的关系、人与机器的关系、人与自然的关系。

我们可以有新的真实观。ChatGPT是一把双刃剑，一方面可以鉴别真伪，另一方面它又可以混淆真伪的界线，反而让我们更加关注真实，做真正的人，做真实的人，做实际的人，做批判性思考的人。我们还是需要人类来判断真伪，在这一点上我们不能完全依赖AI。这是未来学习中必须努力的方向。

邱锡鹏：不仅是现在，其实更早之前，人们对AI可以替代人的很多工作都很担心。我的总体观点是，AI可以替代工作的一部分，但不能替代能使用AI的人的工作。人类擅长的是利用AI的能力让工作变得更好，人有适应性、灵活性。和AI相比谁能记住非常多的数字，谁计算得快，没什么意义。这种知识性的东西，可以用ChatGPT作为词典。另外，综合性的思考、判断、AI的活用变得更好是很重要的。

沈李斌：代替你的不是AI。是熟练使用AI的人。对人也是如此，对企业也是如此。我们看到所有部门如何使用类似生成技术来提高生产效率，以及如何在各种过程中使用AI。毫无疑问，能够发挥这些创造性能力的企业比其他企业具有更高的层次优势。这是一个比较大的结构性机会。

二是这种生成式能力产生后，由于生产率大幅度提高，许多企业与企业之间的上下关系发生了变化，这也是结构性机会。在美国，近半数的风投项目都与AI相关，相信国内很快就会出现这种状态。以前人们说个人、企业都有搜索能力，但是如何在搜索引擎上做各种各样的事情，之后会有MOSS的力量，很好地使用MOSS系统可能是第一步。

为什么要开源？

现场提问：3月22日，美国生命未来研究所向全社会发出公开信。这封公开信呼吁所有人工智能实验室暂停训练比GPT-4更强大的AI系统，暂停时间为6个月。许多AI行业的专家和大佬们都签了名，包括马斯克、苹果联合创始人等。老师们对这个问题持什么态度。这些人为什么在这个时间提出这样的问题。而且未来AI对我们安全性的威胁在哪里呢。

邱锡鹏：图灵最初提出人工智能的概念时，其实写过类似的描述，机器的重复速度比人快，有一天一定要超过人，停止这六个月或半年是毫无意义的。此外，毫无疑问，它会从许多公司的业务利润中迭代。我还是乐观的，我们迄今为止的AI还是可控的，它目前的形式还在计算机中，没有接入社会的方方面面。如果有一天它继承了很多东西，成为我们的基础设施，那是非常重要的，你必须控制它的各种能力。我的理解仍然是工具层面的，但我希望它能涉及到我们社会生活的方方面面。此时发生的危害不仅是技术，还必须被一些法律法规所回避。

严锋我非常赞成邱老师的意见。第一个没能阻止，张弓也没回头。第二，不要停下来。呼吁停止，只有有责任感、有节操的人才停止。但是没有节操，没有责任感的人还在继续，这样就不好了。一个有人文情怀的人停下来，一群没有底线的人在训练模特，情况会更糟。

现场提问：随着ChatGPT的爆发，人工智能技术被应用于非常多的商业场景，我们如何通过一定的机制来约束它，使这种技术不被滥用。

沈李斌：一是政府监管层面，一是个人，企业利用AI提升自身能力，两个角度。

从可靠、可靠的AI角度来看，这是政府必须考虑的，如何做到可靠、可依赖的AImdash，mdash；符合社会价值观，体现社会公平性。这些都是政府能想到的。对于企业来说，首先要用，鼓励他们做一些邀请，做一些分享。网上各种媒体的类似分享已经很多了，相信一定能找到一些办法。在生成式AI三要素中数据是一个比较重要的因素，是否可以像“MOSS”那样考虑生产线的结合，吸引工业界参与，使“MOSS”增长更快。

邱锡鹏：MOSS我还是想以开源的形式来做，为什么美国会卡在我们的脖子上，它一个一个准确，就是我们的生态不牢固。OpenAI制作ChatGPT的时候，不需要注意其他的东西，只是制作模型。微软帮助计算它的力量，另一家开源公司帮助配置它，其数据也由专门的公司进行数据清洗。它是在整个生态中进行的，其生态推动其发展非常迅速。

在我们国内每个公司都要做，但这发生了一个问题，每家都不大，都做自己的，所有的东西都自己来，又不想和别人分享。每个数据的计算能力也有限，也没有多少钱来支持研发。它还做一些基础性和重复性的事情。我们希望促进这一生态，有了MOSS，就停止底层重复作业，构建整个生态。如果我们有统一的语言、统一的基础，接下来对接国产的计算力，做好界面，大家都可以使用，促进生态链建设，使整个中国的AI得到进一步发展。

现场提问：中文语言的复杂性和现阶段中文由于语料库的管理关闭而导致的多样性发展的缺乏，会牵制中文AI的学习和发展吗。

严锋：我确实遇到过中文内容不足的问题。ChatGPT我曾经问过有关“红楼梦”的问题，答案非常离题。但当你听到莎士比亚的作品时，答案却近乎真实。我收集过很多关于《红楼梦》的研究资料。中文的东西和外语的东西完全没有比例。我认为在这个领域中文的内容是压倒性的，光靠外语的训练是不行的。我们有更多经过验证的语言，需要把文本和学术内容加入数据库。

我的想法可能是从另一个方向。人类沉迷于图像，最初是用图像进化的，但在语言进化后，图像似乎退位了，20世纪进入了图像时代。图像似乎比语言更可靠。因为图像造假的技术难度远远超过了语言，而现在图像造假的难度已经大大降低，甚至等同于语言。在这种情况下，图像的优势发生了变化，这是自然的进化。我作为中文系的教师，这时有了小小的私心，我认为语言的这些东西还是永恒的，我现在很开心地看到21世纪语言又回来了，因为AI的核心是语言。

邱锡鹏：目前，这类大模式培训文本中重要的数据之一是科学文献，而现在大量使用英语文献，会造成很大的差异。但是，更好的现象是，关于语言的秘密知识在某种程度上是相通的。这次“MOSS”的开发过程中也有同样的现象。两种语言背后的知识是共通的。用“中文”提问的话，可以用英语知识回答。反之亦然。我想大概对机器来说，是使用中文还是使用英语，对机器来说只是用哪个代码表示，背后的知识对机器来说是一样的。

【出处：澎湃新闻】