Google 前 CEO 埃里克·施密特近期在斯坦福 CS323 课堂上的访谈（后续一） Eric 的访谈是在斯坦福的课程《The Al Awakening:Implications for the Economy and Society》之上的，讲师是Erik Brynjolfsson，在 Eric 走了之后，还有一些内容讲的也非常不错，翻译后放上来了 *** 实际上，让我再强调一下最后一点，因为我觉得在第一节课中我没有谈到关于使用大语言模型的事情，这在这门课的作业中是可以接受的，但必须充分披露。所以，当你使用它们，如果你在完成每周作业或期末项目时使用了它们，就像你向你友好的叔叔或同学寻求建议一样，你也应该这样做，或者如果你有笔记需要包含在内。 所以我想谈一谈关于 AI，特别是 GPT，这对商业及其影响意味着什么。但在我们讨论这个之前，我想看看你们是否有任何问题想要跟进，特别是关于 Eric 提到的内容，我会尽量表达他的想法，我们可以讨论一下这些话题，然后再继续。好的，你请说。 学生1: 我想问的一个问题是关于监管的。如果目标是保持领先地位，如何创造正确的激励机制，使每个人，无论是盟友还是非盟友，都有动力去遵守？ Erik: 你是指在竞争中的公司之间吗？是公司还是国家？ 学生1: 是国家，比如美国和欧盟。这是否不会成为那些选择遵循法规的国家或公司发展的阻碍？ Erik: 这是非常棘手的问题。Barry J. Nalebuff 写了一本叫做《合作竞争》的书，其中讨论了这些问题。确实有些情况下，监管可以帮助公司和整个行业生存下来。所以监管并不一定会减缓进展。标准就是一个很好的例子，明确标准反而能帮助竞争。 我和许多公司的高级管理人员进行过交谈，他们确实希望在某些领域有一些共同的标准，有时候在一些危险领域还存在“竞相降低标准”的现象。谷歌的团队曾表示，他们没有更快推进的另一个原因是，他们担心大语言模型可能会被滥用或存在危险，但他们在某种程度上感到被迫加快步伐。 我还与另一家大公司的员工谈过，他们说，“我们本来并不打算发布这个功能，但现在竞争对手都在做，所以我们不得不也发布。”这也是为什么在某些情况下，可能会有协调监管的兴趣，但显然，更常见的情况是，监管被用来阻碍竞争。例如，很多人认为，一些大公司反对开源和推动更广泛的开源的部分原因，就是他们想要放慢竞争对手的步伐。所以，这两种情况都存在。 学生2: 好的。我想跟进一下刚才的讨论：我们还应该学编程吗？我们还需要学习英语吗？这些技能还会有用吗？ Erik: Eric 的回答是肯定的，比如受过大学教育的高技能工作或任务仍然是安全的，但其他的，比如停车管理等，可能就不能保证了。这种情况可能有一些主观因素影响。 这个话题很有趣，或许我们可以在接下来的几分钟内再讨论更多。但确实值得思考的是，AI 系统到底是在替代人类的工作，还是在补充人类的工作。在编程领域，目前看起来，AI 似乎对最顶尖的程序员并没有太大的帮助，反而对中等水平的程序员非常有帮助。但如果你对编程一无所知，它同样也帮不上什么忙。所以这有点像一个倒 U 型。 可以理解这种情况，因为如果你连AI生成的代码都无法理解，那这些代码往往会有问题，或者并不完全正确。如果你不能理解代码的运行逻辑，那么你也无法有效地使用它。另一方面，对于顶尖的程序员来说，生成的代码仍不够优秀，所以才会出现这种倒 U 型曲线。但这也就意味着，如果你完全不懂代码，你仍然需要一些基础知识，才能让AI的帮助变得有用。我认为这也适用于当前的很多应用，你需要有一些基本的理解，才能最大程度地利用它。 我觉得这也是一个值得探讨的问题：这种情况是否会一直存在。在上一节课中，我简要介绍了从 0 级到 5 级的自动驾驶汽车。这其实也是我们可以讨论的一个话题，我在试图梳理，如果把这种模式应用到经济中的所有任务上，那它们会经历多少级别的变化？ 就自动驾驶汽车而言，我们目前还没有真正达到第5级，虽然我不知道你们当中有多少人坐过 Waymo 的自动驾驶汽车。这款车的表现相当好，但我和 Sebastian Thrun 一起乘坐时，他说目前的运营成本非常高。可能每辆车的运营成本会亏损 50 到 100 美元。他并不确定具体的数额。因为他已经不在那儿了，虽然他是项目的创始人，但现在不再参与。运营成本太高，使得这款车并不实用。或许随着时间的推移，激光雷达的成本会降低，使得运营成本会降低。 我们有很多 2 级、3 级甚至 4 级的自动驾驶汽车，这些车辆还需要人类的参与。其他很多任务也是如此，比如编程，我刚才已经提到过了。 另一方面，关于国际象棋，在前一张幻灯片中我提到了一种有时被称为“高级国际象棋”或“自由式国际象棋”的概念。加里·卡斯帕罗夫在 1997 年输给深蓝之后，他发起了一系列比赛，让人类和机器可以合作。在相当长的一段时间里，比如在我 2012 年或 2013 年做TED演讲时，当时的情况是，人类与机器合作可以击败深蓝或任何国际象棋计算机。因此，当时最强的国际象棋选手是这些人机组合。 但现在情况已经不同了。像 AlphaZero 这样的程序，即使有人的参与，对他们来说毫无益处。反而可能对棋局造成干扰。所以，它经历了从机器什么都做不了，到人机合作，再到完全自主的阶段，我不太确定，大概用了 20 年的时间吧。 如果有人想做研究项目，或者你们现在有想法的话，可以探讨一下，哪些经济任务会处于那个中间地带。因为那个中间地带对我们人类来说是一个不错的区域，机器可以帮助我们，但人类在创造价值方面依然不可或缺。在这个区域里，可以提高生产力、创造更多财富和提高绩效，同时也更有可能实现共享繁荣。因为劳动力的分布性使得其更广泛，而技术和资本正如 Eric 刚才提到的，可能会高度集中。 你对此有什么看法吗？ 学生3: 我想问一个相关的问题。Eric 还提到我们在芯片制造方面有一个10年的计划。 Erik: 是的，我对此感到惊讶。 学生3: 是的，我觉得有趣的是，作为一名劳动经济学家，文献和新闻中对此有一个积极的信号，如果我们正在将所有的芯片制造都转移到美国国内，那么这可能会带来蓝领工作的复兴吗？我想知道你对智能机器人模型或人类劳力有什么看法。 Erik: 嗯，我认为这不会有太大的影响。你们当中有多少人参观过芯片工厂？有人去过吗？有几个人去过。工厂里有多少工人在工作？ 学生4: 是台积电吗？是纽约大学的人去的，所以我不确定。 Erik: 好吧，答案是零。他们不让人们进去的原因是我们人类太笨拙、太不卫生，所以全部都是机器人操作。所有设备都在密封环境中运行。因此，确实有人需要运送物资等工作。如果机器人倒了或者出现了问题，他们得穿上像太空服一样的防护服进去调整，然后再出来，希望没有弄坏什么。所以，基本上是全自动化作业。 对，我认为这需要一些更复杂的劳动力，但我不认为这会有太大的蓝领工人复兴。实际上，苹果之所以将 MacBook 的生产线转移到德克萨斯，不是因为德克萨斯的劳动力便宜，而是因为他们实际上不再需要太多劳动力。所以这个过程很像做体力劳动。因此，美国制造业虽然在产出方面增长明显，但在就业方面却并未有多大增长。 学生5: 你认为 AI 智能体或文本转行动模型在明年会出现转折点吗？ Erik: 哦，当然。不，不是。Eric说的这些，我也听说过类似的东西。他很好地总结了这三大趋势。我之前已经分别听说过这些趋势，但他能够将它们整合起来确实不错。 今天早些时候，我和吴恩达谈过，他一直在强调，特别是预计在 2024 年将会迎来智能体的大潮，吴恩达老师描述得很好，就像你们都知道的，如果你让一个大语言模型写一篇文章，它会一个字一个字地生成，从头到尾一次性完成，效果还不错。但想象一下，如果你写文章时不能使用退格键，也不能先做大纲，只能直接写完。现在的 AI 智能体会说，好的，首先我们需要制定一个大纲。这是写文章的第一步。接着，填充每一段内容，再回头检查文章的流畅性。然后，再看看语气是否合适，这是否符合目标读者的水平。通过这样反复迭代，你可以写出更好的文章或完成其他任务。这是一场真正的革命，通过这种方式，你可以把很多事情做得更好。 还有关于上下文窗口的事情，也非常重要。所以我引用一些我认识的聪明人的话，Eric Horvitz，我上周在 GSB 的一个讨论小组上与他同台，有些人可能在场。他提出了一个很好的分类法。人们在问他关于微调的问题，我记得是 Susan 问的。他说，其实有三种方法可以让模型更加个性化。第一种是微调，也就是进一步训练模型。第二种是使用更大、更强的上下文窗口。第三种是使用 RAG（检索增强生成）或类似的技术，它能够访问外部数据。 但现在这些上下文窗口似乎效果非常好。我想，正如 Eric 所说，我们本以为这很难。也许 Peter 可以解释一下。但不管怎样，现在我们能构建更大的上下文窗口了，现在，你可以输入一整本书或一整套书籍。你可以输入各种各样的信息。这能给你提供所有的上下文环境。所以这是相当革命性的。这为我们带来了许多之前没有的能力，包括让信息实时性更强，就像 Eric 提到的那样。