机器心报道 机器心编辑部 当今的大学生应该选择什么职业?未来100年,大学会是什么样子?工业界的人工智能很强大,但学术界还能做什么呢?谷歌在过去20年里做了什么正确的事情?你后悔什么?在斯坦福工程学院百年校庆闭幕式上,谷歌联合创始人谢尔盖·布林回到母校,会见了校长乔纳森·莱文和工程学院院长詹妮弗·维多姆。视频链接:https://mp.weixin.qq.com/s/ULgd7QcHLXfX8VGil6ATtQ 布林于1993年加入斯坦福大学工程学院,担任计算机科学专业的研究生。我在读研究生时认识了拉里·佩奇。他们一起开发了搜索算法,并于 1998 年创立了谷歌。回顾谷歌的起源,布林承认,八年前他提出使用 Transformer 时,没有给予足够的重视,不敢与世界分享,担心我认为聊天机器人会说一些愚蠢的话。但他也相信这些年来他们做了很多正确的事情,包括投资 TPU 研发和建设大型数据中心。对于未来,布林也表达了自己的看法。比如,他们认为未来大学不应该局限于特定的地理位置,学术界未来应该进行更多探索性研究,材料等科学研究方向可能会被低估……以下是对话节选。谷歌从一开始获得了什么?学术基因,愿意接受困难挑战的董事:谷歌已经是一家市值4万亿美元的公司,业务范围极其广泛,这些年来你一定做出了很多好的决定。谷歌创立初期一切顺利吗?布林:我认为在早期,拉里总是非常雄心勃勃。现在仍然如此。对于你提出的每一个计划,你几乎总是说:“这并不雄心勃勃。”我们整理世界信息。从一开始我们就有一个非常雄心勃勃的使命宣言。我认为这是创办公司的良好哲学基础。此外,我们还创建了一家相当学术的公司。拉里和我都获得了博士学位,当时许多初创公司都是由大学生创立的。我认为我们思考事物的方式会发生一些改变。自成立以来,我们非常重视研发基础投入。总监:我认为谷歌在过去 25 年里成为世界上最具创新力的公司是有充分理由的。无论是产品创新、收购 YouTube 以建立视频业务、收购 DoubleClick 或 Waymo 以进行广告还是许多其他重要决策。从一开始,技术创新就引人注目,现在他们也开始制造芯片。保持高水平的创新对于大公司来说很难,每个人都在努力争取,但你做到了。许多人认为他个人在这方面非常有影响力。您如何看待促进创新?文化上?布林:有勇气去尝试是一回事。由于我们的学术根源,我们可能倾向于接受困难的挑战。在过去的十年里,困难的价值越来越高。以人工智能为例,人工智能所需的计算量和高等数学都是技术上深奥的难题。命运使他们在当今世界变得举足轻重。曾经有一段时间,您可以运行 pet.com 并将 .com 添加到所有内容中。技术深度要求不是很高;一点点网络知识就足够了。我们现在雇用的人比我当时要好得多。虽然在我的班上相对不寻常,但我在本科期间同时学习了数学和计算机科学,所以我被认为是计算机科学重点学习数学的学生。但现在它正在从斯坦福大学和其他顶尖项目招募数学和计算机科学人才,其中包括许多物理学家。物理学家需要做高等数学,而他们的许多工作都受到计算能力的限制,因此他们也需要计算技能。我们很幸运,我认为我们能够更早地朝着这个方向前进。 《变形金刚》报纸发了,但我们并没有认真对待。导演:我们来谈谈人工智能吧。每个人都在关注他。您返回 Google 来解决此问题。贵公司在很多方面都处于领先地位,竞争非常激烈。单个公司层面对人工智能基础设施的资本投资达到数千亿美元。您如何看待人工智能的现状?布林:我们在某些方面确实失败了。大约八年前,当我们发表 Transformer 文章时,缺乏投资,而不是足够的关注。我们并没有太认真地对待它,我们也没有投资扩展我们的计算能力。我无法向用户展示它,因为聊天机器人会说一些愚蠢的事情。 OpenAI 冒了风险并且做得很好。这是一个非常明智的想法,这取决于我们像以利亚这样的人出去做这些事情。但我认为我们仍然受益于悠久的历史。我们开发神经网络的历史可以追溯到谷歌大脑。还有一点运气成分。我们并不幸运地聘用了杰夫·迪恩,我们很幸运拥有他,但我们聘用了他,因为当时我们有一种心态,即深厚的技能很重要。我们从DEC(Digital)挖来了很多人才,因为当时它拥有世界一流的研究实验室。杰夫对神经网络的热情始于大学里的一次实验。 16 岁时,我开始做一些疯狂的事情,比如治疗第三世界疾病和研究神经网络。他组建了整个团队。当时,我负责管理 Google X 部门,并负责管理 Google X 部门。让它做它想做的事。他说,“我们可以区分猫和狗,”我说,“好吧,酷。”但你必须相信技术人员。很快他们将介绍我们的一些搜索功能中使用的几种算法和神经网络。我已经开展了一些工作。后来有人想出了 Transformer,我们可以做更多的事情。所以我们有基础,我们有研发的积累。当然,多年来的投资不足和关注不足。但当时我们也在开发芯片,TPU 已经有大约 12 年的历史了。最初,我们使用GPU,并且可能是最早使用GPU的公司之一,然后我们使用FPGA,然后我们开发自己的芯片,现在我们已经经历了无数次迭代。依靠深度技术来获得更多的计算能力并开发算法。同时,这些年来我们在计算方面投入很大,数据中心也很大。除了亚马逊AWS之外,很少有公司拥有数据中心,专有半导体、深度学习算法以及所有这些堆栈组件,可在人工智能的最新前沿进行竞争。即使人工智能可以写代码,我们还需要学习计算机科学吗?校长:我们这里大约有250名学生,其中很多是本科生,但是斯坦福大学给本科生很大的灵活性,所以有很多人还没有决定专业。几年前,我们可能会预测大量学生将主修计算机科学。您会建议他们致力于计算吗? Bryn:我选择计算机科学是因为我对它充满热情,所以这对我来说是一个自然的选择。我也可以说,我很幸运能够在这样一个变革性的领域工作。我不会仅仅因为我的人工智能编程技能现在很好就选择计算机科学。人工智能擅长很多事情。该节目因其较高的市场价值而受到关注,有很多人关注。像我们这样的公司对此非常重视因为更好的编程会带来更好的人工智能。我们通过编程和编程来做到这一点。通常用于算法思想。所以我不会仅仅因为人工智能擅长编程就跳入比较文学。老实说,人工智能在比较文学中可能更强。无意冒犯比较文学的学生,但当人工智能编写代码时,它可能会犯相当严重的错误。在比较文学论文中写错句子的后果并不太严重。所以人工智能做创造性的事情真的很容易。 100年后大学还是一样吗?主任:今年是工程学院建校100周年。如果你是一名院长,即将开启大学的第二个世纪,你会有什么感觉?布林:我会重新思考大学的意义。这听起来可能有点烦人,但当拉里这么说时,我对他很生气。但我们有地理集中,我们有建筑,我们有宏伟礼堂。然而,现实情况是,如今信息传播的速度要快得多。许多大学推出了在线开放课程,允许任何人在线学习并与人工智能聊天。那么成为一所大学的所有者意味着什么?如果您想最大限度地扩大影响力,将自己限制在地理位置上可能不会那么有效。当然,湾区是一个特殊的地方。然而,工程系和大学的概念在下个世纪还会保持不变吗?人们跨越地域流动,远程工作和协作。这有点违反直觉,因为我们试图让人们回到办公室,但我认为人们会更好地保持一致,但只是在一定范围内。如果那里有 100 个人,他们不一定需要和其他 100 个人在同一个地方。我看到越来越多的人创造新事物,无论他们是否拥有学位。我们聘用了很多学术明星,但我们也聘用了很多没有学士学位的人洛尔的学位,只是在陌生的角落自学成才。我不认为我们可以神奇地为您提供新的食谱,但我认为这种格式不太可能成为未来 100 年的模式。既然大公司的基础研究都这么强,学术界还能做什么呢?学生问题1:Google主要使用PageRan,这是在学术界完成的。它源自 k 研究。如今,该行业正在引领越来越多的创新。您认为“从学术界到工业界”的道路还重要吗?如果它很重要,我们如何加强它?布林:说实话,我唯一能给出的答案是“我不知道”。当我还是一名研究生时,新想法往往需要几十年的时间才能在商业上可行。在这样的时间尺度上,学术研究是相当合理的。你有很大的自由来慢慢思考、申请资金和重复实验。你甚至可以研究20年、30年,直到问题慢慢“泄漏”到行业中。可以被大公司吸收或者它可以成为一家风险公司。但如果这个时间大幅减少,会发生什么呢?如果一个想法变成现实只需要几年,甚至更短的时间,这条路还有效吗?我认为这是一个值得重新审视的问题。当然,有时候还是可以理解的。在AI领域,公司将继续关注斯坦福等大学的研究,偶尔也会聘请或与研究人员合作。但很难说,这些作品往往要在学术界酝酿很长时间。例如,一种新的注意力机制可以在大学进行两年的实验,然后引入到行业中。但问题是,行业本身也在做同样的事情。因此,从这个意义上说,学术界的“先锋时期”或许并不具有独特的、不可替代的优势。也许更激进、低水平的创新会改变一切。例如,新的模型架构或新的计算范例。在一旦行业决定投资,它可以在这种方向上迅速扩张,但最初的探索可能仍然更适合学术环境。量子计算就是一个例子。这个想法是在20世纪80年代左右提出的,并长期停留在理论和实验阶段。目前,一方面,有许多公司在量子计算工程方面取得进展。与此同时,大学实验室继续尝试不同的实施方法。我是この种の方向性は、まさに学术と产业界の境界にあります。主流のルートとはまったく异なる新しいいついた场合、たとえば、それが私たちが取り组んでいる超伝导量子ビットでも、多くのタートアプが试みているイオントラップソルューションでもない场合、実际には大学で数区间かけてゆっくせる必要があるかもしれません。この种の质问は非常に难しく、危険を伴いますが、学术的な场では资格化されます。但一旦你真正相信了,它是可行的、有前途的,最终你会进入商业化阶段,以某种方式进入行业。 way.今日の大手テクノロジー企业は実际に多くの基础研究を行っており、AIの分野ではこれらの长期投资からの利益が见え始めているからです。これは、学界と产业界の役割分担の割合が変化していることを意义します。然而,我仍然相信一些研究(持续10年以上且主要基于纯粹探索的研究)通常是工业界不愿意进行的事情,因为其持续时间太长并且不遵循“完成时间”的逻辑。谷歌眼镜的教训:别以为自己是史蒂夫·乔布斯的下一个学生。问题二:人工智能以前所未有的速度加速发展,像我这样有抱负的年轻企业家应该采取什么心态才能避免重蹈覆辙?布林:你有永不重蹈覆辙的心态吗?如果你有一个新的可穿戴设备的好主意,一定要彻底打磨它,然后再做跳伞或飞艇等炫酷的特技。这是一个建议。谷歌眼镜とが行われた例でした。十分に成熟する前に商品化を急ぎすぎたため、费使用対效果や消费者体験の点で准备が整っていませんでした。私は少し急ぎすぎて、自理解できると思っていました。私が言いたいのは、谁もが自思っているということですが、私は间违いなくその间违いを犯したということです。しかし、彼はとてもユニークな人です。因此,最好给你的想法足够的时间,以确保它在达到外部期望高、费用高的阶段之前得到充分发展。数量不断增加,必须在一定期限内交付。您可能没有足够的时间来完成您需要做的一切。期望可能会导致您没有足够的时间来处理它们。这是我想避免的错误。人工智能的下一个前沿领域是什么?学生问题3:我们看到许多人工智能公司通过扩展数据和计算来改进大规模语言模型。一旦我们有了数据和计算,您认为下一步的方向是什么?会是一个新的架构来取代变压器吗?或者说它是比监督学习或强化学习更好的学习方法?布林:在我看来,你提到的方向,新的架构、新的训练方法,已经比单纯扩展算力和数据更重要了。然而,计算能力的扩展是非常明显的。通过建设数据中心、购买芯片,甚至 OpenAI 和 Anthropic 上有关如何扩展的文章,人们倾向于认为所有进步都来自于米规模。然而仔细比较就会发现,在过去的十年里,算法层面的进步实际上比计算能力的提升还要快。当我读研究生时,我看到一张关于 N 体问题的图片。计算力系统中大量粒子的相互作用。从20世纪50年代到90年代,信息学的力量按照摩尔定律呈指数级增长,但真正使解决问题成为可能的是算法的改进,而算法的进步远远超过了计算能力的增长。所以我认为像我们这样的公司永远不会停止走在计算能力的最前沿,但它更像是甜点。真正的主菜是算法的进步。 Dean:让我再补充一件事。事实上,我们都非常清楚大学计算能力不足的问题。大学不可能拥有与工业界相同水平的计算能力,而且差异是显而易见的。但因为其中,我被迫接受一种不同的创新:如何用有限的计算能力更好地做事,以及如何用更少的资源做更多的事情。我们多年来一直在进行此类研究,并将继续这样做。哪些技术被严重低估?学生问题 4:您认为哪些具有长期影响的新兴技术被严重低估?布林:当然,我无法回答人工智能这个问题。很难说人工智能被低估了,在某些方面可能仍然如此,但人工智能不再被视为“新兴”。很多人会提到量子计算并讨论它最终将走向何方。我个人支持与量子计算相关的研究,但说这是我最明确的答案并不是真正的答案。这里有太多的不确定性。从计算上来说,我们仍然不知道 P 是否不等于 NP。计算机科学领域还有许多基本问题尚未得到解答。还有量子算法通常只适用于非常具体、高度结构化的问题。因此,我对这个方向非常看好,但要准确应对低估并不容易。无论如何,我想我会专注于材料科学。无论是人工智能还是量子计算,在材料领域的应用潜力都是巨大的。如果我们能够创造出具有改进的整体性能的新材料,那么改变的可能性几乎是无限的。主任:我其实是在往材料科学的方向思考,正是因为你提到了低估这个词。关于创新机会的争论非常活跃。事实上,聚变能和量子计算等方向正在引起相当多的关注。很难说他们被忽视了。更不用说人工智能了。然而,在我看来,材料科学肯定是一个被低估的方向。生物学和人类学领域也正在发生许多重要的机遇和革命。健康,特别是在科学水平上。分子王牌,但目前受到的关注不如人工智能。 Dean:我碰巧也说过同样的话。这是。我感觉“焦点”正在向各个领域转移,现在主要集中在AI上。但在此之前,它已经照亮了众生世界,而这道光芒是绝对不能熄灭的。合成生物学领域发生了很多非常有趣的事情。所以我认为我们需要稍微扩大一下关注范围。
特别提示:以上内容(包括图片、视频,如有)由自有媒体平台“网易账号”用户上传发布。本平台仅提供信息存储服务。
注:以上内容(包括照片和视频,如有)由仅提供信息存储服务的社交媒体平台网易号用户上传并发布。