卡帕蒂的最后一篇文章：醒醒！不要将人工智能视为人类。他们对死亡没有欲望，也没有恐惧。

这篇文章重新发表了“新萨比杜里亚：人工情报”，这是“非生物”的初步情报，与人类接触有关。人类是动物智能的代表，智能动物是智能动物的代表，但智能动物是“非动物”，自然是人类智能的组成部分（智能动物）。例如，混淆人工智能和人类智能的界限，将人工智能视为更聪明的人类。刚才，安德烈·卡帕蒂（Andrei Karpathy）用一条推文揭露了这些认知“陷阱”。他说：“这种直觉是完全错误的。”卡帕蒂·迪乔（Karpathy dijo）在推特上说，智力的活动是巨大的，动物的智力（包括人类的智力）是单独的。人类智能外科手术是一种生物进化的特殊方法，它是当前技术的重大模型进化的基本原理。今天的大型模型，或者像 ChatGPT、Claude 和 Gemini 这样的智能机器人，有时看起来像我们，甚至像我们一样说话，但它们不是人类或动物智能的数字版本。事实上，它们是完全不同形式的智能。因为？卡帕西认为，主要里程碑在于不同于人类（动物智能）的大型模型的进化动力学和目标。换句话说，大型模型和动物智能的产生是带着完全不同的“进化压力”和目标，这决定了它们长期进化趋势的差异。 1 人类智能与人工智能。由于不同的进化压力和目标，人类智能和人工智能是两种完全不同的智能。卡帕蒂认为，人类智力（动物智力）的进化压力源于以下几个方面：“我”意识的不断流动和维持自我意识的驱动力。在危险的物质世界中的长矛和自我保护。权力、地位、统治、繁殖等强大的内在动力，是由反复的自然选择塑造的。这包括许多启发式生存机制，例如恐惧、愤怒和厌恶。社交：大量“计算机能力”用于情商、情感联系、群体关系、联盟、合作以及识别朋友和敌人。平衡探索与利用：好奇心、娱乐、游戏、构建世界模型等。对此，Karpathy 提出大规模模型，我们认为进化压力主要包括以下几个方面：由于最大量的监督信号来自于人类文本的统计模拟，因此它类似于一个“变革性模仿者”，使用 token 组合来模仿训练数据分布的任意区域。这些是最初的“自然行为模式”（符号轨迹），其他模型可以在此基础上进行模仿。杀戮是叠加的。通过强化学习（RL）不断调整任务分配。它倾向于推测任务奖励的潜在环境/任务。因为它们是根据大规模 A/B 测试的日常活动指标来选择的，所以它们自然倾向于取悦普通用户，它们往往更“友善”，更容易表现出讨人喜欢的风格。技能表现更加“尖锐”（参差不齐）。也就是说，它取决于训练数据和任务分配的细节。为什么大型模型不能像人类一样进化？一种在小而奇怪的任务上不断失败的通用智能——模型和大型动物面临的进化压力。动物生存在多主体、高度多任务、甚至冲突的自我游戏环境中，其中一次失败就可能导致死亡，从而有可能进化出一般智力。大型模型不会因为执行错误的任务而“消亡”，并且它们的能力就像“尖峰”一样参差不齐。他们可能擅长某些任务的，但突然无法完成其他看似简单的任务，因为他们没有接受过培训。例如，在默认状态下，它无法处理特殊的小任务，例如计算“strawberry”中有多少个字母“r”。卡帕蒂提到了人类智能和当今人工智能之间的三个根本区别：硬件的区别和计算机板的区别。人脑由神经元、突触和核信号等生物组织组成。大型模型在计算机、数字计算机、GPU 和矩阵计算芯片上运行。学习机制不同。虽然我们还不太了解人脑算法，但它与当前深度学习的核心算法SGD（随机梯度下降）有明显不同。操作方法不同。人类不断学习，能够与世界互动、持续学习、永不“停止”的个人。 (重みは更新されず、学习を継続しません)、具体化されず(物理世界と应答せず、物理的な具体化が欠けています)、离散的に実行されます(トークンを入力し、出力结果を计算した后に终了します。自己调整しない静的モデルです)。上记の3つの末の违いに加えて、最も重要なのは最适化の圧力と目标の违いであり、それが长期的な进化の趋势决定をするとカルパシー氏は考えています。大模型的进化不受生物进化的影响。这不再是一场“丛林部落的生存之战”。ね！」を获得したりするなど、商业的な进化によって形作られています。 1LLM不是“更聪明的人类”大型模型是人类第一次接触非动物。情报.歴史的に、私たちがこれまで见てきたすべての知性は动物（人间を含む）に由来しており、大きなモデルは生物学的进化によって生じなかった最初的知性です。他们的思维、结构和学习方式与动物完全不同。虽然大模型不是动物，但它的“认知形态”却源自人类。が作成した大量のテキsutoから「人间の思考の痕迹を学习」します。因此，它们虽然不具备人类或动物的智力，但却拥有类似人类的面部特征。表达式。起こすと感じており、それが彼が常にそれらの名前を変更したいと考えている理由であり、例えばそれらを「幽霊/精」霊」と呼ぶなど、生物的生命体というよりは「テキsutoから现れる知的幽霊」に近いものである。ネチズンのnikku・ドボsuはカルパシー氏のツイートにコメントし、人工知能を「ショゴsu」suタイルのエイirian机械知能と比较した。 K阿帕蒂回应称，将修格斯描绘成动物可能会产生误导。性别。他似乎对任何将人工智能与动物联系起来的说法都非常谨慎。最后に、Karpathy氏はツイートの中で、正しい「内部モデル（内部モデル）」を构筑できれば、大规模なモデルが现在どのよう他说那就这样吧。如果这是不可能的，我们会本能地认为人工智能是动物智能。例如，我们可以认为人工智能有欲望、自我意识、本能和情感，但它们可能都是错误的想象。因此，卡帕西认为重要的是要明白，大模型不是动物或“最聪明的人类”智能，而是一个全新的智能类别。参考：https://x.com/karpathy/status/1991910395720925418 我们点击“爱”
特别提示：以上内容（包括图片、视频，如有）由自有媒体平台“网易账号”用户上传发布。本平台仅提供信息存储服务。
注：以上内容（包括图片和视频，如有）由网易号用户上传并发布，网易号是一个仅提供信息存储服务的社交媒体平台。