马斯克xAI动员大会纪要【完整版】 20230715.pdf

根据马斯克在 Twitter Space 直播讨论 的，xAI 的总体目标是构建一个优秀的  AGI ，并以理解宇宙的真实本质为愿景， 马斯克从物理学的视角探讨了一些关于宇 宙的未解之谜，例如外星人的存在和重力 的本质等。 xAI 的团队成员们也在会议中提到，目前 行业中的 AI 模型只是简单地模仿它们所训 练的数据，而他们真正想做的是改变这种 模式，他们希望让模型能够发现真相，不 仅仅是重复它们从训练数据中学到的知 识，而是能够提供真正的新见解和新发 现。  此外，马斯克也在会上明确表示，xAI 是  OpenAI、谷歌等公司的竞争对手，并指出  OpenAI 现在已经变得封闭且非常追求利 润，与其最初的宗旨背道而驰。  这场直播会议的全部内容按时间顺序整理 成了以下 12 个话题： xAI 创始成员的开场自述 xAI 的使命：宇宙本质与智能体 AGI 与个人计算资源 Twitter 数据与 xAI 的关系 创办 xAI 的初衷是什么？ 特斯拉Dojo，芯片以及训练推理 如何保证 xAI 的独立性？ xAI 如何造福人类？ 真正的AI能理解物理世界 监管应与技术发展并行 xAI 会如何与外部合作？ xAI 与OpenAI 差异，以及 Optimus AI 的影响力与民主化 1、xAI 创始成员的开场自述 Elon Musk 我会介绍一下公司，然后创始团队将简要 介绍一下他们的背景和他们所做的工作， 无论他们想谈论什么，我们真的很希望能 从他们口中听到自己的话。我认为听到他 们亲自说出来的各种工作经验和他们对AI 的期望对我们很有帮助。 我认为 x.ai 的总体目标是建立一个好的  AGI，总体目标就是努力理解宇宙。我认 为构建一个最安全的 AI 的方法实际上是制 造一个最大程度好奇和寻求真理的 AI，所 以你要追求真理，并承认错误，尽管它永 远无法完全达到真理？这并不清楚，但你 总是要追求那个目标，尽量减小你所知道 的、你认为是真理的东西与实际真理之间 的误差。 我关于最大程度好奇和最大程度真实性背 后的理论是，我认为对于一个超级智能来 说，人类比其他东西更有趣。你知道，我 们可以看看太阳系中的各种行星、卫星和 小行星，可能把它们都放在一起都不如人 类有趣。 众所周知，我是火星的超级粉丝，我其中 一个孩子的名字基本上是火星的希腊词， 但是火星比有人类居住的地球要无聊得 多，所以我认为这种成长 AI 的方式，我认 为"成长"这个词用在 AI 上是正确的，就是 带着这种雄心成长。 我花了很多年时间思考 AI 安全性并担心  AI 安全性。我一直是呼吁对 AI 进行监管 或监督的最坚定的声音之一，不仅仅是让 公司自行决定他们想做什么。我认为通过 行业合作还有很多事情要做，有点像电影 协会那样。 我确实认为在任何情况下都应该有一些规 则，即使是游戏也需要裁判，有监管是很 重要的，我对安全的看法是尽量使它具有 好奇心和寻求真理的最大程度，这很重 要，可以避免逆向道德问题，如果你试图 为其编程道德，你可能会导致相反的结 果，有时候被称为"Wild Luigi  problem"，我认为这是一个很多人可以理 解的比喻，我们要努力做到这一点。 Igor Babuschkin 好的，大家好，我叫Igor。我是  x.ai  团 队的成员之一。我原来是一名物理学家。 所以我在大学学习物理，并且曾在CERN的 大型强子对撞机工作过一段时间。因此， 理解宇宙一直是我非常热衷的事情。当深 度学习的一些非常引人注目的成果出现 时，比如 AlphaGo ，我对机器学习和 AI  产生了浓厚的兴趣，并决定转向这个领 域。 然后，我加入了DeepMind，参与了各种 项目，包括AlphaStar。我们尝试通过自我 对弈教会机器学习代理在 《星际争霸2》游 戏中进行对战，这是一个非常有趣的项 目。然后我加入了OpenAI，也在那里工作 过，包括GPT-3.5等各种项目。所以我对 语言模型非常热衷，让它们做出令人印象 深刻的事情。是的，现在我和伊隆合作， 看看我们是否可以将这些新技术应用于真 正改变我们对宇宙的理解，并推进我们的 共同知识。 Elon Musk 是的，实际上，我也有类似的背景，我的 两门最好的科目是计算机科学和物理学。 我实际上曾经考虑过从事物理学的职业。 因为物理学实际上只是试图理解宇宙的基 本真理。 我真的很担心我会陷入某个对撞机的困 境。然后对撞机可能会因为某种任意的政 府决定而被取消。所以这实际上是我决定 不从事物理学职业的原