《埃隆·马斯克传》节选：万亿级的推文有助于大模型的训练
编者按：沃尔特艾萨克森是《乔布斯传》的作者，在其新作《埃隆·马斯克传》中，沃尔特艾萨克森披露了如今火热的AI领域的大量细节。比如，马斯克曾计划收购DeepMind，但并未成功。为了对抗谷歌在AI领域的强势，马斯克参与了OpenAI的创建。对推特的收购，很大程度上是因为，万亿级的推文有助于大模型的训练。脑机接口Neuralink，人形机器人Optimus的源起，都来自于马斯克对于AI的兴趣。中国读者熟知马斯克，主要是因为特斯拉。但其实在AI领域，马斯克的地位和参与程度之深，同样令人叹为观止。9月6日《埃隆·马斯克传》作者沃尔特·艾萨克森在《时代》周刊上发表了书中与马斯克对于AI的相关看法的内容，其中涉及到的对应章节中文版整理如下：人工智能OpenAIPayPal 的联合创始人、SpaceX 的投资人彼得·蒂尔每年都会与他的创始人基金投资的公司的领导人一起开个会。在 2012 年的会面中，马斯克认识了戴密斯·哈萨比斯，他是一位神经科学家、电子游戏设计师和人工智能研究者。在他彬彬有礼的举止之下，掩藏着一颗争强好胜的心，他在 4 岁时就是一个国际象棋神童，夺得过五届国际智力奥林匹克竞赛冠军，竞赛项目包括国际象棋、扑克、珠玑妙算和双陆棋。在哈萨比斯现代风格的伦敦办公室里，有一份艾伦·图灵 1950 年发表的富有开创性的论文《计算机器与智能》的初版，文中提出了一个“模仿游戏”的思想实验：让一个人与另一个人类对话，还让他与一个类似ChatGPT 的机器对话。图灵认为，如果这个人发现他无法分辨出人类和机器的不同，那么我们就有理由说这台机器能够“思考”。受图灵观点的影响，哈萨比斯同他人共同创办了一家名为“DeepMind”的公司，想要设计出一种基于计算机的神经网络，从而实现通用人工智能。换句话说，DeepMind 试图打造一种能像人类一样学习如何思考的机器。哈萨比斯说：“埃隆同我一拍即合，我到他的火箭工厂去拜访他。”二人坐在食堂里，俯视着火箭装配线。马斯克对哈萨比斯解释说，他之所以要打造可以飞往火星的火箭，是因为在发生世界大战、小行星撞击或人类文明崩溃时，这是一种可能保存人类意识的方式。哈萨比斯又补充了另一种潜在威胁—人工智能，机器可能进化为超级智能，超越我们这些凡人，甚至可能做出决定把我们干掉。马斯克在心里琢磨这种可能性的时候，静静地停顿了近一分钟。他说，在他出神的时候，他对多年来很多种影响因素可能如何发挥作用的方式做过视觉模拟，他认为哈萨比斯对人工智能风险的认识可能是对的，所以他决定向 DeepMind 投资 500 万美元，这样他就可以实时跟进相关领域的进展。在与哈萨比斯对谈几周后，马斯克向谷歌的创始人拉里·佩奇描述了DeepMind 在做的事情。他们已经相识 10 多年，马斯克经常住在佩奇位于帕洛阿尔托的家里。在他们深夜的促膝长谈中，马斯克近乎痴迷地一次次谈起人工智能的潜在风险，但佩奇对此不屑一顾。2013 年，马斯克的生日派对在纳帕谷举办，卢克·诺塞克和里德·霍夫曼也来了。当着现场宾客的面，马斯克和佩奇展开了一场激烈的辩论。马斯克认为，除非我们建立防火墙，否则人工智能可能会取代人类，让我们这个物种变成蝼蚁草芥，甚至走向灭绝。佩奇反驳说，如果有一天机器的智力，甚至机器的意识，都超过了人类，那又有什么关系呢？这只不过是进化的下一阶段罢了。马斯克却说，人类的意识是宇宙中宝贵的一缕烛光，我们不应该让它熄灭。佩奇认为那是多愁善感的人在胡说八道，如果意识可以在机器中复制，为什么它不配具有同等的价值？也许有一天，我们甚至能够将自己的意识上传到机器中。佩奇指责马斯克是“物种主义者”，只偏袒自己这个物种的生存。“嗯，没错，我是支持人类优先的。”马斯克回应道，“我就是热爱人类啊，兄弟。”因此，当马斯克在 2013 年年底听说佩奇和谷歌正计划收购 DeepMind时，他感到非常沮丧。他和朋友卢克·诺塞克试图凑钱给 DeepMind 融资，以此来阻止这笔交易。在洛杉矶的一场聚会上，他们到楼上的一个盥洗室里与哈萨比斯通了一小时的 Skype 电话。马斯克告诉他：“人工智能的未来不应该让拉里说了算。”但他的努力还是失败了，谷歌于 2014 年 1 月宣布收购 DeepMind。佩奇最初同意创建一个“安全委员会”，马斯克也位列其中。这个委员会的第一次也是唯一一次会议是在 SpaceX 举行的，佩奇、哈萨比斯和谷歌董事会主席埃里克·施密特出席，里德·霍夫曼和其他一些人也在场。“埃隆在现场领会到的是，这个委员会基本上就是一个空架子。”马斯克当时的幕僚长萨姆·特勒说，“谷歌的这些人根本不想关心人工智能的安全问题，也无意做出任何限制人工智能权力范围的事。”马斯克继续公开警告人工智能的危险，他在 2014 年麻省理工学院的一次研讨会上说：“我们最大的生存威胁可能就是人工智能。”同年，亚马逊发布了语音助手 Alexa，随后谷歌也推出了类似的产品。马斯克警告众人，当这些软硬件系统变得比人类更智能时会发生什么：它们可能会超越我们，然后把我们当宠物一样对待。他说：“我不喜欢当谁的宠物猫。”预防问题出现的最好办法就是确保人工智能与人类保持紧密的配合与协作。马斯克说：“当人工智能与人类的意志脱钩时，危险就会降临。”于是，马斯克开始主办一系列晚餐讨论会，参会者包括“PayPal 黑帮”成员彼得·蒂尔和里德·霍夫曼等人，他们讨论如何对抗谷歌，提升人工智能的安全系数。马斯克甚至联系了奥巴马总统，总统同意在 2015年 5 月与他进行一对一的会谈。马斯克解释了人工智能存在的风险，建议对其进行监管。马斯克说：“奥巴马明白了我在说什么，但我意识到他还没有警惕到会为此做点儿什么的程度。”马斯克随后把目光投向山姆·阿尔特曼，这个人的身份是三位一体的—软件公司的企业家、跑车爱好者和生存主义者，三者难舍难分。他光鲜亮丽的外表掩盖了一种与马斯克类似的紧张感。阿尔特曼几年前见过马斯克，在参观 SpaceX 工厂时与他交谈了三个小时。“很有趣的是，一些工程师看到埃隆走过来就会散开或者看向别处。”阿尔特曼说，“他们害怕他，但他了解火箭上每个小部件的细节，这一点让我印象深刻。”在帕洛阿尔托的一场小型晚宴上，阿尔特曼和马斯克决定创办一个非营利性的人工智能研究实验室，他们将其命名为“OpenAI”。实验室的软件是开源的，实验室将努力对抗谷歌在这一领域日渐强大的主导地位。蒂尔和霍夫曼与马斯克一起投入了资金。“我们希望有一种类似于 Linux 版本的人工智能，不受任何个人或公司的控制。”马斯克说，“我们的目标是提升人工智能安全发展的概率，人类将从中受益。”他们在晚餐时讨论的一个问题是，由大公司控制的少量人工智能系统更安全，还是大量独立系统更安全。他们的结论是，大量彼此竞争的系统能相互制衡，这样会更好。就像人类集体协作能抵御人类恶霸一样，一大批独立的人工智能机器人也会努力阻止邪恶机器人的行径。对马斯克来说，让 OpenAI 真正开放的原因就是要让许许多多的人能根据其源代码建立各自的系统。他对《连线》杂志记者史蒂文·利维说：“我认为，防止人类滥用人工智能的最佳防火墙就是让尽可能多的人都拥有人工智能。”马斯克和阿尔特曼详细讨论了一个目标，名为“人工智能对齐”—它在 2023 年 OpenAI 推出一款聊天机器人 ChatGPT 后成为热门话题，这一目标是让人工智能系统与人类的目标和价值观保持一致，就像艾萨克·阿西莫夫在他的小说中设定的那些预防机器人伤害人类的规则一样。想想《2001：太空漫游》中大开杀戒的计算机哈尔直接与创造它的人类开战。在人工智能系统中，人类可以设置哪些防火墙和自毁开关，让机器的行动与我们的利益保持一致？谁又有资格决定这些攸关人类的利益是什么？马斯克认为，确保“人工智能对齐”的一个方法是将机器与人类紧密联系起来。它们应该是个人意志的延伸，而不是一个可能叛变并形成自己的目标意图的系统。后来这就成为 Neuralink 公司存在的原因之一，马斯克创立这家公司就是为了打造一种芯片，能将人类大脑直接与计算机相联。马斯克还意识到，一个人工智能系统能否成功，取决于它能不能从真实世界获得大量数据供机器学习。他当时意识到，特斯拉就是这样一个“金矿”，它每天收集数百万帧司机处理各类情况的视频。他说：“特斯拉可能比世界上其他公司拥有更多的真实世界数据。”他后来意识到，另一个真实世界数据的宝库就是推特：截至 2023 年，推特每天要处理 5 亿条人类发出的帖子。与马斯克和阿尔特曼共进晚餐的人中有一位谷歌的研究工程师，他就是伊尔亚·苏茨克维。他们用 190 万美元的工资和保底奖金把他挖了过来，让他担任新实验室的首席科学家。佩奇对此很愤怒，他昔日的好友、房客不仅成立了一个同他展开竞争的实验室，还挖走了谷歌的顶级科学家。在2015 年年底 OpenAI 启动之后，佩奇和马斯克几乎没再说过话。“拉里感觉自己被背叛了，他对我亲自挖走伊尔亚感到非常生气，他也拒绝再和我一起出去玩。”马斯克说，“我告诉他：“拉里啊，当时你但凡对人工智能的安全问题上点儿心，我们都没必要搭个台子跟你唱对台戏。”马斯克对人工智能的兴趣让他启动了一系列相关项目：Neuralink，其目标是在人类大脑中植入微芯片；Optimus，它是一种人形机器人；Dojo，它是一种能使用数百万条视频训练人工神经网络来模拟人类大脑的超级计算机。这种兴趣还让他痴迷于推动特斯拉车辆的自动驾驶进程。这些不同方向的项目起初是相当分散的，包括他后来又成立了一家名为“X.AI”的聊天机器人公司，但后来马斯克还是把它们汇聚到了一起，共同推动通用人工智能事业的发展。马斯克决意在其各家公司中发展人工智能能力，这直接导致了 2018年他与 OpenAI 的决裂。他试图说服阿尔特曼，OpenAI 既然还是落后于谷歌，那就应该并入特斯拉发展。OpenAI 团队拒绝了这个想法，此时阿尔特曼已经是实验室的一把手，成立了一个能够筹集股权基金的营利性部门。因此，马斯克决定继续打造一支能与之抗衡的人工智能团队，专注于实现特斯拉的自动驾驶。尽管他要同时应付内华达工厂和弗里蒙特工厂遭遇的生产危机，他还是从 OpenAI 挖来了深度学习和计算机视觉方面的专家安德烈·卡帕斯，由此人来领导特斯拉的人工智能项目。“我们意识到特斯拉将成为一家人工智能公司，并将与 OpenAI 争抢同类人才。”阿尔特曼说，“这让我们团队中的一些人很生气，但我完全理解这是怎么回事。”阿尔特曼在 2023 年扳回一局：当卡帕斯被马斯克折腾得筋疲力尽时，他抛出了橄榄枝，把卡帕斯重新挖了回来。伟大的竞赛10 年来，马斯克一直担心人工智能终有一日会失控，它会发展出自己的思想，从而威胁人类。谷歌联合创始人拉里·佩奇对他的担忧不屑一顾，称他是“人类种族主义者”，因为他只偏爱人类，却不能对其他形式的智能体一视同仁，二人之间的友谊也因此破裂。马斯克曾试图阻止佩奇和谷歌收购人工智能先驱戴米斯·哈萨比斯成立的 DeepMind 公司，失败后，2015 年马斯克与山姆·阿尔特曼成立了一家名为 OpenAI 的颇有竞争力的非营利性实验室。跟机器比起来，人类动不动就会生气。马斯克最终与阿尔特曼决裂，离开了 OpenAI 董事会，并将其知名工程师安德烈·卡帕斯招至特斯拉自动驾驶团队。阿尔特曼随后成立了 OpenAI 的营利部门，从微软获得了130 亿美元投资，还将卡帕斯重新招了回去。2023 年 3 月，OpenAI 向公众发布了 GPT-4。随后，谷歌发布了一款名为 Bard 的聊天机器人。至此，“OpenAI-微软”组合与“DeepMind-谷歌”之间的竞争正式拉开帷幕，它们创造的产品能够以自然的方式与人类聊天，并执行大量基于文本的知识性任务。马斯克担心，这些聊天机器人和人工智能系统可能会被灌输某种政治思想，甚至可能感染他所谓的“觉醒文化心智病毒”，尤其是这些人工智能还出自微软和谷歌之手，他还担心能够自我学习的人工智能系统可能会对人类产生敌意。如果考虑更直接的潜在影响，马斯克担心聊天机器人会被训练成推特上炮制各类虚假信息、带有意识形态偏见的报道和金融诈骗信息的账号。当然，所有这些坏事都是人类已经在干的，但是如果别有用心的人拥有了这种能力，能部署成千上万个聊天机器人执行邪恶任务，这些问题就会呈指数级地恶化。马斯克那种想“骑着高头大马冲进去拯救世界”的冲动劲儿又上来了。他觉得 OpenAI 和谷歌双雄相争，场上需要第三名角斗士登场—一个专注于人工智能安全、致力于保护人类的角斗士。他创立并资助了 OpenAI，现在却被排除在这个赛场外，他对此十分不满。人工智能是一场正在全球科技界上空酝酿的巨大风暴，没有人比马斯克更喜欢风暴了。2023 年 2 月，他邀请了或者说“召唤”了山姆·阿尔特曼到推特同他会面，并要求阿尔特曼带来OpenAI 的创始文件。马斯克质疑他，要求他证明自己凭什么能够合法地把一个由捐款资助的非营利组织转变成一个可以赚取数百万美元的营利组织。阿尔特曼试图向马斯克证明这一切都是合法操作，他坚称自己既不是股东也不是套现者。他还向马斯克提供了新公司的股份，但被马斯克拒绝了。出人意料的是，马斯克对 OpenAI 和阿尔特曼发起了猛攻。他说：“OpenAI 是作为一家开源的（这也是我将其命名为‘Open’ AI 的原因）、非营利性的公司创建的，其目的就是与谷歌抗衡，现在它却成了一家封闭源代码、追求利润最大化的公司，实际上处于微软的控制之下。我到现在都不明白，我捐赠了 1 亿美元创办的非营利性组织是怎么变成市值 300 亿美元的营利性公司的。如果这是合法的，为什么大家不都这么做呢？”他称人工智能是“人类有史以来创造过的最强大的工具”，随后对它“如今落入了无情的垄断企业之手的境遇”表示遗憾。阿尔特曼很痛苦，与马斯克不同，他是一个非常敏感的人，而不是一个愿意针尖对麦芒的人。他没有从 OpenAI 中赚到任何钱，而且他认为马斯克对人工智能安全问题的复杂性钻研得还不够，不过他确实认为马斯克的批评是发自内心的担忧。阿尔特曼告诉科技记者卡拉·斯维什尔：“他是个浑蛋，我俩行事风格真的很不一样，我不想要他那种风格。但我认为他真的很关心这件事，他对人类的未来处境感到焦虑不安。”马斯克的数据流喂养人工智能，靠的是数据。新诞生的这些聊天机器人正在接受海量信息的训练，包括互联网上的数十亿个网页和其他文档。谷歌和微软拥有搜索引擎、云服务和电子邮箱，他们手头有大量的数据可以帮他们训练这些系统。马斯克能给这场战局带来什么呢？马斯克坐拥的一大数据资产是推特的信息流，其中包括多年来所有人发布的超过 1 万亿条推文，还有每天新增的 5 亿条。它是人类集体意识的体现，是世界上更新最及时的数据集，包含了现实生活中人类的各种对话、新闻、兴趣、趋势、争论和术语。此外，它还是一个很好的训练场，可以让聊天机器人测试真人对其回复做出的反应。马斯克在收购推特时并没有考虑到这些数据的价值，他说：“实际上这算是一个附带的好处，我是在买下推特以后才意识到的。”推特曾经零零星星地允许其他一些公司使用这些数据流。2023 年 1 月，马斯克在推特会议室召开了一系列深夜会议，研究如何针对这项服务收费的问题。他对工程师们说：“这是一个将推特数据集变现的好机会。”而且能限制谷歌和微软使用这些数据改进自家的人工智能聊天机器人。马斯克还拥有另一个数据宝库：特斯拉每天从自家车辆上的摄像头接收并处理的 1 600 亿帧视频画面。这些数据不同于为聊天机器人提供信息的文本文件，这是人类在真实世界中导航的视频数据，它有助于为实体机器人打造人工智能系统，而不再是只能生成文本的聊天机器人。通用人工智能的王冠是打造出能够像人类一样在物理空间（比如工厂、办公室和火星表面）运行的机器，而不仅是一些让我们感到惊艳的虚拟聊天机器人。特斯拉和推特可以共同为这两个研究方向提供数据集和数据处理能力：不管是教机器在物理空间中自主导航，还是教它们用自然语言回答问题。3月15日图源：《埃隆·马斯克传》内文插图，中信出版集团出版“怎样才能让人工智能变得安全呢？”马斯克问道，“我一直在苦苦思考这个问题。我们可以采取哪些行动来最大限度地减少人工智能的风险，确保人类意识的赓续？”在奥斯汀，他光脚盘腿坐在希冯·齐里斯家泳池边的露台上，这位Neuralink 的高管是他两个孩子的母亲，自八年前 OpenAI 成立以来，齐里斯一直是他在人工智能领域的智囊。双胞胎斯特赖德和阿祖尔正坐在他们的腿上，此时已经 16 个月大。马斯克仍在坚持间歇性断食：他很晚才吃了一顿早午餐，其中还有甜甜圈—他开始经常吃甜甜圈。齐里斯煮了咖啡，然后把他的咖啡放进微波炉里加热，这样他就不会喝得太快。一周前，马斯克给我发来信息：“有几件重要的事情我想和你谈谈，只能当面谈。”当我问他想在何时何地见面时，他回答：“3 月 15 日，奥斯汀。”我感到很困惑，而且不得不承认还有点儿担心。原来他是想谈谈人类未来面临的问题，而他首先想到的就是人工智能。我们坐在外面，还得把手机留在屋里，因为他说有人可能会用手机监听我们的谈话。不过他后来同意我在书中引用他在这次谈话中表达的对人工智能的看法。他语调低沉，时不时发出几近狂躁的笑声。他指出，人类的智力水平正趋于平稳，因为没有足够多的新生儿。与此同时，计算机智能却在呈指数级增长，就像给摩尔定律打了类固醇一样。在某一时刻，一定会出现这种情况：生物脑力在数字算力面前相形见绌。此外，新的人工智能机器学习系统可以自行摄取信息，自行学习如何产生结果并输出，甚至还能升级自己的代码、开发新的能力。数学家约翰·冯·诺依曼和科幻作家弗诺·文奇曾用“奇点”一词来描述人工智能以不可控制的速度独自前进，把我们人类远远甩在身后的那一时刻。“这一天可能比我们预想的要来得更快。”马斯克的语调透露出一种不祥的感觉。有那么一瞬间，我被这奇特的场景所震撼。在一个阳光明媚的春日，我们坐在郊区一个宁静的后院游泳池边的露台上，一对眼眸清澈的双胞胎正在蹒跚学步，马斯克却悲观地推测着在人工智能毁灭地球文明之前，在火星上建立一个可持续发展的人类殖民地，这个机会的时间窗口还有多久。这让我回想起萨姆·特勒在为马斯克工作的第二天参加 SpaceX 董事会时说过的话：“他们坐在一起认真地讨论着，在火星上建造城市的计划，人们在火星上要穿什么，每个人似乎都觉得这场对话的内容再寻常不过了。”马斯克陷入了长久的沉默。正如希冯所说，他正在进行“批处理任务”，这个术语指的是老式计算机在处理能力足够的情况下给一系列任务排序并按顺序运行的方式。“我不能就这么干瞪眼看着，什么都不做。”马斯克最后轻声说道，“随着人工智能的到来，我在想还值不值得花那么多时间考虑推特的事。当然，我或许能做到让它成为世界上最大的金融机构，但我每天只有那么多的脑容量，也只有 24 个小时。我就是这么个意思，我也不差钱了对吧。”我刚想开口说话，但他也知道我想问什么。“那我的时间应该花在什么地方？”他说，“发射星舰，现在前往火星的任务变得更紧迫了。”他又停顿了一下，随后补充道：“另外，我需要集中精力确保人工智能的安全性，所以我要创办一家人工智能公司。”X.ΑI马斯克将他的新公司命名为 X.AI，并亲自招来了谷歌 DeepMind 部门的著名人工智能研究员伊戈尔·巴布什金担任首席工程师。X.AI 一开始把部分新员工安置在推特，但马斯克表示有必要把它变成一家独立的初创公司，就像 Neuralink 一样。他在招募人工智能科学家时遇到了一些困难，因为该领域掀起的全新热潮意味着所有具备相关经验的从业者都可以拿到100 万美元甚至更高的年薪。他解释说：“如果能让他们成为一家新公司的创始人并分到股权，那么就更容易吸引他们加入。”我算了一下，这样他就得管理六家公司—特斯拉、SpaceX 及其星链部门、推特、Boring Company、Neuralink 和 X.AI，这相当于史蒂夫·乔布斯巅峰时期掌舵公司（苹果和皮克斯）数量的 3 倍。马斯克承认，在打造一款可以用自然语言回答问题的聊天机器人方面，他一开始远远落后于 OpenAI。但是，特斯拉在自动驾驶汽车和 Optimus方面的成果让他们在打造物理世界中导航所需的人工智能方面遥遥领先。这意味着特斯拉的工程师在创造成熟的通用人工智能方面实际上领先于OpenAI，而通用人工智能需要同时具备这两种能力。“特斯拉在现实世界积累的人工智能实力被低估了，”马斯克说，“想象一下，如果特斯拉和OpenAI 必须交换任务，他们来制造自动驾驶车辆，而我们来制造大语言模型聊天机器人，谁会赢呢？当然是我们。”2023 年 4 月，马斯克向巴布什金和他的团队提出了三大目标。第一个目标是打造一款能编写计算机程序的人工智能机器人。程序员可以在一开始输入任何编程语言，X.AI 机器人就能自动完成他们最有可能编写的程序代码。第二个目标是开发一款 OpenAI 的 GPT 系列聊天机器人的竞品，它使用的算法和训练的数据集要能确保政治立场的中立性。马斯克给团队设定的第三个目标更为宏大。他的首要任务一直都是确保人工智能的发展有助于人类意识的赓续。他认为实现这一目标的最佳途径是创造一种能够“推理”“思考”并以“真理”为指导原则的通用人工智能。我们应该能对它委以重任，比如“制造一款更好的火箭发动机”。马斯克希望有朝一日它能解决更宏大、更现实的问题。它将是“一款能够最大限度追求真理的人工智能，它关心对宇宙的理解，这样可能带来的一个结果就是它想要保护人类，因为我们是宇宙中至关重要的组成部分。这听起来有点儿耳熟，后来我就意识到：他所肩负的使命与他童年时代的启蒙“圣经”《银河系搭车客指南》中记载的使命相似（我是不是有点儿牵强附会了呢），当年正是这本书将他从青春期的存在主义抑郁状态中拯救出来，书中超级计算机的使命就是要找出“关于生命、宇宙和万物终极问题的答案”。《埃隆·马斯克传》2023年9月12日全球同步出版，唯一简体中文版由中信出版集团出版。本书由「乔布斯传」执笔人、美国当代知名传记作家 Walter Isaacson 撰写，埃隆·马斯克亲自参与并公开推荐。两年来，作者沃尔特艾萨克森形影不离地跟访马斯克，参加他大大小小的会议，与他一起走访工厂，深度采访了他本人，以及他的家人、朋友、同事和对手。
本信息由网络用户发布，本站只提供信息展示，内容详情请与官方联系确认。
