data-v-99b1fada>他亲自运营六家公司，保存人类意识的火种，对抗危险的 AI。 原文标题：《马斯克传记作家曝重磅内幕：10 年前，他就开始担心 AI 毁灭人类》原文作者：常嘉帅原文来源：华尔街见闻如果能拥有超越常人的远见、精力和幸运，以及随之而来的巨额财富，你会做什么？马斯克的答案是：亲自运营六家公司，保存人类意识的火种，对抗危险的 AI。周三，马斯克传记作者 Walter Issacson 在《时代》杂志上刊出即将出版的传记部分章节，讲述了马斯克十几年来一以贯之的对 AI 的恐惧和担忧，以及他对人类未来命运的思考，华尔街见闻进行了重点摘录。对 AI 降临的恐惧马斯克对 AI 的恐惧，源于 2012 年与 AI 研究员 Demis Hassabis 的一次会面。当时，马斯克邀请他参观了 SpaceX 工厂，并解释说，自己之所以造能上火星的火箭，是为了在核战争、小行星撞击这样的末日降临时刻，保存人类文明的火种。Demis 提醒他，末日清单上应该再加一条——AI，机器的智能未来可能超越人类，甚至也许想消灭人类。马斯克思考了一分钟，然后认为 Demis 是正确的，并立即向 DeepMind 投资 500 万美元，以「监控它在做的事情」。这次谈话几周后，马斯克向认识十几年的老朋友、谷歌联合创始人拉里·佩奇介绍了 DeepMind，而且经常深夜找佩奇聊 AI 对人类的威胁，但后者对此嗤之以鼻。2013 年，在马斯克的生日派对上，他们展开了一场激烈的辩论。马斯克认为，如果不立刻行动起来、建立保障措施，飞速发展的 AI 可能会让人类灭绝。但佩奇完全不在乎，他反问道：如果有一天机器在智力甚至意识上超越了人类，那又有什么关系呢？这只不过是进化的下一个阶段而已。他指责马斯克是一个「物种主义者」，偏袒自己所属的物种。马斯克也大方承认了：「是的，我他妈就是喜欢人类。(I f-cking like humanity, dude.)」创办 OpenAI，是为了制衡谷歌当年年底，佩奇领导下的谷歌计划收购 DeepMind 的消息传到了马斯克耳朵里，他很担心，强大的 AI 如果被佩奇这样不关心人类的人掌握，会发生什么。所以，他拉来朋友、PayPal 联合创始人 Luke Nosek，想筹钱阻止这笔交易，但没能成功，谷歌在 14 年 1 月完成收购。作为对马斯克担忧的回应，佩奇同意成立一个「安全委员会」，让马斯克和前面提到的 AI 专家 Demis 当了委员，其他成员还包括谷歌董事长 Eric Schmidt、领英联合创始人 Reid Hoffman 等人。然而，在参加了「安全委员会」第一次也是唯一一次会议后，马斯克变得更加不信任佩奇和谷歌，认为委员会里的人都在胡说八道。他开始密集地组织聚会，讨论如何对抗谷歌和促进 AI 安全。2015 年 5 月，他还和时任美国总统奥巴马进行了一对一长谈，解释 AI 的风险，并提议总统对 AI 进行监管。但奥巴马并没有采纳他的提议。于是，OpenAI 创始人 Sam Altman 就在这个时候登场了。马斯克和他都相信，相比由少数大公司掌控 AI，大量相互竞争、相互制衡的 AI 系统更加安全。在一场晚宴上，两个人一拍即合，决定共同创办一家非营利性人工智能研究实验室，并将其命名为 OpenAI。不过，在 2018 年，由于当时特斯拉也要研发 AI 以驱动其自动驾驶软件，为了规避潜在利益冲突，马斯克无法继续留在 OpenAI。他尝试说服 Altman 把 OpenAI 并入特斯拉，但遭到了拒绝；此外，他也对 OpenAI 逐渐走向商业化的方向非常不满，于是最终与 OpenAI 团队决裂。回看马斯克如今的商业版图，每家公司都代表着他对 AI 危机的解决方案：SpaceX 可以建造保存文明火种的诺亚方舟；脑机接口公司 Neuralink，可以让人类的肉体之躯变得更加强大；特斯拉每天从汽车摄像头上接收并处理 1600 亿帧视频，这些真实世界数据可以用于「通用人工智能（AGI）」训练，而人形机器人 Optimus 将成为 AGI 的物理载体。种种资源，都可以整合到它的新公司——xAI 里。今年上半年，OpenAI 引领的 AI 浪潮不仅抢走了马斯克的聚光灯，也让他更加担心，这些被大公司控制得 AI 系统，可能会传播「觉醒文化病毒」，毒害美国青少年的心灵；他还担心，如今那些能够自我学习的 AI 系统可能会对人类产生敌意，以及，用推特数据训练的机器人可能会生产虚假或诈骗信息。他迫不及待地想要入局，对自己创立并资助了 OpenAI 但现在却被置身事外感到愤恨。AI 是正在酝酿的最大风暴。没有人比马斯克更喜欢风暴了。于是，上半年，马斯克对 OpenAI 和 Altman 个人发起了猛烈的攻击，Altman 能理解马斯克的攻击性，在一场采访中，他说马斯克虽然表现得像个混蛋，但他相信他是真的很关心 AI 领域，并且在担忧人类的未来。马斯克认为，在 AGI 赛道上，自己处于领先的位置。虽然没能在 AI 浪潮最火的时候赶时髦、做出 AI 聊天机器人。但马斯克相信自己在通往 AGI 的竞赛中仍然领先。他相信，只能生成文本的聊天机器人作用有限，重点是有智慧的实体机器人。一方面，特斯拉已经有了先进的自动驾驶技术和人形机器人 Optimus；另一方面，推特上数亿名用户的推文和特斯拉车身的摄像头，也为研发 AGI 提供了足够的数据。所以，他有信心能比 OpenAI 更快创造出 AGI：「特斯拉在现实世界中的 AI 能力被低估了，想象一下，如果特斯拉和 OpenAI 必须交换任务。他们必须制造自动驾驶汽车，而我们必须制造大型语言模型聊天机器人。谁会赢呢？我们赢。」直到最近，马斯克仍然在思考如何减少 AI 风险，让人类意识能够代代流传。他认为，人类的智力水平正在趋于平稳，新生儿已经越来越少。与此同时，计算机的智能却在呈指数级增长，就像「打了类固醇的摩尔定律」。生物脑力与数位脑力相形见绌。马斯克相信，AI 以不受控的速度独自前行、将人类甩在身后的「奇点时刻」，会比我们预想的更快到来。「我不能无所事事，随着人工智能的到来，我有点怀疑该不该花那么多时间去考虑推特。当然，我也许可以让它成为世界上最大的金融机构。但我每天只有那么多精力和时间，我又不需要赚更多钱什么的。那我的时间应该花在什么地方？启动星际飞船。现在去火星要紧迫得多。另外，我需要集中精力确保人工智能的安全。这就是我要创办一家 AI 公司的原因。」原文链接 AI人工智能马斯克
