2025-6-12 09:35| 发布者: 管理员| 查看: 66| 评论: 0|原作者: Sam Altman
温和的奇点 Sam Altman 译文： 我们已经越过事件视界，起飞已然开始。人类即将创造出数字超级智能，至少到目前为止，这件事并不像看上去那么离奇。 机器人尚未在街上行走，我们大多数人也还没有整日与人工智能交谈。人们依然会死于疾病，我们依旧难以轻易进入太空，宇宙中还有诸多奥秘等待我们去探索。 然而，我们最近研发出的系统在许多方面比人类更聪明，能够显著提高使用者的产出。最艰难的工作阶段已经过去；我们通过艰苦努力才获得了诸如 GPT - 4 和 o3 等系统背后的科学洞见，而这些成果将引领我们走得更远。 人工智能将在诸多方面为世界做出贡献，其推动科学进步加速和生产力提升，从而给人们生活质量带来的改善将是巨大的；未来有望比现在好得多。科学进步是整体进步的最大驱动力；一想到我们还能取得更多成就，就令人无比激动。 从某种重要意义上说，ChatGPT 已经比任何在世的人都更强大。每天有数亿人依赖它完成越来越重要的任务；一项微小的新功能就能产生巨大的积极影响；而一个微小的偏差乘以数亿人，则可能造成大量负面影响。 2025 年，能够从事真正认知工作的智能体已然问世；编写计算机代码的方式从此改变。2026 年，或许会出现能够得出全新见解的系统。2027 年，或许能看到可以在现实世界执行任务的机器人。 更多人将能够创作软件和艺术作品。但世界对这两者的需求仍在不断增长，而且只要专家们接纳这些新工具，他们可能依旧比新手更出色。总体而言，到 2030 年，一个人能够比 2020 年完成更多工作，这将是一个显著的变化，许多人也会想办法从中获益。 在一些最重要的方面，21 世纪 30 年代可能不会有天翻地覆的变化。人们仍会关爱家人、发挥创造力、玩游戏、在湖中游泳。 但在一些同样至关重要的方面，21 世纪 30 年代很可能与以往任何时期都截然不同。我们不知道人类智能水平之上还有多大提升空间，但我们即将揭晓答案。 在 21 世纪 30 年代，智能和能源 —— 创意以及将创意变为现实的能力 —— 将极大丰富。长期以来，这两者一直是人类进步的基本限制因素；有了丰富的智能和能源（以及良好的治理），理论上我们可以拥有其他一切。 我们已然生活在令人惊叹的数字智能环境中，在经历最初的震惊后，我们大多数人已相当适应。我们很快就从惊叹于人工智能能生成优美的段落，转变为期待它何时能创作出精彩的小说；从惊叹于它能做出挽救生命的医学诊断，转变为期待它何时能研发出治疗方法；从惊叹于它能创建一个小程序，转变为期待它何时能创立一家全新的公司。这就是奇点的发展轨迹：奇迹变成日常，继而成为标配。 我们已经从科学家那里得知，他们的工作效率比使用人工智能之前提高了两到三倍。先进的人工智能引人关注的原因众多，但或许最重要的是我们可以利用它更快地开展人工智能研究。我们或许能够发现新的计算基质、更好的算法，谁知道还会有什么其他发现呢。如果我们能在一年甚至一个月内完成原本需要十年的研究，那么进步的速度显然会大不相同。 从现在起，我们已有的工具将帮助我们获得更多科学洞见，并助力我们打造更出色的人工智能系统。当然，这与人工智能系统完全自主更新自身代码并非同一回事，但这已然是递归式自我改进的雏形。 还有其他自我强化的循环在发挥作用。经济价值的创造已经启动了一个飞轮，推动着不断强化的基础设施建设，以运行这些日益强大的人工智能系统。能够制造其他机器人的机器人（从某种意义上说，能够建造其他数据中心的数据中心）也已不再遥不可及。 如果我们不得不以传统方式制造出最初的一百万个类人机器人，然后它们就能运营整个供应链 —— 挖掘和提炼矿物、驾驶卡车、运营工厂等等 —— 以制造更多机器人，进而建造更多芯片制造设施、数据中心等，那么进步的速度显然会大不相同。 随着数据中心生产实现自动化，智能的成本最终可能会趋近于电力成本。（人们常常好奇一次 ChatGPT 查询会消耗多少能源；平均每次查询大约消耗 0.34 瓦时，相当于烤箱运行一秒多一点，或高效灯泡运行几分钟的耗电量。它还会消耗约 0.000085 加仑的水，大致相当于十五分之一茶匙。） 技术进步的速度将持续加快，而且人们依旧能够适应几乎任何变化。这其中会有艰难的部分，比如某些类型的工作岗位会消失，但另一方面，世界将迅速变得更加富裕，我们将能够认真考虑以前从未想过的新政策理念。我们可能不会一下子采用全新的社会契约，但当几十年后回顾时，这些渐进的变化将带来巨大的改变。 如果以历史为鉴，我们会找到新的事情去做，产生新的需求，并迅速接纳新工具（工业革命后的职业转变就是一个很好的近期例子）。人们的期望会提高，但能力也会同样快速提升，我们都会拥有更好的东西。我们会为彼此创造更多奇妙的事物。与人工智能相比，人类有一个长期且重要的独特优势：我们天生关心他人以及他人的所思所为，而对机器则不太在意。 一千年前的自给自足农民看到我们许多人的工作，可能会说我们的工作不实在，认为既然我们有充足的食物和难以想象的奢侈品，那我们不过是在玩游戏自娱自乐。我希望我们看到一千年后的工作时，也会觉得它们很不实在，但我毫不怀疑，对于从事这些工作的人来说，它们会让人感到无比重要且满足。 新奇迹的实现速度将极为惊人。如今我们甚至难以想象到 2035 年我们会有哪些发现；也许我们今年解决了高能物理问题，明年就开始太空殖民；或者今年在材料科学上取得重大突破，明年就实现真正的高带宽脑机接口。许多人会选择继续以原有的方式生活，但至少有些人可能会决定 “接入” 新的生活方式。 展望未来，这一切听起来难以理解。但亲身经历可能会让人觉得震撼，但并非无法应对。从相对论的角度来看，奇点是逐步发生的，融合也是缓慢进行的。我们正在攀登指数级技术进步的漫长曲线；向前看，它总是看似陡峭，向后看则显得平缓，但实际上它是一条平滑的曲线。（回想 2020 年，如果当时有人说 2025 年就会接近通用人工智能，那听起来会是什么感觉，再看看过去五年的实际情况。） 在拥有巨大机遇的同时，我们也面临严峻挑战。我们确实需要从技术和社会层面解决安全问题，鉴于其经济影响，广泛普及超级智能的使用也至关重要。最佳的前进路径或许如下： 解决一致性问题，即我们能够有力地保证人工智能系统学习并朝着我们集体长期真正期望的方向行动（社交媒体推送就是人工智能不一致的一个例子；驱动这些推送的算法非常擅长让你不停地滑动屏幕，且显然了解你的短期偏好，但它们是通过利用你大脑中的某些机制来实现这一点的，这种机制会压倒你的长期偏好）。 然后致力于让超级智能变得廉价、广泛可用，且不过度集中于任何个人、公司或国家手中。社会具有韧性、创造力，且适应迅速。如果我们能够汇聚众人的意愿和智慧，那么尽管我们会犯很多错误，有些事情也会出错，但我们会快速学习和适应，能够利用这项技术实现最大收益、最小损失。在社会必须确定的宽泛范围内，给予用户充分的自由似乎非常重要。世界越早开始讨论这些宽泛范围是什么，以及我们如何定义集体一致性，越好。 我们（整个行业，而非仅仅 OpenAI）正在为世界打造一个大脑。它将高度个性化，人人都易于使用；我们将受限于好的创意。长期以来，创业行业的技术人员一直嘲笑 “创意人士”，即那些有想法并寻找团队来实现想法的人。如今在我看来，他们即将迎来崭露头角的时刻。 OpenAI 如今身兼数职，但首要的，我们是一家超级智能研究公司。我们面前还有许多工作要做，但前方的道路如今大多已被照亮，黑暗区域正迅速消退。我们对能够从事这份工作深感无比感激。 智能廉价到可以忽略不计的时代已近在咫尺。这听起来或许有些疯狂，但如果我们在 2020 年就告诉你我们会发展到今天的地步，这可能比我们目前对 2030 年的预测听起来更疯狂。 愿我们平稳、呈指数级且顺利地迈向超级智能。 英文原文链接：https://blog.samaltman.com/the-gentle-singularity |
