Sam Altman 在剑桥大学的演讲摘要

荣获霍金学者奖 (Hawking Fellowship) 的演讲精华

OpenAI 的故事与理念

• 创立背景： OpenAI 于2015年创立，最初是一个非营利组织，使命是确保通用人工智能 (AGI) 惠及全人类。
• 早期困境： 创立初期，AGI的愿景被视为“追逐野鹅”，团队在没有空调的公寓里办公，进展缓慢且充满挫折。
• 结构转型： 由于意识到AGI研发需要巨额资金，OpenAI创建了一个独特的“利润上限 (Capped-Profit)”结构，由非营利母公司治理，旨在平衡资本需求与公共使命。
• 核心理念： 这种结构使得公司能将“使命”置于“利润”之上，正确设置激励机制是成功的关键，避免了上一代科技公司的陷阱。
• 技术里程碑： 从不被看好的GPT-1，到引爆全球的ChatGPT和GPT-4，其发展验证了扩展定律 (Scaling Laws)——即通过扩展数据和计算规模，可以创造出能力更强的系统。

AI 的巨大潜力与并存风险

• 无限潜力： AI是放大人类智慧的工具，有潜力加速科学发现、革新医疗教育、解决气候变化，甚至根除疾病与贫困。
• 科学加速器： Sam Altman个人最兴奋的一点是，AI能将科学探索的速度提升10倍甚至100倍，而真正的社会进步源于科学理解的深化。
• 重大风险： 巨大的收益伴随着巨大的风险。最令人担忧的风险是“有意滥用 (Intentional Misuse)”，例如利用AI发动生物武器攻击或大规模网络攻击。
• 霍金的警示： 史蒂芬·霍金曾预言，AI既可能带来最好的结果，也可能是“我们文明史上最糟糕的发明”。
• 平衡之道： 必须在拥抱巨大收益的同时，严肃、负责地管理其风险。停止发展是天真且不可能的，唯一的出路是安全地向前走。

给年轻一代的行动建议

• 拥抱新工具： 年轻人应成为AI工具最熟练的使用者。历史上，年轻人总是最快适应新技术的群体。AI工具已经让年轻程序员的生产力超越了经验更丰富的前辈。
• 重塑教育： 大学教育的核心——“学习如何学习”和“创造新思想”的能力——比以往任何时候都重要。学校应该教学生如何利用AI，而不是禁止它，就像当年对待谷歌搜索一样。
• 创业者特质： 最重要的创业品质是：极强的决心、愿意为信念长期忍受误解、对解决问题本身抱有痴迷，以及清晰的沟通能力。
• 跨界创造价值： 成为某个领域的专家，并同时精通AI工具。在一个重要交叉点上擅长两件事，比只精通一件事的人能创造出更大的价值和影响力。
• 引领变革： 这一代年轻人正站在一个“勇敢新世界”的门槛上，技术革命正在动摇旧有结构。希望年轻人能积极推动世界的创新与变革。

AI 安全、治理与价值观对齐

• 安全对齐： OpenAI致力于通过对齐 (Alignment)研究，将人类的价值观注入AI模型，目前进展比预想的要顺利。
• 全球治理： 随着AI能力接近超级智能 (Superintelligence)，未来可能需要一个类似国际原子能机构 (IAEA)的全球监管机构，负责审查和监督最强大的AI系统。
• 价值观难题： “AI应该对齐谁的价值观？”是一个比技术本身更难的问题。一个可能的方向是，让AI系统通过与全球用户互动，学习并反映人类的集体道德偏好，同时整合人权框架等普适原则。
• 开源的平衡： 开源有益且重要，但应在经过充分安全测试的前提下，对合理规模的模型进行。立即开源所有最前沿的模型是“极其鲁莽的”。

问答环节：对未来的思考

• AGI的下一步： Sam Altman认为，仅靠扩展现有的大型语言模型 (LLM) 不足以实现真正的AGI。我们需要“另一次突破”，让AI具备发现全新知识（如新的物理定律）的能力，而不仅仅是模仿和整合人类已有知识。
• AI与人类智力： AI不会让人类变笨。相反，它将我们从繁琐任务中解放出来，使我们能在更高的抽象层次上进行思考和创造，最终让我们变得“更聪明”。
• 关于意识 (Consciousness)： 如何判断AI是否拥有意识？他引用了一个思想实验：在一个完全不包含“意识”相关信息的数据库上训练模型，然后看它能否在被引导后，独立描述出主观体验。
• AI 与硬件： OpenAI目前没有计划推出消费级硬件。但未来，AI时代可能会催生出全新的计算设备形态，超越目前的智能手机。