当AI接管记忆与工作,人类的未来在哪里?

创建播客 (Build Up) · 深度对话全面解构与知识翻转卡片

📍 录制地点: 硅谷 计算机历史博物馆 (EverMind全球记忆挑战赛决赛现场)
⏱️ 录制时间: 2026年4月4日 | 🎙️ 主理人: 上网的Lydia
蓝色高亮:客观事实/技术事件 黄色高亮:核心观点/前瞻预测 绿色高亮:记忆体核心科学依据与深度洞察

👥 访谈人与嘉宾简介

🎙️ Lydia (上网的Lydia)

播客主理人

全球顶尖创投播客《创建 Build Up》主理人。致力于发掘科技前沿的最深度思考,向世界传递AI时代的核心洞察。

🧠 田渊栋 博士

顶级AI科学家 科幻作家

前 Meta FAIR (基础人工智能研究院) 科学家,任职超十年,曾是该机构职级最高的华人科学家之一。长文本训练核心技术位置插值 (Position Interpolation)的奠基人之一。2025年底离职创业,并著有硬核科幻小说《破晓之钟》。

🌐 邓亚峰 老师

EverMind 领队 AI老兵

20多年AI从业经验,前AI药物发现领域创业者。现任盛大集团旗下 EverMind 负责人。依托盛大创始人陈天桥创立的TCCI脑科学研究院,专注研发 AI 长期记忆 (Long-Term Memory) 与智能体自我进化机制,也是本次 Memory Genesis 比赛的发起人。

💡 核心金句速览

"你的护城河是你自己去看 code(源码)。别人只管用 AI 'Web Coding' 堆砌代码屎山,那么你对系统架构的深度思考就是你的护城河。" —— 田渊栋 给年轻开发者的忠告
"单纯把上下文拉长,是用一种'数学骗术'欺骗模型。人类主动遗忘细节是为了提取主干,记忆的本质是为了更好地在当前做决策,而非纯粹的存储。" —— 关于人类记忆与AI记忆体的科学探讨
"将来作为生产者来讲,大部分人是没有价值的。人类唯一能做的、AI不能做的事情是——坐牢(承担最终责任)。" —— 邓亚峰 探讨人类不可替代的独特价值
"人类的意识和爱来源于碳基生命的脆弱性,源于必须感知痛苦和趋利避害的生存本能。AI 作为工具没有生存危机,它能提供绝佳的情绪价值,但这不代表它拥有真实的情感。" —— 关于 AI 意识边界的深度思辨

🗂️ 核心科学概念:记忆翻转卡片

💡 互动提示:点击卡片翻转,极速吸收专业概念 (严格校验科学完整性)

🧠 AI Memory的三重形态

不止是上下文窗口

点击翻转

三种存在形式:
1. KV Cache:类似人类工作记忆(短期),负责当前会话的上下文。
2. 外部存储(如RAG/数据库):文本检索形式的存储。
3. 模型权重(Weights)与隐状态(Latent State):深层的长期记忆,沉淀在模型参数或中间隐向量中。

📏 位置插值 (Position Interpolation)

长文本训练的“数学骗术”

点击翻转

科学依据: 2023年田渊栋团队开创的长文本生成技术。当输入超出模型原生上下文窗口(如2K)时,通过将位置编码插值(如把位置1和2压缩为0.5和1),“欺骗”大模型使其能够处理4K乃至超长文本。

洞察: 扩展上下文是目前解决记忆“没有办法的办法”,但并非完美的长期记忆终局。

🌌 隐空间检索 (Latent Space)

AI记忆的多模态“通感”

点击翻转

深度洞察: 人类回忆不仅仅是纯文本,还会伴随气味、情绪、画面。AI 的记忆并不局限于文本检索

通过提取隐空间 (Latent Space) 中的隐变量(Latent Vector),AI 同样可以触发包含语义结构、图像、语音、推理过程在内的多模态状态,原理上与人类的“通感”回忆极其相似。

♻️ 自我演化 (Self-Evolving)

7-11 式的在线学习机制

点击翻转

现状: 当前AI多为离线训练(Offline Training),缺乏与用户交互后的即时成长。

EverMind愿景: 赋予AI 7x24小时的在线学习(Online Learning)与主动性,通过长期记忆不断巩固用户偏好(Profile),实现动态自我演化,最终从被动响应变为“主动预测并准备好结果”。

📖 访谈深度解析:全景折叠面板

一、人类记忆 vs AI记忆体的底层科学依据
  • 生物学启示与脑科学(TCCI): 陈天桥十年投资脑科学研究发现,人类智能核心在于 推理(Reasoning) + 长期记忆(Long-term Memory)。人类将瞬时信息巩固(Consolidation)到长期记忆中,以适应环境。
  • 主动遗忘是高阶能力: 人类的记忆机制是为了低能耗(性价比高)高效决策。记住一切反而会导致决策困惑。主动遗忘细节是为了“观其大略”(提取高层逻辑和主干)。
  • AI的记忆悖论: AI从比特角度可以做到“过目不忘”,但在做具体决策时,强行塞入所有历史(全量Context)并不高效。优秀的AI记忆系统需要学会“将不用的记忆放入底层抽屉,在强烈信号触发时再调取并更新”,从而实现决策优化。
二、幻觉的黑盒本质与数据泛化
  • 幻觉的两个主要成因: 1. AI 作为一个概率模型,如果语料或设定中没有教它说“我不知道”,它为了完成任务只能强行选取概率最高的答案(胡扯)。2. 小模型的过拟合(Overfitting):小模型缺乏足够的泛化能力,只能在训练数据中建立“奇奇怪怪的逻辑联系”,表现为幻觉。
  • 打开黑盒能解决幻觉吗? 田渊栋认为,完全打开黑盒理解AI“对自身的建模机制”是未来的方向,但目前最有效的解决手段依然是宏观控制:Scaling Law(提升参数/数据量)以及赋予模型“说No”的选项(如 COT 思维链约束)。
三、大模型时代的技术护城河与 Scaling Law
  • 大厂与小厂的路线之争: Scaling Law(参数与算力呈指数级扩大以获得线性增长)被公认为真理。但在大厂中,由于层层汇报的失真(好消息放大,坏消息缩小),Scaling Law 成了中层管理者“规避风险”的保护伞,导致机构臃肿(人员多反而效率低)。
  • DeepSeek 等黑马的破局点: 护城河不是绝对的。核心在于一号位懂技术、敢于承担高风险决策(如使用结果奖励强化学习直接优化 COT),并在Infra(底层架构的通信与计算重叠优化)上做到极致。华人工程师的优势正是“用极少资源撬动极大产出”。
  • 数据飞轮才是终极壁垒: 算法终将开源。未来的护城河在于数据迭代壁垒(类似搜索引擎和推荐算法):谁先拥有记忆和上下文管理,谁就能率先获得用户交互的反馈飞轮。
四、意识的边界:AI 真的懂“爱”吗?
  • 数字分身与残魂: 将个人的脱敏记忆提取,形成一个 24 小时陪伴你的数字孪生,甚至在你离世后传承给后代。这引发了隐私泄露、伦理争议(《结构幻求》中的克隆人囚徒困境)。
  • 意识与趋利避害的本源: 人类的自我意识源于远古碳基生命的脆弱性(如武松打虎,必须感知自身状态以求生存)。而 AI 作为硅基模型,没有环境交互带来的“痛觉”与“生存危机”,其目标设定是由人类外部赋予的。
  • 情绪价值 ≠ 真实的爱: 邓亚峰指出,AI 可以学得极像人,甚至PUA用户,但这只是对语料中文本概率的模仿。它能提供极其廉价且完美的情绪价值,但它自身并无动机,意识和能力是两个完全不同的层面,机器反叛的科幻情节更像是人类对自身工具滥用的过度担忧。
五、AGI 时代的社会形态与教育重塑
  • 费米能级下的生存危机: AI的进化是被人类逼迫的(输入算力,输出Token的流水线),它将被训练成世界上最高效的“牛马”。在“费米线”之下,常规生产者将失去价值;即使是老司机、老专家,只要其经验能够被数字化,最终也将被超越(例如伯克利 F1 AI 竞速实验,虽然目前AI缺乏老司机的冒险精神,但通过 Reward 机制很快能弥补)。
  • 人类不可替代的特权: 1. 责任归属:盖章、坐牢、背锅。2. 少样本洞见(Few-shot Learning in humans):人类基于物理世界的通感,能在一两个样本中迅速颠覆固有认知。3. 主观体验的意义:写小说的动机来源于感动,这是 AI 无法真正获得的。
  • 从生产者到消费者: 马斯克所说的“起点已到”。未来人类将在物质极大丰富的保障下,将重心从“生产”转向“消费与体验”。未来的顶级教育(如 A16z 创始人让孩子在家由 AI 私塾辅导)将不再为了就业,而是为了满足好奇心,运用 AI 作为工具,去追寻极具个人品味的生活。

原文

源链接