思考发生在哪里,这个问题重要吗?当我们将越来越多的认知外包给 AI 时,应该如何看待这件事?
每天使用 ChatGPT 的人都能感受到,这个工具已经深刻地成为思维的延伸。与以往任何技术不同,大语言模型 Large Language Models 的交互方式如此流畅,以至于重塑了认知本身。我们"感知""思考""学习""决策"和"行动"的能力,不再仅仅存在于生物大脑中,而是与这个外部人工制品交织在一起。
但当我们把思考外包给 ChatGPT 时,洞察、判断和想法是如何产生的?如果我们外包了审慎思维——记忆、搜索、计算——我们是否外包了比自己知道的更多?是否放弃了超出适度范围的心智?
如果你想知道"我的心智在哪里"这个问题的答案,Andy Clark 和 David Chalmers 给出了他们的回答:心智并不仅仅局限于大脑或身体。他们 1998 年的"延伸心智 extended mind"理论认为,心智有时可以超越我们的生物边界,栖息在支持思考和认知的外部对象中。
思考的自我并非被困在颅骨之内。当我们使用笔记本或智能手机这样的环境支持作为认知和记忆的辅助时,它们就变成了心智可以利用的其他场所和空间。虽然我们常把心智想象为被解剖结构禁锢,但这些哲学家提出,认知有能力向外渗透。
但界定基于大脑的认知与延伸认知之间的边界很困难。有些技术让我们成为更好的思考者和表现者,有些则不然,尽管它们提升了我们的表现。圣塔菲研究所 Santa Fe Institute 的 David Krakauer 将这类技术归类为认知人工制品 cognitive artifacts,分为两种类型:互补型 complementary 和竞争型 competitive。
互补型工具,如地图,在移除后仍会留下持久的心理痕迹,丰富我们的能力。
竞争型工具,如 GPS,则通过全面替代认知来萎缩固有技能。如果我们失去设备,就会迷失方向,因为放弃了培养底层能力。
Krakauer 认为,大多数现代人工制品趋向竞争型——我们外包记忆和推理以避免这些困难的工作。这里有个重大陷阱:记忆不只是被动的数据仓库,而是主动的、动态的草稿纸。这个心理工作空间使我们能够将所有积累的知识和经验进行创造性重组和重构。记忆的存在不是为了记录过去,而是为了预测未来。
因此,记忆越丰富和稳健,我们的想法就能越复杂和创新。外包记忆和推理可能缓解即时认知负荷,但可能削弱我们产生原创性、洞察性想法的能力,因为它剥夺了创造性思维所必需的复杂心理过程。
问问自己:这些工具给予的是否多于索取?答案取决于你如何使用它们。我认识一些人,包括我自己,会有意识地选择何时不使用导航应用。有时候我想知道自己还有方向感。
随着企业寻求自动化更多工作,许多人将无法自己做选择。例如,如果你是 Uber 司机,你面临的选择环境就不同。Uber 希望导航不间断运行以缩短每次行程的时间。乘客想要透明度和可预测性——这是随着技术出现的标准。与招手叫出租车的不可预测变量相比,共享出行应用的可预测性彻底宠坏了我们。很难想象回到每个司机的心血来潮决定你路线的时代。
你必须把生成式 AI 系统视为可能成为你所有认知的逐向导航。但这并不意味着你应该遵循每一条指令。如果 AI 被设计为让生活更轻松,我们就必须更善于识别何时生活应该更困难。
使用 AI 将如何影响我们的动力?我们知道,乐于寻求不适的人成就更多:他们承担更多风险,更多参与,并敞开自己面对新的和令人不适的信息。
感到不适是你在学习的信号。通过主动寻求那种不适感——而不是试图避免它——你学得更多。延伸心智类型的元认知 metacognition 可以在最佳时刻对你说:"嘿,记住适度的情绪不适是你作为一个人正在发展的信号。"也许互补型人工制品可以是元认知 AI,在你甚至不知道自己在学习之前,就提醒你注意到不适感是学习的信号。
除了学习如何提示和与 AI 互动,我们还需要学会警惕它如何改变动机。你可能开始注意到,来回提示的过程可以帮助你更长时间地停留在问题中,让你保持更久的好奇心。或者你可能发现自己在兜圈子,探查机器,希望神奇的洞察出现。此时,问问自己是否是因为你把 AI 更多当作拐杖而非伙伴,沉溺于一种 AI 诱发的一厢情愿。可能会出现竞争型人工制品:我们可能接受一个为我们心智服务的心智,向我们展示何时过度依赖 AI。
今天,AI 仍然是我们作为外部延伸心智外包思考的东西。但我们可能离延伸心智转向内部的未来不远了。神经植入 Neural implants 正在快速发展——机器可以被植入人脑并解释和响应思想,这令人惊讶。瘫痪或以其他方式被锁在心智中的人现在可以通过这些先进的神经植入进行交流。
虽然仍处于早期阶段,但可以想象一个嵌入并与我们大脑的湿件 wetware 集成的心智。这引发了无数问题和可能性。延伸的内部心智将作为我们现有认知能力的竞争型还是互补型人工制品?我们能否有能动性来决定它如何增强我们的认知,界定如果它被移除我们会剩下什么?此外,我们是否甚至具备辨别它对我们思维过程影响程度的能力?
未来,随着 AI 进步并与我们的心智更无缝地集成,生物认知与人工增强之间的边界可能变得越来越模糊。这引发了关于自我、能动性和身份本质的深刻问题。我们还会把自己视为单一的、自主的实体,还是会接受一个更流动和分布式的自我概念,包含我们的生物和人工认知组件?
延伸心智的未来不是一个固定的目的地,而是一段持续的旅程,需要我们主动参与和反思,在人工智能时代重新定义作为人类意味着什么。