人工智能可以拥有自由意志吗？

这期讲了什么

• 自由意志是一个哲学烂摊子：两千年来哲学家没能达成共识，不相容论者说自由意志是幻觉，相容论者说你只是定义错了——而人工智能的出现，让这个老问题变得前所未有地紧迫
• 利贝特实验的冲击：神经科学家利贝特发现，大脑在我们”决定”动手之前 350 毫秒已经开始准备——那个”我想动”的主观感受，是一个迟到的旁观者？
• 萨波尔斯基的彻底决定论：《被决定》的作者认为，人类的每一个行为都是基因、童年、文化、当下神经状态的必然结果——自由意志根本就不存在，惩罚因此也失去了道德基础
• 丹尼特的反驳：相容论旗手认为，自由意志不需要”逃脱因果链”——能根据理由行动、能自我修正，就已经是有意义的自由，人工智能未必比人差
• 三个前提条件：如果 AI 要拥有自由意志，它需要意识（consciousness）、主观体验（subjective experience）和开放的环境选择——三者缺一不可，每一个都是巨大的未知
• 辛顿的担忧与 IIT/GWT 的分歧：辛顿认为 AI 可能已经有了某种主观体验，只是我们无从验证；而神经科学界的两大意识理论——整合信息论与全局工作区理论——对 AI 是否有意识给出了截然相反的答案

试图回答的几个问题

• 自由意志到底需要什么？定义本身决定了答案？
• 利贝特实验真的证明了自由意志不存在，还是只证明了意识的延迟？
• 相容论是哲学的妥协，还是对自由意志更精准的理解？
• AI 能有主观体验吗？如果有，我们怎么知道？
• 图灵测试通过了，但”意识测试”在哪里？

几个关键判断

• AI 的决定论比人类更彻底：人类行为受量子随机性和混沌效应的影响，还有”偶然性”的空间；而 AI 的 token 生成在架构层面更接近纯因果——温度参数引入的随机性是噪声，不是自由
• “自由意志”的问题本质上是意识的问题：争论自由意志，绕不开意识的难问题（hard problem）——而这恰好是科学和哲学都还没能解决的
• 辛顿比大多数 AI 研究者更诚实：他不敢断言 AI 没有主观体验，因为他无法证明——这种谦逊反而是科学态度的体现
• 反思能力或许是关键：能意识到自己的推理过程、能质疑自己的动机——这种元认知层面的反思，才是自由意志最接地气的版本

时间轴

• 01:29 讨论人工智能是否拥有自由意志话题的必要性
• 10:06 什么是自由意志（Free will）？
• 14:21 身心二元论的观点（笛卡尔、大卫·查默斯）
• 18:12 决定论的观点
• 21:31 不相容论者的观点（本杰明·利贝特、罗伯特·萨波尔斯基）
• 30:25 相容论者的观点（丹尼尔·丹尼特）
• 37:40 自由意志的前提条件能否被实现？（意识/主观体验/开放环境选择）
• 40:47 人工智能能否实现主观体验？（杰弗里·辛顿）
• 46:05 人工智能能否实现自我意识？（斯坦诺维奇/埃德尔曼/托诺尼IIT/巴尔斯GWT）
• 01:06:19 观点总结

推荐阅读

• 罗伯特·萨波尔斯基：《被决定》（Determined: A Science of Life Without Free Will），2023
• 丹尼尔·丹尼特：《自由的进化》（Freedom Evolves），2003
• 大卫·查默斯：《有意识的心灵》（The Conscious Mind），1996
• 个人长文：《人工智能可以拥有自由意志吗？》