查看完整版本: [-- 普通生成式AI难以完成真正科学发现 --]

武当休闲山庄 -> 数码讨论 -> 普通生成式AI难以完成真正科学发现 [打印本页] 登录 -> 注册 -> 回复主题 -> 发表主题

姜谷粉丝 2026-06-02 10:36
IT之家 6 月 2 日消息，科技媒体 The Decoder 昨日（6 月 1 日）发布博文，报道称图灵奖得主理查德 · 萨顿（Richard Sutton）认为普通生成式 AI 缺少自我评估与持续筛选能力，难以完成真正科学发现。
IT之家注：萨顿是美国计算机科学家，强化学习领域主要奠基人，现任阿尔伯塔大学计算机科学教授、北京大学图灵导师、前 DeepMind 研究科学家，2025 年 3 月与安德鲁 · 巴托共同获 2024 年图灵奖。

图源：WikiMedia
萨顿指出普通生成式 AI 并不具备真正科学发现所需的关键能力。大语言模型、图像模型和视频模型能从海量样本中学习，并生成相似内容，但好结果通常来自训练材料本身。
当模型输出真正新颖内容时，它往往已经超出原有材料。面对事实问题，这类新颖内容常被称为幻觉。萨顿用研究者笑话概括现状：好的部分不新，新颖的部分不好。
萨顿并未否认生成式 AI 的实用价值。它可用于摘要、研究辅助、助手和娱乐。若目标只是更快、更便宜、更小、更可定制地模仿原对象，生成式 AI 仍能带来明确价值。
萨顿认为，科学发现不能停在模仿。真正发现包含变异、评估、选择性保留 3 步。系统需要提出不同选项，测试它们，再保留有效方法。这也是进化、科学方法、规划、搜索和强化学习中的共同原则。
普通生成式 AI 最缺的是评估。语言和图像模型能生成许多变体，但没有测试环节，就无法筛出更好方案。人类选择图片、棋局胜率、形式化证明、程序测试和模拟奖励，都可成为有效反馈。
萨顿列举 AlphaGo（阿尔法围棋）、AlphaZero、AlphaFold、AlphaProof、Claude Code 和 GT-Sophy 等案例。这些系统都有超出文本或图像生成的评估闭环，因此能追踪更优解，而不只是产出候选答案。
他还批评 AI 行业过度押注更大的语言模型，他更看重能长期与环境互动、从经验中学习、构建世界模型并规划策略的 AI 智能体

姜谷粉丝 2026-06-02 10:37
观点得到了图灵奖得主及AI领域权威专家的支持，当前普通生成式AI确实难以独立完成真正的科学发现，核心原因可从以下维度分析：

一、核心能力缺失：缺乏科学发现必需的“闭环逻辑”
图灵奖得主、强化学习领域奠基人理查德·萨顿明确指出，普通生成式AI（如大语言模型、图像生成模型）的本质是“模仿者”，而非“发现者”：

仅能复现已有知识：模型从海量训练数据中学习统计规律，生成的内容大多是对现有知识的重组，而非真正的创新。萨顿用“好的部分不新，新颖的部分不好”概括现状——模型输出的“优质内容”往往来自训练材料本身，而“新颖内容”则因脱离数据分布，常表现为“幻觉”（事实性错误）。
缺失“评估-筛选”能力：科学发现的核心是**“变异→评估→选择性保留”**的闭环过程（类似生物进化或科研实验）。普通生成式AI只能生成候选方案，却无法自主评估其科学性、验证有效性，更无法迭代优化。例如，AI生成一个“新药分子结构”后，无法像人类科学家那样通过实验验证其活性，也无法根据结果调整生成方向。
二、底层逻辑局限：基于统计而非“因果理解”
Meta首席AI科学家杨立昆进一步补充了生成式AI的底层缺陷：

缺乏物理世界认知：生成式AI的训练数据多为文本、图像等“符号化信息”，而非对物理规律的深度理解。它无法像人类科学家那样，通过实验观察、逻辑推理建立“因果模型”，因此难以在需要“跨领域迁移”“假设验证”的科学场景中发挥作用。
规模扩张陷入瓶颈：单纯扩大模型参数量、增加训练数据，已无法带来本质突破。杨立昆认为，大语言模型的发展接近天花板，未来AI需转向“理解物理世界、具备持久记忆、能规划推理”的方向，才能实现真正的智能突破。
三、行业现状：生成式AI在科学领域的“辅助定位”
尽管普通生成式AI难以独立完成科学发现，但其在科研流程中仍具有明确的辅助价值：

效率工具：可用于文献摘要、数据清洗、代码生成、实验方案设计等重复性工作，帮助科学家节省时间成本。
灵感启发：通过生成“非主流”的假设或方案，为人类研究者提供新的思考角度（但需人工验证其科学性）。
四、对比案例：具备“评估闭环”的AI系统更接近科学发现
萨顿以DeepMind的AlphaFold、AlphaZero为例，说明“评估闭环”对科学突破的关键作用：

AlphaFold能通过“预测蛋白质结构→评估预测误差→迭代优化”的闭环，解决困扰生物学界50年的“蛋白质折叠问题”；
AlphaZero通过“自我对弈→评估棋局优劣→更新策略”的机制，在围棋、国际象棋等领域超越人类顶尖选手。 这些系统的核心不是“生成内容”，而是**“与环境交互、从反馈中学习、自主规划策略”**，这才是科学发现的本质逻辑。
未来方向：从“生成式AI”到“科学智能体”
萨顿呼吁AI行业转向**“科学智能体”**的研究，这类系统需具备：

环境交互能力：能通过虚拟/物理实验获取反馈；
世界建模能力：构建对科学规律的抽象认知；
规划推理能力：自主设计实验、验证假设、迭代优化。 只有具备这些能力，AI才能从“科研助手”升级为“科学发现者”。

jjybzxw 2026-06-02 13:38
图灵奖得主萨顿点评生成式AI：通用大模型难实现真正科学突破，短板缺失自主评估筛选闭环
一、核心观点
强化学习奠基人、2024图灵奖得主理查德·萨顿提出：当下主流生成式AI只擅长复刻现有数据，不具备自主评估、择优筛选能力，无法独立完成原创性科学发现，一句话总结现状：靠谱内容无创新，创新内容多幻觉。

1. 现有生成模型本质是模仿
大模型依靠海量训练数据复刻规律，优质输出基本源于已有素材；一旦生成跳出知识库的全新内容，大多是事实错误的AI幻觉，天然不满足科研创新要求。萨顿认可其落地价值：文稿摘要、科研辅助、日常办公、文娱创作等模仿类场景，生成式AI性价比突出。

2. 科学发现的三大必要环节：变异→评估→择优留存
这是科学研究、生物演化、强化学习共通底层逻辑：先生成多种备选猜想，再通过实验、实测、模拟完成有效性检验，最后保留最优方案。
通用生成AI的致命缺陷：缺少“评估验证”环节，只会批量生成备选内容，没办法自主筛选优质结论。

3. 能实现科研突破的AI：自带反馈闭环
AlphaGo、AlphaZero、AlphaFold等模型之所以实现突破性成果，关键内置客观评价机制（对局胜负、蛋白结构实测、程序运行校验等），依靠环境反馈迭代优化，跳出单纯文本/图像生成的框架。

二、对行业发展的看法
萨顿不看好行业盲目堆砌参数、无限做大LLM的发展路线，更看好可交互智能体：能够持续和现实环境互动、从实操经验迭代、搭建世界模型、自主规划行动路线的下一代AI。

补充履历
萨顿为强化学习开山人物，曾任DeepMind研究员，任职阿尔伯塔大学、北大图灵导师，2025年凭借强化学习理论与实践成果斩获图灵奖。


查看完整版本: [-- 普通生成式AI难以完成真正科学发现 --] [-- top --]


Powered by www.wdsz.net v8.7.1 Code ©2005-2018www.wdsz.net
Gzip enabled

沪ICP备:05041533号