🔥 HN 热议

AI怎样改变数学研究?OpenAI公开研究成果

约2分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
证明(zhèngmíng)

一步一步说明数学说法为什么正确。

Lean

一种能让计算机检查数学证明的语言。

Hacker News

一个分享科技新闻、也能看到读者关注度的网站。

发生了什么

OpenAI(制作ChatGPT的人工智能公司)在10月6日发布了一份数学进展说明。它说,一个内部的前沿模型产生了一大批数学研究成果。OpenAI把原稿、证明材料、改稿记录和引用方法放进公开的GitHub资料库。这样做的重点,不只是展示模型给出的答案,而是让其他研究人员可以阅读、修改和检查这些工作。

背景是什么

数学研究不能只看一个看起来合理的答案。研究者还要说明答案为什么正确。这种一步一步的说明叫作证明。OpenAI说,许多证明也写成了Lean的形式。Lean是一种能让计算机检查数学证明的编程语言。不过,并不是每个结果都有Lean版本。资料库也提醒,尚未用这种方式检查的结果可能还存在问题。

GitHub资料库目前列出722篇原稿,分成372个成果家族。一个家族可以包括相关论文、补充论证、推论或不同证明。OpenAI说,模型在评估中大约尝试了4000道题。团队再把输出整理成论文和家族,只留下他们认为有足够意义的结果。平均每个结果使用了相当于ChatGPT Pro思考功能约3小时的计算量。

为什么重要

这显示出人工智能在研究中可能有另一种角色。它不只是回答一个短问题,也可以在许多可能的道路中寻找线索。数学家可以先看哪些方向值得继续,再理解其中的意思,修正错误,并把有用的内容写成别人能够检查的证明。

这种分工可能节省寻找方向的时间。但如果模型产生的说法多到人来不及检查,研究也会变得更难。机器找得越快,认真复核就越重要。

已经确认了什么

可以确认的是,OpenAI正在公开这批材料,并表示会保留修改历史。它还提供了10份模型怎样得到结果的简短说明、计算量估计,以及模型尝试过多少问题的统计。OpenAI说,发布方式参考了高等研究院的独立数学与人工智能咨询小组的建议,并计划支持讨论人工智能成果的研讨会和会议。

这条新闻在Hacker News上得到428票和360条评论。这个数字说明社区很关注它。它不能证明数学结果正确,也不能说明每位评论者的具体看法。

还不知道什么

这份发布说明没有告诉我们,有多少结果已经被OpenAI之外的数学家独立检查。它也没有对每个结果说明,模型、人类引导和人类修改分别起了多大作用。没有Lean版本的证明,仍然需要更多检查。结果是否重要、是否清楚、是否和旧研究相连,也需要数学家的判断。

接下来关注什么

接下来可以看外部研究人员能否重复这些结果,Lean形式是否继续增加,论文修改记录是否清楚,以及OpenAI之外的研究者是否引用和使用它们。如果别人能够确认并继续使用,这次发布就不只是公司的展示。

真正要问的,不只是人工智能会不会取代数学家,而是它擅长寻找什么,人必须判断什么,以及这种合作能不能产生别人信得过的新知识。

💬 HN争论:AI数学成果该怎样公开

HN围绕[原文所述的发布](https://openai.com/index/sharing-ai-progress-in-mathematics)展开讨论:有人为成果兴奋,也有人要求更严格的验证、署名和公平性保障。

  • 有人欢迎 OpenAI 在此前争议后采用更谨慎的流程;也有人认为它仍没有充分回应数学家的要求,甚至像是在修复公众形象。
  • 关于此前是否不当使用了别人的研究成果,评论仍然分裂:有人接受 OpenAI 关于相关提示不可能影响模型训练的调查结论;怀疑者则质疑证据、调查透明度、接近其他研究团队的伦理,以及论文引用不足。
  • GitHub 公开发布受到欢迎,因为任何人都能查看;但评论者指出,它不能代替 arXiv 或学术期刊的同行评审,未经检查的 AI 论文可能给学术出版带来大量错误和低质量内容。
  • 有评论者认为,涉及 Riemann、Hodge 和 Unique Games theorem 等方向的结果具有历史性意义。但这只是评论者的判断,不是已经确立的测量结果;正确性和重要性仍需领域专家核查。
  • Lean 形式化和公开材料可能有助于检查证明,但评论者提醒,即使是形式化证明,也可能把问题本身写错。因此,人类需要能够检查数学内容并解释它的含义。
  • 关于能力,一名用户自述公开模型在15分钟内解决了一个博士研究问题;另一名用户自述最先进的 LLM 在类似问题上仍会失败。这些是个人经历,不是受控基准测试。
  • 评论者预计,博士培养、同行评审、出版和研究激励都可能改变;同时也担心强大模型的使用权会让经济和科研权力更加集中。

这是评论数为1241时的成熟版(修订7)。获取500条,并从整体抽取120条总结。内容属于HN用户自述,并非编辑部核实的事实。

🔥 HN 热议

AI怎样帮助数学研究?

📰 完整报道: AI怎样改变数学研究?OpenAI公开研究成果

OpenAI说,AI能帮助数学家寻找想法和证明的道路。但最后仍要由人来检查。

约1分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
证明(zhèngmíng)

一步一步说明数学答案为什么正确。

Lean

一种能让计算机检查数学证明的语言。

Hacker News

一个分享科技新闻并显示读者反应的网站。

💡 一句话总结

  • OpenAI(制作ChatGPT的人工智能公司)介绍了AI研究数学的进展。
  • AI大约试了4000道题,整理出722篇原稿。
  • Hacker News的热度表示关注,不表示正确。

OpenAI说,内部AI产生了许多数学研究结果。它把材料放进GitHub资料库。资料库分为372个成果家族。家族可以放相关论文、补充说明或不同证明。

数学不能只给答案。还要说明答案为什么正确。这种说明叫“证明”。OpenAI说,许多证明也写成Lean的形式。Lean能让计算机检查数学证明。不过,不是每个结果都有这种检查。有些内容可能还要修改。

AI能快速尝试许多方向。这样,数学家可以先看哪些方向有希望。之后,人还要读懂想法,找出错误,并把它写成别人能检查的证明。AI找得快,不等于结果一定对。所以检查反而更重要。

OpenAI说,平均每个结果用了相当于ChatGPT Pro思考约3小时的计算量。它还公开了10份模型怎样得出结果的简短说明,以及尝试问题的统计。

Hacker News有428票和360条评论。这表示很多人关注这条新闻。它不是数学正确的证明。

下一步要看外部数学家能否重复结果,也要看这些证明能否真正用于研究。AI可以帮忙找路,人要检查每一步。

💬 AI做出的数学该怎么分享?

HN评论既看到了机会,也担心质量、公平和权力集中问题。

  • 有人赞成这次更谨慎的发布方式;另一些人认为数学界的要求仍没有被充分听见。
  • 大家仍在争论以前的成果是否被不当使用。有人相信 OpenAI 的调查,也有人认为证据、调查过程和引用不够清楚。
  • GitHub谁都能看,但不能代替专家检查论文。未经检查的 AI 论文太多,可能传播错误并让学术审查更困难。
  • 一些评论者认为涉及 Riemann、Hodge 和 Unique Games theorem 的结果非常重要。Lean 可以帮助检查证明,但专家仍要检查问题是否写对,以及结果到底意味着什么。
  • 关于能力的说法并不一致:一名用户自述公开模型15分钟解决了大学研究问题,另一名用户自述领先的 LLM 仍会在类似问题上失败。这些是个人报告,不是公平的比较测试。
  • AI 可能改变博士学习、同行评审、出版、研究者的工作,以及谁能控制先进工具。

这是评论数为1241时的成熟版(修订7)。获取500条,并从整体抽取120条总结。内容属于HN用户自述,并非编辑部核实的事实。

🔥 HN 热议

AI和数学家一起找答案

📰 完整报道: AI怎样改变数学研究?OpenAI公开研究成果

OpenAI说,AI可以帮数学家找数学办法。

约1分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
证明(zhèngmíng)

把答案为什么正确,一步一步说出来。

Hacker News

一个会让人讨论科技新闻的网站。

先这样想

有些数学题不只要答案。 还要说答案为什么对。 这个说明叫“证明”。

OpenAI(制作ChatGPT的人工智能公司)说,AI可以帮忙找数学办法。 AI会提出一些想法。 数学家会检查这些想法。 错的想法要丢掉。 对的想法可以留下。

OpenAI把这些工作放到了网上。 有些证明能让计算机检查。 还有一些没有检查完。 所以还不能说全部都没问题。

Hacker News有428票和360条评论。 这表示很多人关注它。 这不表示数学一定正确。

以后,其他数学家也会检查。 他们会看这些想法能不能成为真的证明。 AI找想法。 人检查理由。

💬 AI分享了数学答案

有人很兴奋,也有人说要先认真检查。

  • 有人觉得小心地分享很好,也有人觉得还不够。
  • 大家在争论答案是不是用了别人的想法。有人相信调查,有人想看到更清楚的证据和出处。GitHub让大家能看到答案,但专家还要检查它。
  • 电脑能检查的证明,也可能一开始就把问题写错。人还需要能听懂的解释。
  • 一名用户自述公开 AI 在15分钟内解过一个大学研究问题;另一名用户自述 AI 仍会在难题上出错。学校和研究的做法可能会改变。

这是评论数为1241时的成熟版(修订7)。获取500条,并从整体抽取120条总结。内容属于HN用户自述,并非编辑部核实的事实。

来源