安德烈亚斯·托姆寻求证据证明 OpenAI 未使用其数学工作

有何变化

据《The Verge》报道，数学家安德烈亚斯·托姆要求提供证据，证明他与 ChatGPT 的对话没有进入 OpenAI 的训练数据，也没有影响其关于 sofic 群的工作。OpenAI 承认，该成果大量依赖托姆和加博尔·昆的工作，并在受到批评后悄然修改了相关说明；这场争议是在数学家特里斯坦·巴克马斯特早先提出质疑之后出现的。

为什么重要

关键问题不仅在于 OpenAI 是否抄袭了一份证明，还在于：当研究人员无法查看与 AI 系统的对话之后发生了什么时，他们是否还能安全地讨论尚未完成的研究。

托姆表示，OpenAI 回答的是一个更狭窄的问题：研究人员是否直接访问过他的聊天记录。这并不能解决这些互动是否进入训练数据，或是否影响系统推理的问题。OpenAI 此前曾表示，在其纳维, 斯托克斯成果发布前，没有访问过任何特定用户数据，但这一说法并未解决托姆提出的更广泛担忧。

这造成了明显的不对等。研究人员可能掌握尚未发表的想法，但 OpenAI 掌握着用于确认事实经过的日志、数据集和技术设置。如果这种不确定性持续存在，数学家可能会停止把正在进行的研究放入 ChatGPT。大学和研究机构也可能收紧有关机密研究的规定，以牺牲部分 AI 辅助为代价，换取对未发表想法更明确的控制。

影响并不限于这场争议。未来由 AI 生成的数学成果，需要的不只是令人印象深刻的答案和经过润色的公告。成果的归属、可复现性和数据来源，都将成为成果本身的一部分。这会提高 OpenAI 需要承担的举证责任，也会让那些能够为研究互动提供更清晰边界的竞争者占据优势。

影响评估

对独立数学家而言，眼下的风险是现实的：与 AI 系统分享一种有前景的技术，可能带来后来被再次使用但概率不明的风险。如果 OpenAI 无法澄清相关数据流向，研究人员可能会扣留尚未发表的方法，从而减少未来数周和数月内其系统能够获得的专家输入。

对 OpenAI 而言，代价在于可信度。第二次公开质疑，加上对非 sofic 群说明的修改，使含糊的保证更加缺乏说服力。未来发布成果时，可能需要提供更完整的归属信息和技术来源细节，研究人员才会接受相关主张。

学术机构在未来六到十二个月内将面临取舍。它们可能正式限制将机密研究输入商业 AI 工具，以保护未发表成果，但这也会限制研究人员获得有用辅助的机会。如果 OpenAI 能提供可由独立方面核查的证据，同时回应直接访问系统和更广泛的训练数据使用这两个问题，这一连锁反应可能会被打断。

情景

最可能的情景

我们的判断（基于信息的推测）：未来数月，OpenAI 将持续面临要求解释数据来源和可追溯性的压力，而数学家会更加谨慎地通过 ChatGPT 分享未发表的研究。如果 OpenAI 继续只回应特定对话，而不解释更广泛的训练数据流向，同时又有更多研究人员提出类似担忧，这将是最可能出现的情况。

实际变化可能是，每一项重要数学成果的发布都将面临更高的核查要求。未来的研究说明需要更清楚地标注成果归属，并提供有关相关系统界限的证据。

乐观情景

如果 OpenAI 发布涵盖训练数据使用、系统访问和既有数学贡献的可审计文档，研究人员可能会在边界更加清晰的情况下，恢复对其工具的探索性使用。持续明确地致谢托姆和昆等数学家的工作，也会让未来的成果更容易得到评估。

这一情景取决于能够解决核心不确定性的证据，而不是再次泛泛保证没有直接访问特定对话。

悲观情景

如果有更多数学家报告类似经历，而 OpenAI 仍无法解释如何处理未发表的互动，研究人员和机构可能会在未来六到十二个月内，将更多尚未完成的数学研究撤出其系统。

这将减少 OpenAI 能够获得的专家互动，同时加大其数学主张所面临的审查力度和声誉代价。如果大学或研究机构发布正式限制措施，将表明这场争议已经从成果归属之争转变为研究政策问题。

接下来关注什么

• OpenAI 是否发布技术说明，解释用户互动是否可能进入训练数据，或影响推理系统。
• 是否有另一位数学家指出与 OpenAI 某项成果相关的具体互动、技术或归属问题。
• OpenAI 下一项重要数学成果的发布，是否包含详细的成果归属和数据来源披露。