Research Report

人工智能是否正在损害科学的可信度?

超过 1,000 名科学家和评审专家对在科研基金申请和论文中负责任地使用人工智能的看法。

精选研究人员
Dr. Peter J. Gianaros, PhD
Peter J. Gianaros 博士
‍
匹兹堡大学心理学与精神病学教授
Dr. Scott T. Weiss
Scott T. Weiss 博士
‍
哈佛医学院医学教授
Dr. Valentina Sancisi
Valentina Sancisi 博士
‍
雷焦艾米利亚卫生局 (Azienda USL – IRCCS di Reggio Emilia) 团队负责人
Dr. Cassian Yee
Cassian Yee 博士
‍
德克萨斯大学 MD 安德森癌症中心黑色素瘤内科肿瘤学系教授
Dr. Chi Van Dang
Chi Van Dang 博士
路德维希癌症研究所首席执行官兼科学总监,约翰霍普金斯大学彭博癌症医学杰出教授

2026 年春季,BioRender 对 1,063 名活跃科学家进行了调查,其中包括 489 名同行评审专家和 276 名基金评审专家,旨在了解他们如何使用人工智能以及对人工智能的信任程度。 尽管人工智能的普及率很高(79% 的受访者至少使用一种人工智能工具),但信任度却很低:81% 的同行评审和基金评审专家对人工智能生成的内容的信任度低于人类创作的作品。

数据得出的最明确结论是:不包含人工智能生成图表的科研成果最具可信度。人工智能在早期探索和头脑风暴阶段非常有用,但尚未达到论文和基金申请中最终科学图表的标准。话虽如此,技术和政策仍在不断演变,BioRender 将定期进行复查以跟踪这些变化。研究人员可以随时访问我们的页面以获取最新信息: 人工智能资源页面。

对于确实使用人工智能的科学家,数据表明了在评审专家眼中保持可信度的四个关键方法:

  1. 使用专为科学研究打造的人工智能工具
  2. 确保经过充分的人工审核与编辑
  3. 披露所使用的工具及其具体用途
  4. 遵循您期刊的政策
“在科学研究和科学传播中,人工智能的负责任使用有一席之地。但科学家天生持怀疑态度。如果我们在这个人工智能时代失去了这种基本素质,我们还能被称为科学家吗?还是仅仅成了盲从的机器操作员?目前,当我看到人工智能生成的内容时,对于作者身份、严谨性、有效性和原创性,我常常存有未解的疑虑。”
Peter J. Gianaros

Peter J. Gianaros 博士
匹兹堡大学心理学、精神病学及临床转化科学教授

Part 1

人工智能无处不在,但审稿人并不信任它

人工智能的应用增长迅速,79% 的科学家使用人工智能制作图表,超过半数的人每周或每月都会使用。29% 的科学家使用人工智能进行数据可视化, 33% 的科学家在同行评审的出版物中使用过人工智能辅助生成的图表,而这些出版物对准确性的要求至关重要。

问题在于,基金评审人和同行评审人并不信任这些图表。当被要求评估对科学图表的信任度时,只有 10% 的人信任完全由人工智能生成的图表,而 74% 的人信任完全由人工制作的图表。由人工智能生成但经人工编辑的图表获得了 54% 科学家的信任,这表明研究人员的参与确实提高了人工智能的可靠性,但仍未达到完全由人工制作的图表水平。鉴于 82% 的审稿人将准确性和科学正确性视为首要关注点,结论很明确:人工智能可以提供辅助,但人类的判断和编辑仍然必不可少。

假设您在已发表的论文中看到了一张图表。在以下三种情况下,在其他条件相同的情况下,您对该图表可信度的信任程度如何?

“在科学领域,每一张图表都带有特定的含义,科学家理应为其负责。有了人工智能生成的内容,责任归属变得模糊不清。因此,每一项产出的科学内容都需要人工监督。”
Valentina Sancisi
Valentina Sancisi 博士
‍
雷焦艾米利亚卫生局 (Azienda USL – IRCCS di Reggio Emilia) 团队负责人

作为作者,提交人工智能生成的图表时,您最担心什么?

Part 2

合规风险真实存在

大多数主流期刊禁止、限制或至少要求对人工智能生成的图表进行非常明确的披露,然而 63% 的科学家表示他们找不到或从未查看过其期刊的人工智能政策。在那些查看过的人中,只有 30% 的人找到了明确的政策。 这是一个重大的合规风险:违反期刊或资助机构的政策可能会损害研究人员的声誉并危及未来的出版,但大多数人并不了解这些政策。

“关于研究中使用人工智能生成的图表,我最担心的是,图表是人们进行剽窃最常见的领域之一,而人工智能只会加剧这种令人不安的趋势。”
Dr. Scott T. Weiss
Scott T. Weiss 博士
‍
哈佛医学院医学教授

资助机构也开始关注这一问题。 美国国立卫生研究院(NIH)发布的通知 NOT-OD-25-132 于 2025 年 9 月 25 日生效,指示审稿人拒绝接受主要由人工智能撰写的资助申请,且 NIH 已声明其会对提交的申请使用人工智能检测工具。

对于作者而言,违规的代价很高。向禁止人工智能的期刊或资助机构提交图表,可能会使研究人员陷入不利境地,并导致未来的出版或资助更难获得。一张有争议的图表也会引发关于可信度的更广泛质疑:作者是否核实了工作内容?论文的其他部分是否值得信任?在一个可信度决定资助、晋升和合作的领域,一张受到质疑的图表所留下的负面影响,可能会比更正声明持续得更久。

监管方向已不容忽视,美国和欧盟的 AI 政策正从自愿性准则转向强制性要求。

New Regulations and Penalties Emerging

Recent mandatory AI disclosures across the U.S. and EU.

Sept 25, 2025

US, NIH

Grants substantially developed by AI will not be considered

NIH Notice NOT-OD-25-132 instructs reviewers to reject applications where AI substantially generated any section. NIH has stated it uses AI-detection technology on submissions.

Aug 2, 2026

EU, AI Act

Mandatory labeling of AI-generated content

Article 50 requires generative-AI outputs (including images and text published to inform the public) to be marked as artificially generated. Maximum penalty: €15M or 3% of worldwide turnover.

Jun 9, 2026

US, New York

Disclosure of synthetic content

S.8420 (signed Dec 11, 2025) requires disclosure when AI-generated personas are used commercially. Penalty: $1,000 first violation; $5,000 subsequent.

Pending

US, federal

COPIED Act (S.1396)

Reintroduced April 9, 2025. Would direct NIST to set detection and labeling standards for AI-generated content, and make removing provenance information from synthetic content an unlawful deceptive practice.

Part 3

如何在不损害研究公信力的前提下使用 AI

现实情况是,AI 已成为不可逆转的趋势,但负责任地使用 AI 对于维护研究公信力至关重要。 仅有 5% 的科学家希望在研究中彻底禁用 AI。 相反,77% 的科学家希望建立强制性的标准和要求,使他们能够在不危及自身声誉、科研经费或论文发表的情况下使用 AI。

以下哪项最能增加你对 AI 生成图表的信任度?

在审稿人对 AI 的态度各异且相关政策尚在制定之际,我们的调查数据提出了一系列建议,以帮助研究人员维护科学的可信度。

“AI 生成虚假数据图表的能力是对科学诚信的威胁。因此,我认为‘信任’取决于生成图表的研究人员本身的诚信,无论该图表是手动绘制还是通过 AI 生成。”
Dr. Chi Van Dang
Chi Van Dang 博士
路德维希癌症研究所首席执行官兼科学总监,约翰霍普金斯大学彭博癌症医学杰出教授

建议 1 · 评估 AI 是否适用于当前任务

数据显而易见: AI 生成的图表目前尚不足以作为正式的科学交流载体。 它们可以作为头脑风暴和探索的起点,但不能作为出版级成果的最终制作工具。对于那些希望保护自身信誉,并规避披露要求以及期刊和资助机构政策复杂性的研究人员来说,最简单的做法是在科学图表中完全避免使用 AI。

建议 2 · 使用专为科学研究打造的 AI 工具

对于确实使用 AI 的研究人员而言,工具的选择至关重要。通用型 AI 工具及其衍生出的科学类产品,其数据来源往往不明确,且无法提供清晰的生成或编辑记录。而这种审计追踪正是同行评审和欧盟《人工智能法案》等新兴法规所要求的。相比之下,专为科学研究设计的工具使用经过验证的图像,并从设计之初就保留了完整的记录。科学家们已经意识到了这种差异: 74% 的受访者表示,他们比通用型 AI 更信任专用的科学工具;64% 的受访者认为,使用值得信赖的科学工具是提升图表可信度的首要因素,这一比例遥遥领先。

建议 3 · 确保充分的人工审核与编辑

AI 的输出结果应被视为初稿,而非最终图表。 最优秀的科学工具在设计时就考虑到了这一点,使研究人员能够在定稿前进行编辑、润色并运用自己的专业判断。数据有力地支持了这一方法:在经过人工编辑后,AI 生成图表的信任度评分从 5 分制中的 2.03 分提升至 3.49 分,弥补了与完全非 AI 生成图表之间约 70% 的信任差距。

建议 4 · 透明披露 AI 的使用情况与方式

当使用 AI 时,披露是不可商量的底线。虽然披露 AI 的参与可能会引发一些质疑,但这远比因隐瞒不报而招致的怀疑所带来的损害要小得多。 科学规范正朝着这个方向发展:60% 的科学家认为应默认披露 AI 工具的使用情况。 2026 年 8 月 2 日,《欧盟人工智能法案》(EU AI Act)将使这一预期成为法律要求。期刊、出版商和资助机构正日益要求作者注明所使用的具体模型或工具,描述其监督范围,并提供有关 AI 如何辅助工作的额外背景信息。

建议 5 · 遵守期刊政策

在投稿前, 请务必查看目标期刊、出版商或资助机构的 AI 政策。如果政策未作说明,或者您的研究涉及多项相互冲突的政策,请默认采用最严格的标准。

在实践中,这比听起来要难:我们调查的科学家中,有 63% 无法找到其目标期刊的 AI 政策。如有疑问,请务必谨慎行事,避免在投稿中使用 AI 生成的图表。BioRender 会持续追踪期刊和资助机构的最新 AI 政策,并为研究人员提供资源,帮助他们从容应对。了解最新政策,请 访问我们的 AI 资源页面。

“科学信息的呈现需要一个理解的过程,这是任何 AI 模型都无法实现的。如果有人完全依赖 AI 生成的材料,而没有亲身实践过这一过程,就容易产生自满情绪并忽视细节,而这两者正是导致科学停滞的主要因素。”
Cassian Yee
Cassian Yee 博士
‍
德克萨斯大学 MD 安德森癌症中心黑色素瘤内科肿瘤学系教授

BioRender 旨在帮助研究人员自信地传达科学成果。 无论是为了期刊发表还是为了更快速地探索,BioRender 都让研究人员能够灵活选择最适合每张图表的方法。我们拥有超过 50,000 个经专家审核的图标和模板库,让您能够轻松在几分钟内制作出精美且完全合规的图表。对于希望使用 AI 的研究人员,BioRender 的工具专为科学研究而打造:底层图像均由科学专家审核,工作流程旨在确保研究人员对最终输出拥有完全掌控权。这包括生成可完全编辑的实验方案、时间表和流程图草稿,将文本提示或草图转化为自定义图表,创建自定义图标等。