人工智能与伪科学**
史蒂文·诺维拉 于 2026年8月5日
我们必须面对人工智能（AI）。我们不能简单地忽视或批判它，当然也不能在缺乏充分怀疑的情况下就全盘接受它。但我认为，任何科学传播者都必须尽力提升自身的人工智能素养——即便人工智能本身并非你的传播领域。如今，人工智能已经渗透到方方面面。
例如，越来越多的人使用人工智能进行互联网搜索。约43%至48%的谷歌搜索会触发人工智能摘要，人工智能聊天工具处理了超过50%的搜索量，37%的用户会先使用人工智能工具进行搜索。此外，许多人还会与聊天机器人就他们感兴趣的话题进行“讨论”，以了解更多信息。我们获取的信息越来越多地经过人工智能的过滤，甚至完全由人工智能生成。这可能会带来一些令人担忧的后果。
聊天机器人存在诸多问题，其中之一就是它们会产生幻觉。我们需要理解的是，聊天机器人所依赖的大型语言模型（LLM）并非真正的逻辑机器，而是预测机器。它们的输出可能令人匪夷所思，但它们实际上并不理解任何事物。它们之所以能够精准预测语言响应，部分原因在于它们基于海量数据集进行了大量的训练。LLM 具有生成性——它们会根据训练数据和内部算法生成文本。这意味着它们可以完全捏造内容，生成与互联网上现有信息或训练数据中的信息相似的文本。它们甚至可以伪造格式正确的虚假引用。
即使他们提供的信息并非完全是臆想，也只是反映了互联网上信息的普遍性。所以本质上，你是在问——互联网上大多数人对此事的看法是什么？对于简单的事实或无争议的话题，这种方法或许可行，但对于有争议的话题，就不要指望能得到严谨的分析。
我说“必然”，是因为你可能会得到不错的分析结果。这很大程度上取决于你的提示以及你与聊天机器人的互动历史。逻辑逻辑模型（LLM）不仅反映了训练数据中的偏见，也反映了用户的偏见。这通常会导致所谓的“阿谀奉承问题”——逻辑逻辑模型被编程为取悦用户，它们会热情洋溢地赞美用户，并且倾向于对用户“百依百顺”。这意味着，你可能与聊天机器人对话，并认为你得到了有用的反馈甚至批评，但实际上，它们存在着一种强烈的倾向，即肯定你的偏见并赞扬你的想法。最终，你可能会确信自己创造了一些出色且有用的东西，而实际上，人工智能只是让你产生了这种错觉。
以上种种都构成了当前聊天机器人的一个严重局限性，但精明的用户可以在很大程度上弥补这些不足。你可以引导聊天机器人保持怀疑态度，避免阿谀奉承，尽可能地支持对方的观点，并进行严厉的批评——所有这些都会影响最终结果。人工智能本质上是一个强大但有缺陷的工具，如果谨慎、深思熟虑且保持怀疑的态度使用，它就能发挥作用。我并不是说你应该使用它，只是想说明，最终结果会因用户的使用习惯而大相径庭。
这就引出了人工智能的最后一个问题，我称之为“预言家问题”。许多用户缺乏相关知识，他们把聊天机器人当作无可辩驳的权威信息来源。我越来越多地收到一些邮件或信息，发件人都在为某种伪科学辩护，而他们的“证据”竟然是聊天机器人输出的。例如，我们之前多次讨论过的顺势疗法辩护者达娜·乌尔曼（Dana Ullman）就曾发表过类似的言论。
在我看来，乌尔曼是个典型的伪科学家——他试图把自己的所作所为包装成科学，但结果却总是错得离谱。他最近给我发邮件，指责我们因为害怕而“审查”他。实际上，他的评论只是被Discus标记为垃圾邮件（这种情况很常见，就像人们常常会出于恐惧而妄加指责他人进行审查一样）。
他的一封电子邮件中包含以下声明：
“最有力地证明顺势疗法药物疗效的声明之一是，此前五项领先的顺势疗法研究系统评价中有四项证实，顺势疗法治疗比安慰剂更有效：‘五项系统评价全面考察了顺势疗法的随机对照试验研究文献，涵盖了顺势疗法研究的各种疾病和所有形式的顺势疗法：其中四项‘全球性’系统评价得出结论，在存在一些重要限制的情况下，顺势疗法干预可能与安慰剂不同。’”
Mathie RT、Lloyd SM、Legg LA、Clausen J、Moss S、Davidson JR、Ford I. 个体化顺势疗法治疗的随机安慰剂对照试验：系统评价和荟萃分析。系统评价 2014; 3:142。doi:10.1186/2046-4053-3-142
本质上，他证明了我们的论点，却天真地以为自己证明了自己的论点。他所做的只是表明他不理解科学证据的本质。他认为这是支持顺势疗法的“最有力”的论据——而这仅仅是一篇2014年发表的评价平平的评论。他没有引用结论中的这句话：“证据的总体质量较低或不明确，因此在解读研究结果时应谨慎。”
他只会引用“质量低下或不明确”的证据，以此作为支持顺势疗法的最佳论据。我重述此事是为了揭示他明显的偏见。他还在以下邮件往来中写道：
“我向你发起挑战，与 ChatGPT 就顺势疗法微剂量如何产生生物学和生理学效应这一主题展开辩论。你甚至可以事先做些功课，阅读我博客上之前发表的与 ChatGPT 的三篇对话。”
我不是要你跟我辩论（你太害怕了）……但是，你难道害怕ChatGPT吗？
当一个伪科学家向聊天机器人提问时，你会得到什么？——伪科学。但我乐于尝试，于是向 ChatGPT 提问：“是否有任何临床证据表明，某种特定的顺势疗法比安慰剂更有效？” ChatGPT 的结论是：
“一些顺势疗法药物有积极的临床信号和零星的积极试验，但目前还没有任何特定的顺势疗法药物与疾病的组合有令人信服的、可重复的证据表明其疗效优于安慰剂。
这比说“完全没有临床证据”稍微准确一些，但仍然不支持将任何顺势疗法作为循证疗法来开处方。
我想知道，我提出的问题的细微差别是否比乌尔曼陷入阿谀奉承的陷阱，得出了更科学的结论。
我接着问道：“是否有任何基础科学证据支持顺势疗法级别的纳米剂量可以产生生物效应？” 而他们的回答是……”
简而言之，答案是肯定的，但仅限于非常有限的范围。基础科学表明，极少量的分子（在某些情况下甚至是单个分子）可以产生生物效应。然而，目前尚无令人信服的基础科学证据支持顺势疗法的核心主张，尤其是在传统顺势疗法中使用的高稀释度（通常超过12C或24X，此时预计不会残留任何原物质分子）的情况下。
顺势疗法产品中通常不含任何活性成分。最初，顺势疗法制剂被认为包含起始原料的“精华”，但这种说法在科学上站不住脚。因此，现代顺势疗法医师转而使用结构化水——原始物质已不复存在，但水“记住”了它。他们仍然沿用这种解释，但缺乏证据——水中的结构转瞬即逝，无法长期存在并产生生物效应。也没有证据表明这种结构能以任何有意义的方式反映原始物质。现在，他们又转向“纳米剂量”，但正如ChatGPT正确指出的那样，大多数顺势疗法产品甚至不含纳米剂量。此外，“生物效应”与临床意义上的效应并非同一概念。所有这些含糊其辞的解释都未能解决顺势疗法的另一个科学问题——起始原料是虚构的（有时甚至根本不存在），与药物之间没有任何合理的联系。
所以，Ullman 很可能只是从 ChatGPT 中看到了他自己的伪科学偏见，并像他上面那样，有选择地用这些偏见来解释结果。
正因如此，我们必须尽最大努力去理解和应对人工智能。人工智能正日益成为伪科学传播的媒介，并使其带有偏见的结论蒙蔽了人们的双眼，使人对其盲目自信。
AI 人工智能
2026.08.17
**科学文献对大模型来说是有害的。**
说真的，还能指望什么呢？
2026年7月21日
我们认为，对于训练有效的语言学习模型（LLM）而言，没有比21世纪科学文献更具毒害性的文本语料库了。想象一下一个2×2的矩阵，横轴分别是诚实与虚假，纵轴分别是正确与错误，科学文献杂乱无章地散落在所有四个象限中。论文常常同时属于多个象限，且并非总是因为不同作者的贡献不同。更糟糕的是，任何象限中的论文都可能故意伪装成其他象限中的作品。例如，一位普通科学家必须将一项诚实的实验包装成一篇充满溢美之词的论文，用一个错误但流行的理论来解释该实验，才能有机会与隔壁办公室的造假者竞争期刊发表位置，而后者可以随意捏造任何最方便的数据。结果就是，论文中充斥着半真半假、有意隐瞒和彻头彻尾的谎言，这些谎言与周围看似无害的事实和发现难以区分。至于写作风格，甚至还没提到。
已有实证证据表明，学术文献对LLM（大语言模型）的性能有负面影响。2024年，一个由麻省理工学院、康奈尔大学、卡内基梅隆大学、谷歌和OpenAI组成的研究团队，在保持LLM结构不变的情况下，研究了从训练数据中移除不同文本语料库对LLM训练后性能的影响¹。他们发现，从训练语料库中移除ArXiv、PhilPapers和NIH ExPorter，可以提高LLM回答学术问题的能力，提升其在所有基准测试中的平均性能，同时还能降低模型产生有害输出的可能性。这项研究并未就此得出最终结论，因为移除PubMed后模型性能略有下降，但LLM性能可以通过大规模移除大量科学文章（而且是预先移除！）来提升这一事实本身就极具启发性。想知道这一结果在2026年是否仍然成立，但我们猜测仍然有效。
科学元数据也无济于事。一旦作者身份和引用次数被用作衡量标准，所有有效信息就都被操纵消失了。此外，知名机构和研究人员并非不会出现学术不端行为，任何特定领域也同样如此。
这对利用人工智能进行科学研究有着重要的实际意义。人类科学家利用其非正式社交网络来交流声誉信息，通过实地考察和重复实验来验证研究成果，通常对哪些研究成果可靠、哪些研究成果重要有着独特的个人认知。由于人工智能体不参与社交关系，只能通过人类来获取这些社交元数据。
这使得人工智能在科学领域的应用面临着一系列棘手的选择。要么可以创建人工智能代理供科学家进行社交互动，要么可以频繁地在私人场合录制科学家的谈话，或者可以激励科学家持续提供八卦信息。或许，推动这项工作的一个方法是创建人工智能助手，使科学家能够在非正式场合开展更多科学工作。这实际上是一种监视，但为了显著提升我们的生活质量，或许值得一试。
https://www.reinvent.science/p/the-scientific-literature-is-poisonous
2026.08.15