专家系统：Edward Feigenbaum 与 DENDRAL逐字稿

数据没有直接给出答案

0:00

假设你面前有一份化学样品。经过分析，你知道里面的分子由哪些原子组成，也知道每种原子各有多少。纸上已经写出一个分子式。可你还不能只凭这张清单，画出唯一的结构。

同样的原子，可以有不同的连接方式。知道材料用了多少，还没有告诉你它们怎样接在一起。化学里，把组成相同、结构不同的情形叫作同分异构。今天这个故事，就是从这些仍然可能成立的结构开始。

[001]

再往前走一步，实验给出了一张质谱图。对今天的故事，我们不需要先记住仪器的全部原理。只要知道，图上的信号提供了一组关于这个分子的线索，研究者要从这些线索，推断它可能是什么结构。

困难在于，一组线索未必只容得下一个解释。你可以提出一个结构，再问，如果它真是这样，能不能解释眼前的数据？但在检查之前，还得先想到那些值得检查的可能性。可能的结构一多，光是把答案列出来，就已经是一项工作。

为什么有了这些数据，程序还需要化学家的判断？

我们今天要追踪的，就是把专家的判断交给程序的一次尝试。它属于早期专家系统的探索，也会让我们重新理解，后来大语言模型选择了怎样不同的道路。

[002]

这也让一个化学问题，进入了人工智能研究者的视野。

一九六五年，Edward Feigenbaum 正在寻找一种适合用计算机研究的科学任务。他关心的是，科学家怎样从经验材料形成假说。会下棋、会解一道规定好的题，已经能展示一些推理过程；面对实验数据，人又是怎样提出解释的？

与他合作的遗传学家 Joshua Lederberg，提出了分子结构推断这个对象。它有明确的数据，也有可以提出、比较和排除的候选。一个很宽的问题，于是获得了具体抓手：能不能把从数据到结构的这段推断，做成一套可以运行、可以检查的过程？

[003]

这项研究后来以 DENDRAL 为人所知。它并不是从一份完整的化学家知识库开始的。先要让机器能够表示结构，并且系统地列出结构。

Lederberg 研究了相应的枚举办法。早期程序原型有 William C. White 的工作；随后，研究人员 Georgia Sutherland 用 LISP 编程语言把早期概念落实为程序。对她来说，一个画在纸上的结构，必须变成计算机能保存、组合和检查的对象。研究科学发现的 Bruce Buchanan 也参与进来，让程序的表现能够反过来帮助他们研究推断过程。

这里有好几种工作同时发生：选择一个能研究的问题，规定结构的表示，写出生成候选的程序。缺少其中任何一环，关于机器怎样形成假说的讨论，都很难接受实际结果的检验。

[004]

程序开始能够给出结构，问题并没有结束。一个结构可以被画出来，可以符合某些形式上的要求，却未必是化学家愿意认真考虑的答案。

机器有了列举的办法，还需要判断的依据。对于眼前这份数据，哪些可能性应该先排除？哪些线索值得优先使用？这些问题，把团队带到了真正处理质谱的化学家面前。

[005]

程序还不知道什么

3:24

Carl Djerassi 是斯坦福的化学家，也是团队希望请来的质谱专家。对一个长期接触这些实验的人来说，某些结果一眼看上去就不对，某些线索会让他立即想到另一种解释。

可是，机器不会因为研究室里站着一位专家，就自动获得他的判断。研究团队需要一个机会，让专家指出，程序的结果究竟在哪里出了问题。

[006]

在二〇〇七年接受 Nils Nilsson 采访时，参与创建 DENDRAL 的 Feigenbaum 回忆了他们怎样做这件事。Nilsson 也是人工智能研究者。这段声音里，Feigenbaum 讲的是，团队为什么会有意把表现很不好的结果拿给 Djerassi 看。

[007]

Edward Feigenbaum（04:07–04:45，2007 年访谈）： When we began to show them the, by deliberate strategy, we began to show them the early, when I say them, I mean Carl particularly, the early, quote, results, unquote, by which I mean really poor results by intention. We didn’t want to make this very good. We wanted to show Carl something really poor. And Carl would say, “That is really stupid.” And our answer, already planned, is, “Carl, what is it you know about mass spectrometry that we don’t?”

[007]

让这段经历成为研究方法的，是接下来的持续合作。Djerassi 团队中的化学家 Alan Duffield，与 Buchanan 一起，把专业判断转成程序能够使用的知识。

化学家看到不合理的结构，可以把它划掉。程序设计者却需要追问：这次划掉它，凭的是哪一条信息？这个条件对什么样的分子成立？遇到别的信号，还能不能用？只有这些关系被表达出来，机器才可能在下一份数据上再次执行相应的判断。

[008]

这件事与把正确答案输入计算机很不一样。输入一个答案，程序只能得到这一次的结果；整理一项判断，团队希望交给它的是，面对一类情况时可以怎样处理。

但专家的经验并不总是现成的条文。哪些迹象通常一起出现，什么时候应该怀疑自己的第一反应，有些知识需要在看具体案例时才说得清楚。程序给出不好的结果，化学家分析它，团队再修改程序。知识就是在这种往返中，逐渐变得具体。

[009]

我们可以把这件事看得更细一点。一九六九年，Buchanan、Sutherland 和 Feigenbaum 发表的论文里，留下了一组人与程序交互的例子。

把这些提问换成日常说法，就是：你现在要告诉我的，是哪一类结构？我应该在数据里找什么？

[010]

把一个判断写进去

6:08

论文展示的这次输入，要登记的对象叫“酯”。它是一类化学结构。我们不需要记住它的结构式，先跟着程序的提问走。

程序要的并不只有一个名称。它还要知道，哪些谱峰条件可以帮助识别这类结构，它的组成和连接应该怎样表示，以及生成其他结构时，应当怎样处理它。

这些问题把一句“我觉得它像这一类”拆开了。化学家必须提供程序能够检验的信息。一个名称只是方便人称呼；要让机器使用这个判断，还得把名称背后的条件补上。

[011]

更有意思的是，这份交互还允许修改已经输入的内容。知识没有被当作一句说过就算的话，而是留下一个能够再次找到、重新检查的位置。

想象一位专家后来发现，某个条件说得过宽了。团队需要能指向这个条件，改掉它，再用案例看修改之后发生了什么。现在先记住这个小动作：一项判断有了可以修改的地址。它的好处和代价，都会在后面的故事里再出现。

[012]

做过故障排查的人，可以先借一个熟悉的动作理解它。假设一个服务没有响应，你手里列了几种可能原因。查到一条可靠的信息之后，有的原因可以排除，余下的还要继续检查。

如果检查项写错了，排除也可能是错的。如果开始列的范围就太窄，真正的原因甚至没有进过清单。所以，一份看起来很整齐的排查表，不会因为能自动运行就保证正确。

回到化学程序，起作用的是具体的化学知识和谱图条件。排障这个比喻只帮我们看见“用证据缩小候选”的动作，不能替它证明一条化学规则。

[013]

程序使用这些条件时，也不一定先把全部结构列完，再从头一项项删除。有些条件会提前限制，接下来还需要生成哪些结构。

论文里的流程是，先从数据获得约束，让它们影响结构生成；对得到的候选，再预测可能出现的谱图，把预测与实测数据作比较。最后，程序可以给出一组经过比较和排序的结构。

这样，专家的知识改变了整个查找过程。它既帮助判断一个候选怎么样，也影响程序把力气花在哪些可能性上。

[014]

请注意中间那个“预测”。候选结构还没有被证明是真的，程序先问的是：如果它成立，我们会期待看到什么样的数据？再把这个期待，与实际结果放在一起。

这使得候选之间可以比较，却不保证最后只剩一个答案。原论文直接说，通常仍会留下多个可能的结构。对化学家来说，一份更短、更有根据的候选名单已经能提供帮助，后面的实验和判断还可以继续。

[015]

还有一个容易误会的地方。Lederberg 最初列举无环结构的算法，可以在规定的集合里做到不遗漏、不重复。可是，一旦加入经验性的排除条件，整个系统的表现还要看这些条件是否合适。

论文明确提醒，启发式约束可能让程序绕过正确的结构。一个程序的某个部件具有保证，并不能把这份保证自动送给所有后续步骤。

这就是为什么失败还要回到化学家和程序设计者手里。他们需要判断，这次出问题，是规则缺了，条件用错了，还是原先规定的范围本来就不够。

[016]

到这里，机器已经有了两样可以分别追问的东西：一套被表达出来的知识，以及一套使用这些知识的过程。早期 DENDRAL 的不同版本，把它们组织在程序里的方式并不完全一样，但这两个问题已经出现了。

团队如果想处理更多类型的分子，就需要更多相应的知识。规则不够，可以去问专家；可专家的知识又是怎样来的？如果他也是从大量实验里慢慢归纳出来的，这段工作有没有一部分，也可以交给程序？

[017]

规则也成为要寻找的答案

10:03

于是，原来的任务被换了一下方向。

之前，团队拿到实验数据，想找出可以解释它的结构。现在，他们可以拿一些结构已经知道的化合物，把结构和对应的质谱放在一起，寻找其中反复出现的关系：什么样的结构环境，容易出现什么样的碎裂现象？能否把这些关系整理成新的规则？

一九七六年发表的 Meta-DENDRAL 论文，研究的就是这类规则形成。机器要寻找的对象，从一个具体结构，转成了之后可以帮助判断结构的知识。

[018]

这个变化，也对应着 Feigenbaum 最初对科学推断的兴趣。除了提出一次解释，团队还想研究，用来作解释的知识可以怎样形成。

还是在二〇〇七年与 Nilsson 的那场访谈中，他谈到了这个设想，也谈到了他们做到的范围。

[019]

Edward Feigenbaum（10:55–11:26，2007 年访谈）： That knowledge got in there because we interviewed people. How did the people originally get the knowledge? How did you get that knowledge? By looking at thousands of spectra. So we wanted a program that would look at thousands of mass spectra and infer the knowledge of mass spectrometry that DENDRAL could use to solve individual hypothesis formation problems. And we did it, but only for a narrow class of compounds.

[019]

要让这样的程序运行，团队仍然必须先规定，规则可以长成什么样，程序可以在结构里观察什么，以及怎样判断一条候选规则是否有用。

机器从数据中寻找关系，并没有同时替研究者决定所有这些前提。它找到一条在某类化合物上有用的规则，也还需要继续检查，这条规则遇到别的材料是否成立。

所以，把专家系统概括成“人把规则写死，机器照做”，会漏掉 Meta-DENDRAL 这部分工作。但把它说成能够自行发现一切知识，也会超过论文给出的结果。

[020]

把知识问出来，规定表达方式，写入程序，看结果，再修改；必要的时候，还要改变处理知识的工具。这一连串工作，到了 Feigenbaum 一九七七年的论文里，有了一个能够把它们联系起来的名字：知识工程。

这里的工程，不是把专家的回答原封不动保存下来。知识工程师要同时理解领域中的判断，以及程序能够怎样使用它。知识越加越多，原来的表示、速度或交互方式还可能变得不合用，于是连程序的组织也需要调整。

知识为系统带来了能力，如何承载这些知识，又成为新的设计问题。

[021]

这些工作并不只帮助机器给出结果。它们也提供了另一种可能：当一个人已经给出结论时，把他写下的依据交给程序，看这些依据是否真的把其他可能性排除掉了。

DENDRAL 项目中还有另一支程序工作，正好可以帮助做这样的检查。

[022]

那个还没有被排除的结构

13:01

这支程序叫 CONGEN，它用于根据约束生成可能的结构。一九七八年的项目报告记载，Djerassi 课堂上的学生，曾把已经发表的结构推断拿来检查。

论文已经给出一个答案，也列出了支持这个答案的实验材料。学生把其中的约束交给程序，看它还能不能找到其他相容的结构。在一些案例中，程序真的找到了。

站在读论文的人的位置，事情一下就有了不同的意味。原来的结构已经画在那里，还被发表了；可根据纸上给出的这些条件，它可能并不是唯一剩下的解释。

[023]

但这还不能直接宣布，论文的结构错了。

一个新候选出现，只说明已经提供的条件还没有把它排除。也许原来的结构仍然正确，只是需要更多证据；也许研究者手里还有一项没有写进这次输入的信息；也可能确实需要重新检查结论。这些情况要靠后续核查来区分。

程序在这里提出的，是一个值得认真回答的问题：你凭什么排除这个可能？它让原来已经被接受的结论，重新面对自己的依据。

[024]

Djerassi 在二〇〇五年的一次访谈里，回顾过这种做法。在他的解释中，结构推断要面对多个与数据相容的候选，再寻找能够区分它们的证据。

这里能看见人与程序的关系发生了一次变化。化学家先把用于排除候选的知识交给程序；程序随后帮助化学家检查，自己是否已经把候选排除得足够充分。

机器的价值，有时就在于它把另一个可能性留在了桌面上，让人不能只凭熟悉的答案就停止追问。

[025]

不过，程序能够检查的，始终是已经进入它的那些条件。如果一个关键概念没有表达出来，如果问题发生了变化，它会不会知道，原来的办法需要跟着改变？

同一份一九七八年的报告，也谈到把程序交给更多人使用的困难。不同的计算环境、软件改写，以及能在当地管理和维护程序的人，都影响着技术能否真正被用起来。

能在一个研究任务里取得结果，与能方便地进入另一个任务之间，还有一段距离。接下来，这段距离会在更明确的专家系统架构里显现。

[026]

换知识，还要不要换方法

15:18

我们把观察点放到一九八四年，两组已经积累了实际经验的项目总结上。

先看 MYCIN。医学与计算机研究者 Edward H. Shortliffe，以及前面已经出现的 Buchanan 等合作者，用它研究感染相关的咨询和用药建议。在他们的系统里，知识与使用知识的办法，有了更明确的分工。

一部分保存关于领域的事实、条件和关系，这叫知识库。另一部分决定，在当前数据和目标之下，怎样调用这些知识、沿哪些线索继续追问，这叫推理机。系统还需要接收人的输入，并把建议和解释交还给人。

[027]

这种分工有一个很吸引人的地方：处理知识的程序，不必与每一条领域知识绑死在一起。增加一项关系、修改一条判断，可以先去调整知识库，而不是每次都从头重写整个程序。

沿这个方向，团队还发展了 EMYCIN，希望把适合的推理办法用于其他问题。可以把它理解成，从一套具体咨询程序里整理出能够复用的框架。

可是，框架复用得了多少，要看新问题是否接受它原来的那些假设。

[028]

MYCIN 的作者说得很具体。EMYCIN 主要分析一组给定的数据，比较支持或反对若干解释的证据，再提出相应建议。它预先假定了适合怎样的问题、以怎样的方式收集证据，以及答案通常是什么形式。

如果换一个任务，需要不断接收新观察，或者需要用另一种办法构造方案，光换知识库就未必够了。新任务改变的，可能还有程序处理问题的方式。

拿刚才的排障清单作个有限的对照：给一台已经发生故障的机器找原因，与一边运行、一边监测、一边决定下一步怎么控制它，所需要的流程可以不同。把检查项抄过去，并不保证整个流程就适用了。

[029]

这套架构的局限，需要和它实际具备的能力一起看。

MYCIN 可以处理不完整、不精确甚至有矛盾的数据；它的作者还专门说明，因果知识并不是天生不能写进规则。我们也已经看到，DENDRAL 能够生成候选，Meta-DENDRAL 能够尝试归纳规则。

难点在于，怎样把这些知识组织成适合眼前问题的形式，又怎样让它们在变化之后仍然有效。承认这些能力，才能更准确地说出它的局限。

[031]

再看另一个任务：为客户订购的计算机系统安排合适的配置。这里的系统叫 R1，也叫 XCON，由卡内基梅隆大学与计算机厂商数字设备公司，也就是 DEC 的团队共同发展。

Judith Bachant 和 John McDermott 在一九八四年的回顾中写到，R1 已经从一九八〇年起进入 DEC 的实际配置工作。但投入使用没有让知识工程结束。此前几年，光是增加知识，持续投入就大约相当于每年四个人工作一整年的量。

这个数字指的是增加知识的工作，不是系统全部成本。它说明的是，系统越被实际工作依赖，就越需要继续取得、组织和检验它要使用的知识。维护是一项持续的条件，不能只在第一次把程序做出来时计算。

[032]

如果把目标继续扩大，换成一个面对许多主题、许多说法、许多不同任务的语言系统，这些负担也会一起扩大。使用什么概念，怎样理解输入，规则缺在哪里，新的知识会影响哪些旧判断，都需要处理。

这让我们看清一种扩展方式的要求：先把越来越多的知识，整理成当前程序可以操作的形式。

后来，大语言模型把其中很大一部分工作，转到了另一种过程中——训练。

[033]

知识进入了另一种地方

19:50

现在，把时间推进到我们已经能查到公开结构的大语言模型。二〇二五年，千问团队发布的 Qwen3 技术报告，介绍了一个通过大规模数据进行预训练、再经过后训练的模型家族。

这里，很多语言和任务的模式，不必先由知识工程师逐条翻译成可执行规则，再交给解释器使用。训练会调整神经网络中的大量数值参数，使输入经过网络计算后，更能够完成相应的预测与任务。

这改变了知识进入系统的主要方式。参数不是一份可以直接翻开的规则目录；数据中的关系，会通过训练影响许多内部数值，再一起影响之后的输出。

[034]

对听众来说，可以先比较两种处理新表达的办法。一种办法要求这句话先被转成系统已经认识的概念和关系，再沿现有规则处理。另一种办法，则让训练得到的表示参与计算，利用从不同材料中学到的模式，生成后续内容。

这不保证第二种办法总能理解新的情境。但它使很多语言变化，不必都先写成一项人工增加的规则。对于面对广泛语言材料的系统，这是一种不同的扩展路径。

我们讨论专家系统为什么没有成为大语言模型的底座，主要指的就是这个层面的差异。

[035]

到二〇二六年的公开模型 Qwen3.5，模型结构又有新的组合，但它的语言模型基础仍然是训练得到的神经网络。它并没有在内部放入一套经典 MYCIN 式的规则知识库，靠同样的推理机来组织全部语言能力。

我们说的是模型本身。围绕它搭建的应用，还可以有规则、检索和其他程序。一个能调用工具的系统，比其中的语言模型多了别的组成部分。

[036]

然而，把知识的取得转到训练过程，并没有让成本消失。数据怎样选择，模型怎样训练，结果怎样评价，仍然需要大量设计和检查。

而且，知识的影响分散在参数里，带来了另一种困难。你想修正一个具体错误时，未必能像刚才修改规则那样，直接找到一条清楚写着条件与结论的记录。模型能流畅地解释一个答案，也不自动证明那段解释就是它产生答案的实际过程。

所以，灵活地处理许多表达，与能够准确说明依据、可靠更新知识，仍然是不同的问题。

[037]

把这条路线放回更长的历史，会发现，追求能够跨任务工作的智能，人们曾经选择过很不一样的起点。

与专家系统相邻的 Cyc，试图把日常常识和世界知识也明确写出来，让机器能够据此推理。Soar 这样的统一认知架构，则把目标、记忆、问题求解和学习组织到同一套系统里，研究它们怎样配合。一个希望扩充可以明确表达的世界，另一个希望建立能够协调多种能力的框架。

它们的具体方案都需要继续取得任务所需的知识；有了知识或架构，也不能直接说通用智能已经完成了。

[038]

机器人研究者 Rodney Brooks 选择从真实环境里的行动出发。他主张让感知和行动紧密连接，用多个行为层逐步建立可以运作的机器。机器能够自主移动，是实际能力，却不能只凭这一点，就宣布开放的语言与推理问题也已经解决。

研究通用智能理论的 Marcus Hutter，则从数学上把通用归纳和决策结合，提出后来以 AIXI 为人所知的理想智能体模型。它的原始形式不可计算，不能直接当作一台可以运行的通用机器。理论提供了参照，实际实现还要面对资源和计算的限制。

[039]

这些具体方案没有整体成为刚才讨论的语言模型底座，提出的问题却仍在：常识怎样组织，记忆怎样参与行动，机器怎样接触真实世界，决策怎样获得依据。

模型或者外围系统使用了记忆、环境交互和强化学习，也不等于采用了 Soar、Brooks 的行为架构或 AIXI。大语言模型不是过去所有通用智能方案的简单合集。

看清这些区别，我们才能回到本期的专家系统，具体地问：它留下的哪些做法，仍然值得用？

[040]

留下可以检查的判断

24:12

还记得第三章里，输入程序的那一项判断吗？它有名称，有条件，写进去以后，还能再次找到并修改。

这种明确性，是专家系统留下的一项重要价值。知识的适用范围可以被写出来，一次判断使用了哪些输入、哪些规则，也可以留下检查入口。出了问题，研究者有机会指向具体的条目，再用案例验证修改之后的影响。

当然，留下记录并不等于记录里的知识就是真的；能改一条规则，也不等于改动不会影响别处。可对于需要审核和纠错的工作，这些仍然是具体而有用的能力。

[041]

因此，判断某项任务该不该使用显式规则，应该从任务本身开始。它的条件能不能说清？出了问题需要怎样追查？哪些边界必须由程序明确检查？

可以考虑这样一种组合：让语言模型帮助处理开放的表达、整理可能的候选，再由独立程序检验某些必须满足的条件。这是一个需要具体设计和验证的方案，不是只要把两种技术接起来，就会自动得到可靠系统。

有些知识适合从数据中学习；有些条件需要保持明确，方便审查。设计时，要分别决定这两部分怎样取得、怎样使用，又怎样验证。

[042]

外部知识与语言模型结合，也已经有可以核查的研究例子。二〇二〇年的检索增强生成论文，把文档检索和生成模型组合起来：先找到与问题相关的材料，再让模型结合材料生成内容。

这里，文档索引不是经典专家系统的规则库，检索也不是规则推理。这个例子只是让我们看见，模型内部的参数，和模型可以调用的外部知识，并不必须承担完全相同的任务。

经典专家系统没有成为语言模型的基础架构，并不意味着知识只能藏在模型参数里面。

[043]

回到开头那份化学样品。为什么知道了组成，拿到了谱图，机器还需要化学家的判断？因为数据还要被组织成问题，可能的结构还要被提出、比较和排除，而哪些条件可以用、怎样用，并没有全部写在数据表面。

Feigenbaum 与合作者把其中一部分知识变成了可以运行的过程。程序给出了更有用的候选，也让人有机会重新检查自己给出的依据。它的能力很具体，它的边界也很具体。

[044]

专家系统困难的地方，在于让越来越广的世界进入明确的知识表示，并在问题变化时，继续维持这些知识和推理办法的有效性。大语言模型通过训练改变了取得广泛模式的方式，却没有替我们自动解决知识准确、来源清楚和行为可控的问题。

所以，回看这条没有成为主流语言模型底座的路线，我们仍然能够带走一种设计要求：什么交给模型去学习，什么需要留下可审查的依据，哪些决定应当由明确的条件约束。

最后留下来的，不只是机器给出的一个答案。还有我们能不能说清，它凭什么被保留，以及发现问题以后，应该从哪里重新检查。

[045]

单集识别与系列位置

27:26

你刚刚收听的是《原代码》第十五期，《专家系统：Edward Feigenbaum 与 DENDRAL》。这是《大语言模型前史》系列的第五期，副标题是“从 Alan Turing、John von Neumann 到 GPT-1”。

下一期，我们会转向 Frederick Jelinek 与 IBM 的语言概率研究，看看语料、概率和评测怎样组织起另一条技术路线。

引用 [001]

引用 [002]

引用 [003]

引用 [004]

引用 [005]

引用 [006]

引用 [007]

引用 [007]

引用 [008]

引用 [009]

引用 [010]

引用 [011]

引用 [012]

引用 [013]

引用 [014]

引用 [015]

引用 [016]

引用 [017]

引用 [018]

引用 [019]

引用 [019]

引用 [020]

引用 [021]

引用 [022]

引用 [023]

引用 [024]

引用 [025]

引用 [026]

引用 [027]

引用 [028]

引用 [029]

引用 [030]

引用 [031]

引用 [032]

引用 [033]

引用 [034]

引用 [035]

引用 [036]

引用 [037]

引用 [038]

引用 [039]

引用 [040]

引用 [041]

引用 [042]

引用 [043]

引用 [044]

引用 [045]