推理在人工智能的创立中扮演了关键角色。哥德尔在他的不完全性定理证明中，建立了一个对AI发端具有重大意义的中间结果: K_N可表示的推理可以通过递归函数的计算实现。根据车赤- 图灵论题，递归函数是图灵机可计算的。于是上述中间结果隐含着一个猜想：任何推理都是图灵机可计算的。在此基础上，1950年图灵提出了图灵假说：推理、决策、学习、理解和创造都可以用图灵机实现。图灵测试是图灵假说的一种检验手段，不是人工智能的定义。

在人工智能前三次浪潮中，AI推理的基本原理是可靠性条件：如果一个知识库中的所有知识在一个应用场景中都是真的，并且用AI推理机从该知识库可自动推出一个结论，那么该结论在该场景中也是真的。可靠性条件体现了下列设计思想：为了用AI推理得到一个应用场景中的每一个结论（结果），只需给出该场景的知识库（只包含该场景的基础知识，用它们可推出大量其他知识），并用推理机对可能的结论进行自动推理。

AI推理有不同程度的弱形式，均在不同程度上遵守可靠性条件。如在搜索法中，起知识库作用的是搜索空间，起推理机作用的是搜索算法；在训练法中，起知识库作用的是用带标注数据训练得到的模型，起推理机作用的是在模型上由输入计算输出的算法。

依据可靠性条件，在第一、二次浪潮中研发出各种强大的推理机和基于知识的系统，开展了多种实际场景的示范应用，取得了重大进展。近年分析表明：对于非封闭场景，可靠性条件不保证应用成功；而实际场景通常不是封闭的。这是AI推理进入30年沉寂的根本原因。

场景封闭化是将非封闭场景转化为封闭场景，这为AI推理及现有AI技术的成功应用提供了一条可行路径。封闭性准则的主要要求是：应用场景被一组确定的变元完全描述，这些变元所遵守的定律被一个模型或一个确定的代表性数据集完全表达。我发现，AI推理的三种主要数学工具——逻辑学、概率论和决策论规则，以及Pearl的因果理论，都隐含着封闭性假设；而AlphaGo Zero通过围棋问题封闭化取得了巨大成功。因此，研究、构建封闭化工程学（对应于软件工程学），对当前人工智能应用具有重大意义。

然而，并非任何应用场景都能够或适合封闭化。CAAI名誉理事长李德毅院士指出：“我们现在遇到一个基本问题就是开放性跟封闭性的矛盾，可以无限接近真理，但永远不可能相同。”这对AI推理提出了新挑战，也为新一代人工智能提供了研究背景。

Yann LeCun、Yoshua Bengio和Geoffrey Hinton在深度学习总结文章中指出其主要局限是缺乏复杂推理能力。在2020中国人工智能大会报告中，Yoshua Bengio提出了深度学习2.0的研究纲领: 用深度学习实现推理、规划、决策、语言等功能，并能表达显式知识（现有神经网络只能表达隐式知识）。同时，他的团队已发表多篇相关论文。早在20世纪70年代，就出现了基于规则的推理与神经网络相结合的研究。在深度学习基础上探索新一代AI推理，将推动人工智能向纵深发展。

传统AI推理试图用封闭的本地知识库完成开放性任务，而人类个体不仅知识量远超想象，还能随时从外界获得新知识。1990年以来持续发展的知识技术（Knowledge technologies）为新一代AI推理构建了坚实的“大知识”基础，基于大知识的新一代AI推理也于10年前出现了，如“开放知识”。这一新方向在遵守可靠性条件的基础上，探索非封闭化场景AI推理的可行路径，并深化AI数学基础问题的研究。

相关的工作、课题还有很多，AI推理正在重新引起学术界和产业界的高度关注，重回人工智能研究的舞台中央；但不是回归原状，而是获得新生。