自动预警
但是，现在还没有到最后下结论的时候。在上一节中，我们看到，如果我们想要通过计算来“发现”剥削行为，还需要指定某个特定类型的行为主体，他们会进行探索。在未来，我们希望通过计算能够自动“发现”我们没有想到过的、更广泛多样的可能剥削行为，并且对它们进行测试，从而提前预测到可能的操纵。如果真的能够做到这一点，那么无疑理想得多。
前景究竟如何？针对美国–墨西哥边境的偷渡，基于计算机的模型将会给出什么预测（如它是否能够想象到16米高的梯子）？基于计算机的模型在得到了我们的提示后，很容易就能做到这些。我们为计算机仿真程度提供不同的“梯子高度”，如8米、12米、20米等，这样计算机仿真程序就会“学会”：16米高的梯子是有效的。但是，这其实是在作弊。
就“偷渡攻防战”这种情形而言，我们真正希望做到的是，计算机仿真程序能够在完全没有人为提示的情况下自主地“思考”：当边境上竖起了防止偷渡的高墙时，怎么办？我们希望计算机仿真程序能够在没有任何内置提示的条件下，“发现”梯子这一类工具，或者发明其他合理的方式来战胜障碍。而要想做到这一点，计算机仿真程序就需要有关世界的知识，这种知识必定是一种深刻的知识。为此，计算机仿真程序必须成为一个一般意义上的智能体，知道世界的各种可能性、知道什么是可用的、知道一般来说“外面会有什么”。换句话说，它需要某种类似于我们人类智力的东西。不难感觉到，这里有一些人工智能的味道。是的，我们其实是在要求得到一台“发明机”，即一台能够意识到自己身处的世界、能够在概念上将一系列构件组合到一起去解决一般性问题的机器。从这个角度来看，这个问题属于“人类认为不难，但对机器来说却很困难的计算问题”，即所谓的“人工智能完备性”问题，诸如阅读和理解文本、解释语言、翻译语言、识别视觉对象、下棋、裁判司法案件等问题，均属此类。考虑到我们关注的焦点，我们还可以加上一项：对解的想象。
这里的问题绝对不仅是一个概念性的问题，还是一个实践问题。如果能够认识到这一点，那就是一个令人高兴的良好开端。我们能够“教会”计算机识别不同情境，并让它建立一个庞大的、通用性的实用知识库。众所周知，早在2010年，IBM就“教会”了一台计算机，并让它成功地参加了电视智力竞赛节目《危险边缘》，它就是通过建立一个庞大的知识库来实现这一点的。因此有朝一日，计算机也会拥有一个庞大的、关于以往各种情形的，以及这些情形如何被“剥削”的语义性知识的“图书馆”。有了这样一个“图书馆”，计算机就可以“识别”出类似的情形，并利用它们来为当前的目的服务。这并不是一个遥远的预言。例如，在2003年，如果在美军向伊拉克发动进攻之前，已经进行过了计算机仿真实验，那么就应该能模拟出或计算过历史上的入侵，以及随着这种入侵而来的叛乱，还应该能就伊拉克的可能未来提出警告。它会预料到种种“涌现”出来的行为。在未来，计算机模拟应该可以很好地融入历史，找到类似的东西，如找到作为对高墙反应的梯子，并将这些东西呈现给我们。尽管从概念上看，这是完全可行的，但是我认为要充分利用这种类型的实用机器智能，可能还需要几十年的努力。
补上“失败模式反思”这一课
在过去100年或更长的时间里，经济学理论在稳定宏观经济预期、制定国际贸易政策、监管货币体系、推行中央银行制度和执行反托拉斯政策等方面发挥了重要作用。但是，它未能防止金融崩溃和经济危机，而绝大部分金融崩溃和经济危机都是由剥削行为造成的。在我们的时代，这几乎可以说是一个异数。航空安全、建筑安全、地质安全、食品和药物安全、疾病安全、手术安全等，所有这些在过去的50年中一直在稳步地得到改进。相比之下，“经济安全”在过去50年里却没有什么改变。如果说有什么改变的话，那也只能说它变得更糟了。
许多经济学家（包括我自己）也许会说，对自由市场自我调节能力的盲目信心是造成这种情况的一个很重要的原因。但是，经济学理论本身的一个弱点，即缺乏一种能够在政策实施之前找到可能的失败模式的系统方法，也难辞其咎。失败模式研究从来不是经济学这门学科的核心，因为经济学坚持均衡分析，假定系统会快速地向一个没有任何行为主体有动机偏离其当前行为的地方收敛，并且会稳定在那里，因此剥削行为不可能发生。基于这种认识，我们经济学家的普遍倾向是，设计政策并对其结果进行一些模拟，但是不会充分地探讨行为假设的稳健性，不能将那些因系统性的剥削而可能失败的地方识别出来。
因此我认为，现在是对我们的思想做出修正的时候了。设计一个政策体系并简单地分析是远远不够的，即便是相当细致深入地模拟政策结果也是不够的。我们不能把社会系统和经济系统视为一组没有改变动机的行为，而必须把它们视为一种总会引发进一步的行为、诱致进一步的策略、导致系统性改变的激励网络。我们需要仿效结构工程学、流行病学或加密科学等学科中的做法，预测我们所研究的系统中可能被剥削的地方。我们需要对我们的政策设计进行压力测试，来找出它们的弱点，看看我们能否“打破”它们。数十年来，工程学一直坚持失败模式分析，从而使我们拥有了能飞行数百万公里的飞机、不会在地震中倒塌的高层建筑物……如果将这种失败模式分析应用于政策制定的世界，那么我们将更有可能得到我们所可能的经济和社会结果，从而避免世界上的诸多痛苦。
