连人都能理解的这种简单规则，AI却理解不了，在我看来是因为AI所有的学习都建立在未来奖励的基础上。正如前面所说，必须在数字后面放空格再转动环；但如果数字因为移进空格而得到奖励，下一次也会发生同样的事，数字又会想移回之前的空格来获得奖励。之后就像我们已经看到的那样，陷入无限循环。

这是启发式不存在的问题。启发式是IF语句的组合，所以从一开始就不存在什么未来奖励。因此启发式可以轻松跨过这个难关。

启发式比AI好的地方在于，虽然取决于硬件，但现在启发式要快得多，也准确得多。AI是基于概率行动的，所以随着技术发展、硬件变好，将来它可能会比任何启发式都更快地给出结果。但偶尔也会有启发式能解、AI却绝对解不了的问题。

AI现有的学习方法是贪婪。如果AI接近人类的智能，或者在不远的将来超越人类，那么即使AI犯了什么错，那也全都是因为人类的贪欲。如果现有的AI学习方法反映的不是贪欲而是善意的结果，学习时间虽然会变长，但AI不会像现在这样作弊，或者因为贪欲而背叛同伴。

我认为，这个问题是一个很好的案例，说明可以把没有贪欲的启发式当作老师来训练AI。

完整源代码和所用模型可以在“4. 完整源代码与使用的模型”一文中查看。