Na minha opinião, o motivo de a IA não entender uma regra tão fácil, que até pessoas conseguem compreender, é que todo o aprendizado da IA se baseia em recompensa futura. Como eu disse antes, é preciso colocar a casa vazia depois do número e girar o loop. Mas, se o número recebe recompensa por se mover para a casa vazia, a mesma coisa acontece na próxima vez, e o número tenta voltar para a casa vazia anterior para ganhar a recompensa de novo. Depois disso, como já vimos, ela cai em um loop infinito.

Esse problema não existe para a heurística. Uma heurística é uma combinação de instruções IF, então algo como recompensa futura nem existe para começo de conversa. Por isso a heurística consegue passar por esse obstáculo com facilidade.

A vantagem da heurística sobre a IA é que, dependendo do hardware, hoje a heurística é muito mais rápida e precisa. A IA age com base em probabilidades, então, à medida que a tecnologia avançar e o hardware melhorar, provavelmente um dia ela vai produzir resultados mais rápido do que qualquer heurística. Mas, de vez em quando, existem problemas que a heurística consegue resolver e a IA nunca consegue.

O método de treinamento atual da IA é a ganância. Se a IA chegar perto da inteligência humana, ou a superar em um futuro próximo, qualquer erro que a IA cometer será fruto da ganância humana. Se os métodos atuais de treinamento de IA refletissem resultados de boa intenção em vez de ganância, o tempo de treinamento aumentaria, mas a IA não trapacearia nem trairia seus colegas por ganância como faz hoje.

Acredito que este problema é um bom exemplo de como treinar uma IA usando como professora uma heurística que não tem ganância.

O código-fonte completo e os modelos usados estão no post "4. O código-fonte completo e os modelos usados".