La carte n'est pas le territoire

On entend souvent dire que le cerveau humain fonctionne comme un réseau de neurones, qu'il calcule, qu'il manipule des vecteurs ou qu'il fait des moyennes. Ces phrases sont séduisantes, pratiques, et parfois pédagogiques. Mais prises au pied de la lettre, elles posent un problème fondamental.

La carte n'est pas le territoire.

Le cerveau ne se comporte pas comme un réseau de neurones artificiels.
Il ne calcule pas des moyennes de vecteurs, et n'optimise pas une fonction de coût.
C'est exactement l'inverse : nous observons un réel complexe, biologique, matériel, puis nous tentons d'en proposer une modélisation exploitable.

Le réseau de neurones artificiels n'est pas une explication du cerveau ; c'est une approximation mathématique, construite après coup, pour rendre certains phénomènes manipulables, simulables, reproductibles. Confondre les deux, c'est prendre l'outil pour l'objet, la représentation pour la chose représentée.

Faire l'inverse (inférer des propriétés du réel à partir du modèle) conduit à une forme de chosification : on prête au monde des intentions, des mécanismes ou des capacités qui appartiennent en réalité à notre cadre formel. C'est ainsi que naissent des discours anthropiques sur le calcul, l'intelligence artificielle ou la cognition, où l'on projette sur le réel ce qui n'est qu'un artefact de modélisation ; voire une vision quasi-platonicienne dualiste où les nombres se retrouvent quasi-doués de conscience et d'intention, et le calcul devient l'équivalent du "flux vital" des vitalistes.

Un modèle est, par nature, faux.
Il est simplificateur, incomplet, biaisé par ses hypothèses. Sa valeur ne réside pas dans sa vérité, mais dans son pouvoir explicatif provisoire. Un bon modèle est destiné à être remis en question, affiné, ou remplacé par un modèle moins faux, jamais par le réel lui-même.

Rappeler que la carte n'est pas le territoire, ce n'est pas affaiblir la science ou l'informatique.
C'est au contraire leur donner toute leur rigueur : celle de disciplines conscientes de leurs limites, et donc capables de progrès.