Dans la nature et dans la société on observe des espèces animales, des groupes d’individus ou des organisations, ou même des ensembles de cellules qui « choisissent » de coopérer, même si une approche égocentrique paraît plus profitable a priori. Comment la coopération se développe-t-elle ?
De telles situations peuvent être expliquées à partir du dilemme du prisonnier. Deux personnes en prison, complices d’un même crime, sont séparées et interrogées sans possibilité de communiquer entre elles : elles ont le choix de se taire (coopérer) ou de dénoncer l’autre (faire défection). Si les deux se taisent, elles auront chacune deux ans de prison. Si les deux dénoncent, elles auront trois ans de prison. Si l’une dénonce et l’autre se tait, celle qui dénonce hérite d’un an de prison et l’autre de quatre ans de prison.
On résume ceci dans le tableau suivant :

Que doit faire chaque personne ? Prenons la personne A :
- Si la personne B se tait, A hérite de deux ans de prison si elle se tait et d’un seul si elle dénonce. Donc, elle a intérêt à dénoncer.
- Si la personne B dénonce, A hérite de quatre ans de prison si elle se tait et de trois ans si elle dénonce. Donc, elle a encore intérêt à dénoncer.
Alors, le choix logique de A est de dénoncer. Comme le tableau est symétrique, le choix logique de la personne B est aussi de dénoncer. Donc, les deux personnes dénoncent et héritent chacune de trois ans de prison. Elles auraient hérité de seulement deux ans de prison si elles avaient décidé de se taire…
Le dilemme
Chacune des deux personnes a fait un raisonnement logique pour décider de dénoncer. Ces raisonnements sont incomplets : aucune des deux personnes n’a pris en compte dans sa démarche que l’autre personne puisse faire le même raisonnement logique qu’elle, et donc qu’elle risquait de décider, elle aussi, de dénoncer.
Le dilemme du prisonnier se retrouve sous de nombreuses formes dans la nature et dans l’organisation de la planète par l’homme. Sous sa forme générale, R (la récompense), T (la tentation), S (le sentiment de s’être fait duper) et P (la punition) représentent le gain (ou la perte lorsque le gain est négatif) que reçoivent les personnes A et B en fonction des choix faits par l’une et l’autre.

Chaque personne a intérêt à faire défection si \(T > R\) et \(P > S.\) De plus, la double défection est pire que la double coopération si \(R > P.\) Donc, on a les conditions du dilemme du prisonnier dès que
\[T > R > P > S \]
Les exemples foisonnent
Pensons au désarmement. Chaque pays a intérêt à s’armer pour se protéger : c’est la défection. Mais si l’un s’arme, l’autre le fait aussi… C’est la course aux armements. Les grands traités de désarmement sont des exemples de choix de coopération.
Il en est de même des traités de libre-échange. Chaque pays peut avoir intérêt à protéger ses entreprises locales et à mettre des tarifs douaniers pour l’entrée des marchandises étrangères. Mais alors, le pays partenaire réplique par des tarifs douaniers… Les traités de libre-échange sont donc des exemples de coopération.1
C’est aussi le cas des négociations pour protéger l’environnement et le climat. Chaque pays a, individuellement, intérêt à faire défection et à laisser effectuer le gros des efforts de réduction des GES et de protection de l’environnement par les autres pays. Mais, si tous les pays font défection, tous les pays sont perdants.
Pour un athlète de haut niveau, choisir de se doper est équivalent à un dilemme du prisonnier. Se doper améliore les chances de gagner. Mais, si les autres athlètes se dopent, le dopage n’a plus que des inconvénients, dont le risque de se faire prendre.
Le dilemme du prisonnier est un exemple de jeu mathématique étudié par la théorie des jeux. C’est un jeu à somme non nulle, car ce que gagne un joueur n’est pas ce que perd l’autre.2
Le dilemme du prisonnier itéré
En fait, la plupart des partenaires impliqués dans un dilemme du prisonnier vont choisir de faire défection. Mais, ce qui se passe souvent dans la réalité, c’est que les mêmes partenaires se retrouvent à rejouer le même jeu plusieurs fois. C’est là que peut se bâtir tranquillement la coopération. Au vu de l’évolution du jeu, les partenaires ajustent leur stratégie.
Il faut cependant une condition pour que la coopération se bâtisse. En effet, les deux partenaires pourraient s’entendre pour s’exploiter l’un l’autre en alternance. Il faut que ceci soit moins rentable que de toujours coopérer, ce qui donne la condition
\[2R > S + T. \]
Pour expliquer le phénomène et comprendre les conditions qui permettent à la coopération d’émerger, des chercheurs ont mis sur pied des expérimentations. La première expérimentation scientifique a été mise sur pied par le politologue Robert Axelrod qui a invité en 1979 des experts de théorie des jeux à « jouer » au dilemme. Chaque expert programmait une stratégie et 200 parties étaient jouées par simulation informatique pour chaque paire de stratégies proposées, y compris une paire opposant chaque stratégie avec elle-même. La stratégie ALÉATOIRE, qui consiste à coopérer ou faire défection avec probabilité 50 %-50 % a aussi été ajoutée.
La stratégie déclarée gagnante est celle qui a permis de récolter le plus grand nombre de points après avoir joué 200 parties contre chaque stratégie. Cette stratégie, OEil pour oeil, dent pour dent, et que nous appellerons COPYCAT, est la plus élémentaire. Elle a été proposée par le professeur Anatol Rapoport de l’université de Toronto. Elle consistait en
- Coopérer au premier coup;
- Ensuite, à chaque coup, jouer ce que l’adversaire a joué au coup précédent.
- Regardons les ingrédients de la stratégie COPYCAT.
- Au premier coup, on coopère, donc on ne provoque pas de conflit et on invite à la coopération. Donc, tant que le partenaire coopère, on coopère.
- Dès que le partenaire fait défection, on riposte immédiatement en faisant défection : on fait comprendre qu’on ne se laissera pas faire.
- Cependant, on pardonne après avoir répondu à une provocation dès que le partenaire coopère.
- La stratégie est prévisible, ce qui permet au partenaire de s’adapter au mode d’action proposé.
- La stratégie ne cherche pas à faire mieux que le partenaire : elle invite à un partenariat gagnant-gagnant.
Il n’y a pas besoin d’affinités ou d’amitiés pour que la coopération s’installe.
Revenons sur les traités de désarmement ou les traités de libre-échange. Les partenaires n’ont pas besoin d’être des alliés pour que la coopération s’installe. La coopération s’impose comme la solution maximisant les bénéfices pour chacune des parties.
Un autre exemple bien connu est celui où la collusion entre compagnies concurrentes est utilisée pour maintenir les prix hauts.
La guerre des tranchées de la première guerre mondiale a été le théâtre d’une coopération qui s’est établie. Les petits bataillons se faisant face dans les tranchées avaient le choix d’attaquer le bataillon en face (faire défection) ou de le ménager (coopérer). Plusieurs de ces bataillons avaient adopté la tactique de VIVRE ET LAISSER VIVRE, consistant à ménager l’ennemi en évitant de le bombarder, y compris lors de la récupération de corps, en bombardant à heure fixe ou sur des cibles fixes lorsqu’obligés d’attaquer par les supérieurs de l’armée. Deux bataillons anglais et allemand ont même fraternisé lors de la trêve de Noël de 1914. La stratégie VIVRE ET LAISSER VIVRE était encore plus coopérative que COPYCAT : on permettait souvent deux défections avant de riposter. Cette stratégie s’est imposée parce que les petits bataillons se faisaient face pour de longues périodes de temps, et parce que le front était essentiellement figé.
De nombreux exemples de coopération sont observés dans la nature. On n’a qu’à penser aux insectes vivant en colonies, comme les abeilles, les guêpes et les fourmis. Les labres nettoyeurs sont de petits poissons qui pénètrent dans la bouche ou les branchies de plus gros poissons pour y manger les parasites. Pour prévenir le petit poisson qu’il faut sortir, le gros poisson ferme légèrement sa bouche et secoue un peu son corps. Il prend le temps de prévenir même lorsqu’il est lui-même en danger : c’est sa manière de coopérer. Ceci se passe dans des habitats limités comme des coraux et pas en pleine mer : les partenaires apprennent à se connaitre et à se faire confiance.
Les antilopes impalas adultes se toilettent mutuellement en s’enlevant des parasites sur la tête et dans le cou. Ce toilettage comprend souvent de six à 12 échanges réciproques. Celui entre adultes mâles se produit même entre individus sans lien de parenté.
Remarquons que dans certains de ces exemples les deux partenaires ne sont pas identiques, et donc les coûts-bénéfices ne sont pas les mêmes pour les deux. On se retrouve alors avec un tableau

La personne \(\textcolor{red}{A}\) a intérêt à faire défection si
\[\textcolor{red}{TA > RA > PA > SA},\]
et la personne \(\textcolor{blue}{B}\) a intérêt à faire défection si
\[\textcolor{blue}{TB > RB > PB > SB}, \]
et on ajoute les deux conditions favorisant l’établissement de la coopération, soit
\[\textcolor{red}{2RA > SA + TA}, \textcolor{blue}{2RB > SB + TB}. \]
Les épinoches sont de petits poissons avec des épines dorsales les protégeant de nombreux prédateurs, mais pas du brochet. Lorsqu’un brochet rode, des épinoches s’approchent pour voir s’il semble dangereux ou s’il est plutôt assagi, par exemple parce que rassasié. Dans le premier cas, les épinoches doivent lancer un sauve-qui-peut. Mais un sauve-qui-peut est aussi dangereux parce que d’autres brochets ou prédateurs peuvent roder autour du groupe d’épinoches. Les épinoches s’approchent donc souvent à deux avec de petits sauts pour tester le brochet. S’approcher à deux augmente leur chance de s’en sortir si le brochet décide d’attaquer parce que le brochet est dérouté par la présence de deux proies, et le fait de devoir choisir entre les deux peut induire un délai de réaction. La coopération se produit quand les deux épinoches s’approchent simultanément. Une épinoche fait défection quand elle reste plus loin du brochet que l’autre. Les biologistes considèrent chacun des petits sauts comme une ronde du dilemme du prisonnier itéré.
À l’échelle microscopique, le corps humain est un amalgame de cellules qui coopèrent pour assurer le bon fonctionnement du corps&nbp;: ceci inclut la réparation des cellules ou la destruction (apoptose) des cellules en fin de vie utile. Les cellules cancéreuses peuvent être vues comme des cellules faisant défection. Souvent créées par des mutations, elles peuvent par exemple se diviser sans contrôle, alors qu’elles ne le devraient pas, ou encore refuser de se suicider ou de se réparer lorsque requis. Le mathématicien Martin Nowak a étudié le développement des cellules cancéreuses sous l’angle du dilemme du prisonnier.
Les forces et les vulnérabilités des différentes stratégies
Dans les expériences conduites par Axelrod, les stratégies qui se sont classées au sommet sont toutes des stratégies altruistes, c’est-à-dire qui commençaient par coopérer. Et les stratégies agressives commençant par une défection se sont toutes mal classées. Axelrod a ensuite organisé un deuxième tournoi, cette fois-ci avec 62 compétiteurs, plus ALÉATOIRE. Les compétiteurs étaient tous au courant des résultats de la première ronde et du succès des stratégies altruistes. Des stratégies très sophistiquées ont été proposées. Mais, pourquoi changer une formule gagnante ? Anatol Rapoport est revenu avec COPYCAT et, encore une fois, il a remporté le tournoi.
Cependant, un défaut de l’expérience d’Axelrod est que les stratégies programmées par ses experts sont déterministes. Or, dans la nature, on ne peut exclure des événements aléatoires ou encore des mutations. Prenons le cas de la stratégie COPYCAT. Supposons que deux partenaires aient choisi cette stratégie. Alors, normalement, ils coopéreront toujours. Mais si, pour une raison inconnue, un des partenaires fait défection, alors ils entreront dans un cycle infini où ils feront défection et coopéreront en alternance, à moins d’une nouvelle déviation de la stratégie. Des stratégies ont été proposées pour éviter un tel cercle vicieux. Une variante appelée COPYKITTEN a été proposée par Robert May : elle consiste à pardonner la première défection et à sévir seulement à la deuxième défection. Cette stratégie a des pour et des contre. Parmi les pour, elle est altruiste et permet de sortir d’un cycle infini généré par deux partenaires utilisant COPYCAT lorsqu’il y eu une erreur. Parmi les contre, le partenaire peut facilement la deviner et l’exploiter en introduisant des défections isolées qui ne seront pas punies et qui généreront un meilleur gain que de coopérer systématiquement.
L’évolution de la coopération
Cette évolution a été étudiée par Martin Nowak et Karl Sigmund via des simulations informatiques dans un contexte où il y a de l’aléatoire.
Prenons une population employant diverses stratégies. Voici quelques exemples :
- COPYCAT : OEil pour oeil, dent pour dent;
- COOPÉRATION : Coopérer toujours;
- DÉFECTION : Faire toujours défection;
- ALÉATOIRE : Jouer au hasard;
- COPYKITTEN : Coopération au départ, pardonner les défections isolées, faire défection après deux défections consécutives et recommencer à coopérer chaque fois que le partenaire revient à la coopération;
- RANCUNE : Coopérer jusqu’à ce que le partenaire fasse défection. Ensuite défection continue.
- Ou encore une des stratégies précédentes mais en y introduisant un peu d’aléatoire.
Martin Nowak et Karl Sigmund ont créé sur ordinateur une population fictive en attribuant aux individus des stratégies différentes, lesquelles contenaient toutes des possibilités d’erreurs ou au moins un peu d’aléatoire et ont organisé des tournois entre des paires de partenaires. Après un certain nombre de rondes, ils éliminaient les perdants, alors que ceux qui gagnaient se multipliaient, ici encore avec un peu d’aléatoire. Voici le genre d’évolution qu’ils ont observée. Nous nous limiterons à quatre types de stratégies (voir ci-dessous) :

- Dans un premier temps, l’évolution a semblé chaotique , en ce sens qu’aucune règle, ni organisation n’a semblé émerger.
- Puis les DÉFECTION se sont multipliés jusqu’à presque envahir la population, puisqu’ils sont gagnants dans l’interaction avec n’importe quel partenaire.

- Le gain est substantiel quand un DÉFECTION se mesure à un partenaire qui coopère, mais il est faible lorsque deux partenaires font défection. Si la population contient beaucoup de DÉFECTION, alors le gain moyen des DÉFECTION diminue sensiblement. Les quelques COPYCAT peuvent alors réussir à reprendre du poil de la bête et à se multiplier en exploitant le gain qu’ils font en affrontant d’autres COPYCAT, et la coopération commence à se bâtir.
- Les COPYCAT envahissent la population.

- Ceci permet alors aux quelques COOPÉRATION de se multiplier. (Même si les COOPÉRATION avaient complètement disparu, ils peuvent réapparaitre à cause de l’aléatoire et, en présence de COPYCAT, un COOPÉRATION peut prospérer.)

- Mais une population comprenant trop de COOPÉRATION est vulnérable aux DÉFECTION qui les exploitent systématiquement. Et le cycle recommence…
Ces travaux datent du début des années 2000. Sont-ils prémonitoires ? Après des années de libre-échange on voit réapparaitre le protectionnisme, et l’Organisation mondiale du commerce voit son rôle diminuer. Au niveau politique, il en est de même du multilatéralisme. Et les COP récentes sur le climat deviennent moins productives que celles de 2015 qui avait débouché sur l’accord de Paris.
Passer de deux partenaires à n partenaires
Nous n’avons abordé que la modélisation à deux partenaires, et pourtant beaucoup des exemples donnés ci-dessus impliquent plus de deux partenaires… Le type de gain et sa structure (par exemple si le gain est linéaire ou non linéaire) déterminent le genre de régimes qui s’installent, dont l’évolution vers la coopération, ou encore la coexistence de plusieurs stratégies. La motivation derrière ces travaux est de justifier a posteriori l’observation expérimentale que la coopération peut s’installer même quand une approche égocentrique peut paraître plus séduisante a priori. Dans les applications en économie ou en politique comme, par exemple, les COP climatiques, l’objectif est de rechercher des conditions qui vont favoriser la coopération, en ayant à l’esprit que de telles conditions peuvent exister.
Pour en s\(\alpha\)voir plus !
- Robert Axelrod, The Evolution of Cooperation.
- Nicky Case, Le jeu « L’Évolution de la confiance » https://ayowel.github.io/trust/
- Martin Nowak et Roger Highfield, SuperCooperators.
- Frédéric-Morneau-Guérin et Élodie Tremblay, « Regard mathématique sur le jeu de Hex », Bulletin AMQ, mai 2025, pages 22-39.
- Plusieurs des exemples impliquent plus de deux joueurs : nous reviendrons sur ce point à la fin de l’article. ↩
- Des exemples de jeux à somme nulle se retrouvent dans « Existe-t-il une stratégie gagnante ? », Accromath 12.2, 2017. ↩