Au croisement de la biologie évolutive et de la théorie des jeux se trouve un champ d'étude consacré à la compréhension de la manière dont la compétition et la coopération façonnent les systèmes vivants. La théorie des jeux évolutionnistes, branche spécialisée de la théorie des jeux, examine comment les stratégies se développent et se diffusent dans les populations au fil du temps, sous l'effet moteur de la sélection naturelle. Loin d'être une simple construction théorique, il s'agit d'un cadre scientifiquement validé qui explique l'émergence de comportements complexes dans les systèmes biologiques. Son influence a d'ailleurs largement dépassé la biologie : les économistes, les informaticiens et les sociologues ont recours à ses modèles pour étudier les comportements stratégiques dans leurs propres domaines.

Le fondement de cette discipline est le concept de « jeu », dans lequel des individus poursuivant des stratégies différentes interagissent, et dont les résultats affectent leur fitness — c'est-à-dire, essentiellement, leur capacité à survivre et à se reproduire. De tels jeux peuvent se dérouler entre membres d'une même espèce (compétition intraspécifique) ou entre espèces différentes (compétition interspécifique). L'élément central de l'analyse est la matrice des gains, un outil qui établit les récompenses ou les coûts associés à chaque combinaison possible de stratégies employées par les joueurs.

L'une des illustrations classiques de la théorie des jeux évolutionnistes en action est le jeu du Faucon et de la Colombe. Imaginons deux individus en compétition pour une ressource. La stratégie du « Faucon » implique un comportement agressif, l'individu se battant pour obtenir la ressource, tandis que la stratégie de la « Colombe » est passive, l'individu battant en retraite en cas de confrontation. Le gain de chaque stratégie dépend du choix de l'adversaire. Lorsque deux Faucons se rencontrent, tous deux subissent des blessures qui réduisent leur fitness. Un Faucon face à une Colombe obtient la ressource sans combat et accroît sa fitness. Lorsque deux Colombes se rencontrent, elles partagent la ressource, chacune en tirant un certain bénéfice, quoique inférieur à celui qu'un Faucon obtiendrait face à une Colombe.

Ce modèle simplifié illustre comment les pressions évolutives peuvent favoriser l'émergence de stratégies mixtes au sein d'une population. Si le coût du combat, sous forme de blessures, est élevé, la stratégie de la Colombe peut prévaloir, le prix de l'agressivité l'emportant alors sur ses bénéfices potentiels. Inversement, si les ressources sont abondantes et le coût des blessures faible, les stratégies du Faucon peuvent dominer. La présence persistante des deux stratégies peut toutefois conduire à une stratégie évolutionnistement stable (ESS), un concept introduit par John Maynard Smith et George R. Price. Dans le cadre d'une ESS, aucune stratégie alternative ne peut envahir la population et s'y développer. Ce concept est depuis devenu une pierre angulaire de l'écologie comportementale, servant de référence pour l'analyse du conflit et de la coopération chez les animaux.

La théorie des jeux évolutionnistes explore également la dynamique de la coopération, un phénomène observé dans divers systèmes biologiques, des bactéries aux humains. Le dilemme dunier, autre jeu fondateur, illustre le défi que représente l'établissement de la coopération. Dans ce scénario, deux individus choisissent chacun de coopérer ou de faire défection. La coopération mutuelle procure une récompense supérieure à la défection mutuelle, mais la défection face à un coopérateur procure le gain le plus élevé, tandis que la coopération face à un défecteur aboutit au gain le plus faible. Cette configuration suggère que l'intérêt personnel rationnel devrait conduire à une défection universelle, or la coopération est couramment observée dans la nature et dans les sociétés humaines.

Pour expliquer la prévalence de la coopération, les théoriciens des jeux évolutionnistes ont invoqué des mécanismes tels que la sélection de parentèle, l'altruisme réciproque et la sélection de groupe. La sélection de parentèle propose que la coopération puisse évoluer lorsqu'elle bénéficie à des parents partageant les mêmes gènes, augmentant ainsi indirectement la représentation génétique du coopérateur dans la population. L'altruisme réciproque suggère que la coopération peut prospérer lorsque les individus sont capables de reconnaître et de récompenser les actes coopératifs passés. La sélection de groupe postule que les groupes comptant davantage de coopérateurs peuvent l'emporter sur ceux qui en comptent moins, même lorsque la coopération a un coût pour l'individu. Ces mécanismes demeurent des fronts de recherche actifs, nourrissant les travaux empiriques sur la coopération microbienne et des questions à enjeux médicaux telles que la propagation de la résistance aux antibiotiques, où les interactions bactériennes sont examinées à travers le même prisme de la théorie des jeux.

En somme, la théorie des jeux évolutionnistes offre un prisme puissant pour observer l'évolution des comportements dans les systèmes biologiques. En analysant les interactions stratégiques entre individus et les gains associés aux différents comportements, les scientifiques peuvent prédire les conditions dans lesquelles certains traits ou stratégies évolueront. Ce champ ne se contente pas d'approfondir notre compréhension de la nature : il éclaire également le comportement humain et les dynamiques sociales, rappelant que les êtres humains, comme tout autre organisme, participent à une vaste tapisserie en constante évolution — façonnée par l'équilibre délicat entre compétition et coopération, et par la pression constante des forces évolutives qui s'exercent à chaque génération.