Simulation, Jeux et Prévisions face à l’incertitude

Le post d'aujourd'hui part d'un petit compte-rendu de lecture pour se terminer dans une discussion sur le « rôle » des jeux, dans le sens de la méthode GTES décrite dans ce blog. C'est-à-dire l'utilisation d'une simulation, non pas comme outil de prévision mais simplement pour se forcer à examiner une situation sous des points de vues différents (on pourrait dire « s'aérer les neurones »).

Le point de départ est le livre « The Black Swan » de Nassim Nicholas Taleb. Je vous ai déjà parlé de « Fooled by Randomness », que je vous recommande encore plus chaleureusement (à lire en premier, avant le Black Swan – nom symbolique donné à un événement hautement improbable). L'arrivée de la crise, qui illustre parfaitement les idées de Taleb, a fait de lui une star dans le domaine de la finance, sur un mode « rebelle et philosophe » (pour commencer, lire l'article de Wikipedia).

Proposer un résumé du Black Swan pour vous présenter les idées de Taleb est comme jouer les premières mesures de la 40^e symphonie sur mon harmonica pour vous présenter Mozart. Encore plus que Malcom Gladwell, il faut faire l'expérience de la lecture pour apprécier la saveur (« the proof of the pudding is in the eating »). Selon mon habitude, je vais me contenter de relever une liste de points congruents avec le thème de ce blog (très succincte par rapport au contenu).

• «Trop d'information tue l'information » : la valeur ajoutée de l'information n'est pas une fonction croissante. De nombreux exemples montrent qu'on prend des meilleures décisions avec peu d'information qu'avec beaucoup (cf. « Blink » de Malcom Gladwell par exemple). C'est très bien expliqué et illustré par Taleb (« additional knowledge of the minutiae of daily business can be useless, actually toxic »), avec l'expérience fascinante du "fire hydrant". Il s'agit de reconnaitre un objet à partir de photos floues, exposées en séquences de moins en moins floues. Une séquence avec plus d'étapes intermédiaires ralentit le moment où l'objet est reconnu.
• Il relate une anecdote savoureuse sur les risques dans les casinos, que je vous laisse découvrir, mais qui n'est pas sans rappeler « Normal Accidents » de Perrow. C'est une bonne illustration de la puissance de la tautologie « It's hard to foresee the unexpected », qui reste une perle de sagesse pour ceux qui sont en charge de garantir la « haute disponibilité ». Le livre fourmille d'illustration de cette tautologie, dont l'histoire du poulet de B. Russel.
  
• Dans la même veine (mais un peu plus subtile), une loi fondamentale sur l'évaluation de l'incertitude est que nous sous-évaluons systématiquement notre ignorance. C'est ce que j'avais appris il y a plus de 20 ans en suivant les cours d'Hervé Le Lous d'analyse de la décision. Taleb fait référence aux expériences d'Albert et Raiffa, qui sont semblables aux expériences que nous avions réalisé au Collège des Ingénieurs. Le principe est simple : il s'agit d'encadrer des quantités que nous ne connaissons pas avec un intervalle de confiance … Ils sont toujours trop petits !
  
• Un des concepts les plus intéressants (dans la suite de « Fooled by Randomness ») est la notion de « Narrative fallacy », qui désigne notre tentation permanente de raconter une histoire, de créer du sens (même s'il n'y en a pas) pour pouvoir mieux manipuler et ranger les informations. Il y a un lien élégant avec la théorie de l'information et la complexité de Kolmogorov : trouver un sens à une série d'observation permet de réduire la mesure, de « compacter ». Taleb cite un fait fascinant : en injectant de la dopamine à des patients souffrant de Parkinson, on peut observer une recrudescence du « narrative fallacy ». L'injection de L-dopa a pour but de faciliter la « résolution des conflits » entre différentes parties du cerveau, permettant d'arriver plus rapidement à des états stable et éliminant des « oscillations » propres au sujets atteints de Parkinson. Il se trouve qu'un effet pervers est le développement de la capacité « à voir du sens là ou il n'y en a pas », à trouver des règles dans les résultats aléatoires des dès ou des cartes au Casino, et de ce fait de perdre des sommes importantes J
  
• La fin du livre contient un petit catalogue de distributions du monde réel qui suivent des power laws. J'y reviendrai lorsque je ferai le résumé de « Critical Mass » de P. Ball. De la même façon, Taleb fournit de nombreuses réflexions épistémologiques sur le hasard, le risque et l'incertitude, qui ne sont pas sans rappeler le traité magistral de Peter Bernstein « Against the God : The Remarkable Story of Risk ».
  
• Pour finir, Taleb met en garde (à juste titre J) contre l'ingestion de résultats de simulation (avec un plaidoyer qui n'est pas sans rappeler Michael Crichton dans « State of Fear »). Je vais y revenir, mais puisqu'un des axiomes de Taleb est « the great asymetry » (le calcul de probabilité des événements très rares est très difficile, le calcul de leurs conséquences ne l'est pas forcément), il faut se concentrer sur les « conséquences » et non sur les « causes ». Toute simulation qui cherche à prévoir les effets à partir des causes est suspecte, ontologiquement.

Ce livre est un enchantement à lire, à cause de la culture de Taleb et de son style inimitable. Cela ne veut pas dire que tout soit à prendre « pour argent comptant ». Comme il est plus amusant de débattre que de résumer, voici trois points qui me semblent discutables :

• (p. 76), Taleb remarque que la phrase :
  Joey seems happily married. He killed his wife.
  est moins plausible que la phrase :
  Joey seems happily married. He killed his wife to get her inheritance.
  
  alors que d'un point de vue logique, ajouter une condition de plus ne peut que réduire la probabilité. Taleb y voit « a pure mistake of logic ». Sauf que …. La probabilité conditionnelle de tuer sa femme sachant qu'il y a un héritage en perspective est plus forte que la probabilité conditionnelle ne sachant rien (on m'excusera cet « axiome de roman policier » - depuis l'histoire du SMS et du train, la prudence s'impose). Plus généralement, il y a dans les probabilités conditionnelles, l'inférence Bayésienne et les logiques non-monotones des outils mieux adaptés pour traiter ces sujets.
• La critique portée (p . 276) contre Mark Buchanan et Philipp Ball (deux des auteurs commentés dans ce blog) est intéressante mais trop appuyée pour être pertinente (on peut leur reprocher un certain enthousiasme sur leur envie de modéliser la société humaine comme des particules dans un gaz, mais ils sont tout sauf naïfs et seraient les premiers à reconnaitre l'existence des black swans dans des modèles dans lesquels les particules « apprennent » et « s'adaptent » (changent de comportement). Je dirai même qu'un des points centraux de Buchanan est précisément que les power laws (qui engendrent des black swans) sont des signatures d'un processus apprenant et adaptatif (par opposition à un processus purement stochastique).
  
• Une des idées centrale est que la prévision est inutile parce que les black swans dominent car leurs conséquences écrasent celles des « white swans » (les événements prévisibles). De plus, c'est un des points du livre, même si chaque black swan est exceptionnellement rare d'un point de vue individuel, il existe de nombreux black swans différents, de types variés. Mais, si les cygnes noirs sont vraiment imprévisibles tandis que les cygnes blanc le sont, ne pas se soucier des premiers et s'occuper des second « peut faire sens ». C'est une situation courante en optimisation stochastique : on essaye d'optimiser des mouvements d'ordre deux, tandis que des phénomènes d'ordre un viennent casser continuellement cette mécanique. Il arrive, fréquemment, que cette obstination à travailler sur les « petites choses » tandis que les « grandes choses » nous échappent, soit payante. Bien entendu, l'appel à la lucidité et à la modestie de Taleb est plus que pertinent, il est salvateur. Néanmoins, il reste une place pour les « simulateurs du Mediocristan », même en Extremistan.
  

Ce dernier point pourrait sembler biaisé de la part de quelqu'un qui passe son temps à construire des modèles et les simuler J En fait, il n'en est rien : bien au contraire le concept de « dynamic games » est le « fils spirituel » de Sterman et Taleb. Nous avons au départ deux courants de pensée qui « remettent en cause les simulations »:

• Sterman, Senge (et d'autres, cf. les posts précédents) on montré que la modélisation des systèmes complexes, avec quelques délais et boucles de retour, construit des objets mathématiques qu'il faut aborder avec prudence, et dont il serait vain d'espérer une caractérisation complexe. On pourrait remarquer que cette constatation est le cœur du livre de Wolfram « A New Kind of Science ».
• Taleb nous rappelle que la prévision est inutile/fausse/déceptive (il reste à choisir : c'est là qu'est le débat J) à cause des « black swans », ces événements qui sont en dehors du « radar » et dont l'ordre de grandeur efface ce que la prévision peut enseigner
  

La notion de jeux prend alors toute sa pertinence : il ne s'agit plus de prévoir mais de s'entrainer (cf. Pasteur : « La chance ne sourit qu'aux esprits bien préparés »). Le dynamic game permet de créer des situations et de les observer, non pas parce qu'elles vont arriver, mais parce que cette étude affine l'analyse et développe des compétences qui s'avéreront utile lorsque la véritable situation se produira. On pense bien sûr aux « war games » des écoles militaires, conçus précisément selon la maxime de Pasteur. La participation au jeu est un entrainement de l'esprit, une préparation qui joue sur deux tableaux : permettre de reconnaitre et analyser une situation plus rapidement, et réagir plus efficacement.

C'est très précisément le thème du merveilleux livre de François Jullien

« Conférence sur l'efficacité » (version courte du « Traité sur l'efficacité »). Ceux qui lisent mes livres savent que c'est un de mes auteurs préférés. François Julien, pour résumer de façon hâtive, oppose la stratégique grecque, tournée vers la finalité et qui s'appuie sur un plan à la stratégie chinoise, tournée vers le potentiel de situation et qui s'appuie sur l'opportunité. La stratégie grecque s'appuie sur la prévision et l'anticipation : elle projette une trajectoire et construit un plan volontariste. Mais comme le dit un proverbe Chinois, « on ne fait pas pousser une plante plus vite en tirant sur sa tige ». Le chinois « jardine son potentiel de situation », il suffit de relire Sun Tzu pour apprécier ce concept de la préparation. Par conséquent, la stratégie chinoise s'appuie beaucoup moins sur la prévision que la stratégie grecque (j'ai bien dit beaucoup moins et non pas « pas du tout » - on ne prépare pas une rizière comme un potager). La pratique du « dynamic game » est l'illustration du concept de stratégie chinoise : renforcer sa préparation pour faire face à l'imprévu.

Ne nous y trompons pas : le jeu a pour but de prendre aujourd'hui les décisions qui améliorent le potentiel de situation, pour une meilleure performance demain. Il ne s'agit donc pas d'un « passe-temps ». Mais il s'agit d'une approche qui est immune à la critique de la volonté « futile » de prévoir l'avenir de façon trop précise …. En fait, pas tant que cela, cette approche du potentiel de situation, tout comme une simulation Monte-Carlo, est une forme de prévision, mais elle est multiforme et abstraite. Un sujet sur lequel je reviendrai.