Liars and outliers 9


Liars and Outliers

Bruce Schneier est un expert réputé en cryptologie et en sécurité informatique, mais il s’intéresse aussi à la sécurité dans un sens beaucoup plus large. Dans son dernier livre [1], il se demande dès le sous-titre comment « favoriser la confiance dont la société a besoin pour prospérer ».

Le livre commence par un épisode de la vie courante : un inconnu sonne à la porte de Schneier en disant qu’il est plombier. Schneier le fait entrer et le laisse un moment à la cuisine, où le gars farfouille sous l’évier puis dit que ça fera tant. Sans même vérifier que la fuite est réparée, Schneier lui tend un chèque que le plombier empoche sans même le regarder et sort. Schneier n’a ni vérifié le diplôme du plombier, ni appelé son employeur pour vérifier qu’il n’était pas un cambrioleur déguisé. Et le plombier n’a pas appelé la banque pour savoir si le chèque de Schneier était en bois ou pas.

La confiance est à la base de toute société, qu’elle soit une petite famille ou la société planétaire que nous sommes en train de construire.

Si aucun de ces deux protagonistes n’a menti ou n’est sorti de la norme (je n’ai pas de meilleure traduction de « outlier » …), c’est parce son avantage sur le long terme à collaborer à divers groupes humains (voisins, entreprise de plomberie, clients de la banque, justiciables etc.) est supérieur à son avantage court terme de trahir la confiance de l’autre.

Pourtant il y a des escrocs, de voleurs, des parasites, des meurtriers. Le but premier des sociétés étant d’offrir une sécurité et un bien-être supérieur à celui que les individus pourraient atteindre, elles exercent un certain nombre de pressions sociales (morale, réputation, institutionnelle, systèmes de sécurité) sur leurs membres pour les pousser à suivre les règles du groupe.

Mais ces pressions ont un coût pour toute la société, qui doit donc trouver un optimum entre une anarchie où le nombre d' »outliers » explose et ruine les bénéfices de la confiance, et l’état policier autoritaire où les coûts du système excèdent ceux qu’auraient causés les « outliers ». Dans une société optimale, il y aura toujours des menteurs et des marginaux (voilà j’ai trouvé une meilleure traduction).

Schneier s’appuie sur de nombreux travaux de recherche pour construire un « modèle de la confiance » pouvant s’appliquer à des groupes très divers. Il commence par montrer que l’être humain est particulièrement doué pour gérer la collaboration dans un groupe, évaluer les avantages ou les risques de trahir le groupe pour en tirer un plus gros avantage, évaluer le degré de fiabilité des membres de son groupe, et se souvenir des trahisons.

Tout ceci fonctionne bien dans des groupes humains de taille inférieure au Nombre de Dunbar environ 150 personnes, où le dilemme du prisonnier est encore assez simple à résoudre. Le livre traite ensuite de la confiance au sein d’organisations au sens large, puis dans les (grandes) entreprises en montrant que les pressions sociales habituelles ne sont pas suffisantes pour empêcher quelques personnes de réaliser des profits personnels colossaux en risquant l’existence même de l’entreprise qui les paie. Selon Schneier, notre comportement naturellement confiant n’est pas adapté aux plus grosses organisations comme les entreprises et peut devenir un piège au niveau national ou international, où des milliers d’escrocs ont désormais les moyens techniques d’abuser de notre confiance à distance. Il illustre son propos avec de nombreux « dilemmes sociaux » présentés comme des extensions du dilemme du prisonnier, allant du respect des limitations de vitesse à la fraude fiscale en passant par la triche aux examens. Il traite également d’un certain nombre de tragédies des biens communs comme la surpêche par exemple.

Enfin, Schneier traite de la confiance et de la sécurité dans un monde évoluant rapidement grâce à la technologie. Il explique que de nouvelles pressions sociales, mais aussi de nouveaux systèmes de sécurité sont nécessaires simplement par l’hypothèse de la reine rouge (« tu dois courir aussi vite que tu peux pour rester à la même place.« ) pour maintenir l’écart face aux techniques des tricheurs, par exemple dans le dopage, la criminalité économique ou la sécurité informatique. Cependant, il insiste aussi sur le fait que la sécurité absolue est une illusion coûteuse, et aussi que certains « marginaux » sont indispensables à l’évolution de la société. Certains dissidents politiques, traîtres ou terroristes finissent par recevoir le Prix Nobel de la Paix …

Ce livre n’est hélas pas (encore) traduit en français, mais ses 248 pages se lisent facilement, « comme un roman ». Il y a aussi 100 pages de Notes avec de nombreuses références, citations et anecdotes qui satisferont le chercheur et montrent le sérieux avec lequel Schneier s’est documenté sur ce vaste et passionnant sujet.

Référence : Bruce Schneier "Liars and Outliers: Enabling the Trust that Society Needs to Thrive" (2012) Wiley ISBN:9781118143308 WorldCat Goodreads Google Books   (page du livre sur le site de Schenier)

  • http://gemp.com gemp

    Le dilemme du prisonnier n’était jusqu’à présent qu’une construction intellectuelle, mais a été récemment effectivement testé (anglais), avec des résultats surprenants — ou non, selon sa conviction sur la nature humaine.

    • http://drgoulu.com Dr. Goulu

      Oh il y a eu beaucoup de vérifications expérimentales avant celle là, Schneier en donne plusieurs références. En fait il me semple que l’article original http://www.rand.org/content/dam/rand/pubs/research_memoranda/2008/RM789-1.pdf visait plutôt à modéliser et expliuquer le comportement expérimentalement mesuré.

      J’ai trouvé http://www.math.ens.fr/culturemath/materiaux/Eber/prisonnier.htm#exp qui liste quelques résultats dont « La pression sociale (pression par les pairs) est un mécanisme incitatif à la coopération particulièrement puissant. » qui me semble expliquer pourquoi des prisonniers coopèrent mieux entre eux que des étudiants.

      Si j’étais en prison, je préférerais rester en bon termes avec le musclé tatoué d’en face en gagnant quelques cigarettes ensemble plutôt que d’en gagner plus en le trahissant …

      Ma conviction sur la nature humaine est que l’on est beaucoup plus rationnels et calculateurs que ne le supposent ceux qui croient en la nature humaine ;-)

  • http://twitter.com/alain_co AlainCo (@alain_co)

    Ce livre semble comme d’habitude visionaire , en ce qu’il remet les choses sur terre…

    dans le genre je vous conseille Beyond Fear qui nous explique comment le théatre sécuritaire induit par la peur du terrorisme est inefficace et contre productif.
    Il pousse a la place des interdictions idiote, une lutte à base de profilage et infiltration…
    Il reconnait néanmoins les spécificités des système qui comme l’avion, ont un mode de rupture assez violent (Nassim Nicholas Taleb dirait qu’ils sont gros et fragiles).

    a noter que le besoin des « terroristes » et autres dissident dans un système (les hérétiques/négationistes/illuminés) est un fait reconnu, par les spécialistes de l’innovation comme norbert alter:
    http://www.cnam.fr/servlet/com.univ.collaboratif.utils.LectureFichiergw?ID_FICHIER=1295877017789
    http://fr.slideshare.net/hervelegenvre/thesis-history-of-inventors
    et leur protection est un besoins identifié par Roland benabou dans « Groupthink: collective delusions in organizations and markets, un article fondamental:
    http://www.princeton.edu/~rbenabou/papers/Groupthink%20IOM%202012_07_02%20BW.pdf

    les lois américaines sur la liberté d’expression sont aisni un modèle, et le fait que les lois récentent les violent, comme lors du mac-cartysm, met le pays en danger.

    nb: je parle de terroristes, mais la partie idéologique est bien plus importante et utile que les pertes anecdotiques (sisi, le 11 septembre a tué moins que la malnutrition aux USA, et bien moins que sa lutte, ou que le cout des mesures aéroportualire en frais de santé) qui devraient être évitées (je soutiens plus les hérétiques et dissidents que les terroristes et autres rebelles ou résistants armés, sachant que +95% ont tort, même pour de bonnes causes)…

    Comme l’explique Benabou, Kuhn, Alter & co, il est impossible pour un système social stable de reconnaitre un dissident qui a raison. c’est mécanique.


    AlainCo – le veilleur de lenr-forum… (un repaire d’hérétiques qui élève un cygne noir . ps: n’y allez pas on est fou. sérieux.)

  • http://drgoulu.com Dr. Goulu

    Coïncidence, je viens de tomber sur ça : http://io9.com/free-will-is-a-dangerous-thing-to-have-in-full-divergen-1198962238 (basé sur http://fr.wikipedia.org/wiki/Divergent_(livre) ) Quelqu’un l’a lu ? Ca vole plus haut qu’un roman pour ados ?

  • Hal

    Cet article bien intéressant me pose question sur nos comportements humains. Si nous respectons (pour la plupart d’entre nous) les règles de vie en société, est-ce par calcul, que ces calculs soient conscients ou non, ou est-ce parce que notre éducation nous a transmis des valeurs morales ? J’ajoute une autre question, si nous avons le sentiment tout de même d’agir le plus souvent en vertu de principes moraux, est-ce par calcul implicite ? Autre questionnement par rapport à la reine rouge : s’il y a plus de tentatives d’escroqueries aujourd’hui, est-ce parce que la technologie évolue plus vite qu’avant ou est-ce parce qu’autrefois les valeurs morales étaient mieux « enseignées » ?

    • http://drgoulu.com Dr. Goulu

      Ce sont de bonnes questions, je t’encourage à lire le livre :-)
      Si tu parles de « valeurs » morales ou de « principes » moraux, c’est que tu as bien intégré les pressions morales de ton groupe. Pour Schneier, le code de l’honneur des yakuzas est du même ordre que la morale des mormons (et que les règles de tout autre groupe) : on est membre du groupe si on y adhère, renégat si on y déroge.

      Mais selon lui c’est surtout la taille du groupe qui influe sur la pression morale : dans ta famille ou ton quartier tu y es beaucoup plus soumis qu’au milieu d’une ville étrangère ou personne ne te connaît. A grande échelle, la morale ne marche plus bien, et ce sont plutôt les pressions de réputation, mais surtout institutionnelles et les systèmes de sécurité qui prennent le relais. Ajoute la « reine rouge » et tu obtiens PRISM, XKeyscore et tous les autres systèmes pas encore révélés par les Snowden du monde entier…

      Schneier mentionne aussi à plusieurs reprises que notre sentiment d’insécurité ne correspond pas à la réalité. Le risque objectif de mourir assassiné a très nettement baissé sur 2 millénaires, sur 2 siècles et même sur 2 décennies chez nous, donc nous devenons plus sensibles à d’autres infractions aux règles, ce qui fait que les règles changent et que les comparaisons deviennent difficiles.

  • Aglarond

    Bonjour,
    Pour information, en statistique des extrêmes, « outlier » se traduit par le joli mot « horsain ». Il s’agit d’une valeur « extrême parmi les extrêmes », en quelque sorte, c’est-à-dire nettement plus grande que les autres. Par exemple, si on regarde les niveaux de la mer extrêmes atteints en Vendée sur les 50 dernières années, le niveau atteint par Xynthia est un horsain puisqu’il est beaucoup plus haut que la deuxième valeur observée.
    Amicalement,

  • http://www.maintenance-informatique-adealis.fr/ sécurité informatique Paris

    Merci pour cet article. Je suis d’accord que la sécurité absolue est utopique mais au moins tendre vers cette sécurité permet d’instaurer des barrières (pression sociale, nouveaux systèmes de sécurité…). L’ingéniosité des malfrats évoluent et les moyens pour les contrer doivent suivre aussi.

    • Goulu

      oui, c’est ce que dit l’hypothèse de la reine rouge (« tu dois courir aussi vite que tu peux pour rester à la même place. ») que je mentionne à la fin de l’article. Mais ceci n’améliore pas la sécurité, ne tend pas vers la sécurité absolue. Ca ne fait que maintenir le niveau de sécurité constant. Si on veut réellement augmenter le niveau de sécurité, ça coûte vraiment beaucoup plus cher …