Pages

dimanche 13 juillet 2014

Désinformation, manipulation, propagande...

Y a-t-il encore quelque citoyen avisé pensant que l'Information - avec un I majuscule - qui nous tombe tout droit des canaux "institutionnels" (essentiellement télévision, presse, radio, etc.), tous les jours, dans un martèlement constant, est à l'abri des tentatives systématiques de nos gentils gouvernants de la manipuler, truquer, déguiser, par action ou par omission, afin de façonner les consciences publiques pour mieux les influencer ?

Si vous êtes convaincus que tel est le cas, vous pouvez tranquillement sortir de ce blog. Sinon, je vous invite à poursuivre la lecture.

J'ai signalé il y a quelques jours dans un tweet un article du Guardian intitulé US military studied how to influence Twitter users in Darpa-funded research (Les militaires américains étudient comment influencer les utilisateurs de Twitter dans une recherche financée par la DARPA), en le mettant en relation avec un de mes précédents billets : Le seuil d'ensemencement de la désinformation, où il était question d'études (toujours de la part des militaires américains...) extrêmement sérieuses afin de, je cite :
trouver une solution algorithmique pour cibler un réseau social à grande échelle (large social network), identifier en son sein le noyau minimum d'utilisateurs (en quantité et en qualité : seed sets) à partir duquel injecter un message dont on sait qu'il aura alors toutes les chances de se propager à l'ensemble du réseau, et même en dehors : puisqu'il est fort probable qu'une info faisant le tour de Facebook soit reprise ensuite sur Twitter, sur les blogs, voire à la télé, la radio et dans la presse, etc., et finisse par contaminer (manipuler) l'ensemble des médias ... et donc des esprits !
Il semble d'ailleurs qu'ils aient effectivement trouvé la solution :
Selon le modèle du « basculement », dans un réseau social, chaque nœud – qui représente un individu – adopte un attribut ou un comportement dès lors qu’un certain nombre de ses voisins entrent dans le réseau en adoptant le même type d’attribut ou de comportement. Or l’un des problèmes clés du marketing viral réside en la sélection d’un ensemble initial « d'amorçage » au sein du réseau, pour que l'ensemble du réseau adopte ensuite le même attribut - comportement que celui du groupe d’amorçage. La méthode présentée ici consiste à trouver rapidement des ensembles d’amorçage capables d’évoluer pour s'adapter à de très grands réseaux. Notre approche permet de trouver un ensemble de nœuds pouvant assurer la propagation à tout le réseau en suivant ce modèle de basculement. Après avoir évalué de façon expérimentale 31 réseaux dans le monde réel, nous avons constaté que cette approche consent souvent d’identifier des groupes d’amorçage proportionnellement bien plus petits que la taille de la population concernée, en surperformant dans la plupart des cas les mesures sur la centralité des nœuds. En outre, la scalabilité de cette approche est au rendez-vous, puisque sur un réseau social tel que Friendster, composé de 5,6 millions de nœuds et de 28 millions de bords, nous avons identifié un groupe d'amorçage en moins de 3h40'. Nos expériences montrent également que même en cas de suppression de nœuds de haut degré, cet algorithme identifie pareillement de petits groupes d'amorçage. En dernier lieu, une autre conclusion de notre expérimentation est que la cohabitation entre des voisinages locaux fortement clustérisés et des structures communautaires denses disséminées sur l'ensemble du réseau supprime la capacité d'une tendance de se propager selon le modèle du basculement.
Si vous avez la curiosité de lire l'intégralité du billet, vous verrez du reste que les implications de ce qui précède sont potentiellement infinies...

* * *

Donc cette obsession des militaires américains pour les réseaux sociaux - et comment les influencer - devrait quand même susciter un peu plus de réactions que je n'en vois ici et là sur ces mêmes réseaux sociaux, autant dire pratiquement rien !!! Cherchez l'erreur.

Le Guardian nous parle du programme SMISC (Social Media in Strategic Communication), dont la feuille de route précise :
The general goal of the Social Media in Strategic Communication (SMISC) program is to develop a new science of social networks built on an emerging technology base. Through the program, DARPA seeks to develop tools to help identify misinformation or deception campaigns and counter them with truthful information, reducing adversaries' ability to manipulate events. 
L'objectif central du programme SMISC (médias sociaux dans la communication stratégique) consiste à développer une nouvelle science des réseaux sociaux basée sur un substrat technologique émergent. Par ce programme, la DARPA souhaite concevoir des outils servant à identifier les campagnes de désinformation ou de falsification pour les contrer par la diffusion d’informations véridiques, afin de réduire la capacité des adversaires de manipuler les événements.
Certes, lu comme ça, c'est bien beau, mais les termes de l'équation fonctionnent aussi en sens contraire, du genre :
...développer des outils servant à identifier les campagnes d’information citoyenne ou de conscientisation pour les contrer par la désinformation et la falsification, afin de réduire la capacité des opinions publiques de dénoncer la manipulation des événements.
Comme disait Giulio Andreotti, surnommé Belzébuth (j'adapte) : « Même si c'est un péché de penser du mal des autres, souvent c'est la pure vérité » (A pensar male degli altri si fa peccato ma spesso ci si indovina)...

Et vu l'antécédent de la NSA, on est en droit de s'interroger... D'autant qu'au-delà du formidable impact du premier tweet plutôt bien tourné de la CIA :


restent à comprendre les raisons profondes de la nouvelle stratégie de l'Agence dans l'univers social : The CIA’s social strategy goals remain classified... Ça vous étonne ? Ou quand ils disent quelque chose, ils dévoilent pas grand chose :-)

* * *

SMISC ayant été dévoilé dès 2011 (en 2014 ce n'est qu'un des programmes en cours...), Wired n'était pas dupe : Le Pentagone veut se doter d'une machine à propagande pour cibler les médias sociaux ! (Pentagon Wants a Social Media Propaganda Machine), en concluant ainsi :
But we’re sure you — and the Pentagon — can think of a lot less anodyne uses for Darpa’s social media propaganda tool. 
Nous sommes sûrs que vous-mêmes - et le Pentagone - êtes capables de penser à des usages bien moins anodins pour cet outil de propagande de la DARPA dédié aux médias sociaux.
Trois ans plus tard, le Guardian confirme d'ailleurs l'existence d'expérimentations "grandeur nature" (voir également l'analyse de Greenwald), et que l'intérêt de la DARPA est plus présent que jamais :
The project list includes a study of how activists with the Occupy movement used Twitter as well as a range of research on tracking internet memes and some about understanding how influence behaviour (liking, following, retweeting) happens on a range of popular social media platforms like Pinterest, Twitter, Kickstarter, Digg and Reddit. 
Le projet énumère une étude de la façon dont les militants du mouvement Occupy se sont servi de Twitter ainsi qu'un éventail de recherches sur le suivi des mèmes Internet ou sur la façon de comprendre comment se développe l'influence des comportements (like, follow, retweet) au sein de réseaux sociaux aussi populaires que Pinterest, Twitter, Kickstarter, Digg et Reddit.
Quant au positionnement des réseaux sociaux et des acteurs majeurs de l'Internet (un au hasard, Amazon) vis-à-vis de ces menaces, elle est loin d'être claire, et les excuses de Facebook sur sa récente expérimentation ne rassurent pas pour autant !

Voilà, je n'ai pas le temps d'approfondir pour l'instant, mais j'espère tirer au moins la sonnette d'alarme et que d'autres plus qualifiés que moi s'occupent sérieusement de ces questions, vitales pour l'avenir de nos démocraties.

Pour peu qu'elles existent encore...


P.S. Documents connexes en anglais (sources 1, 2, Greenwald) :
Snowden avait bien raison..., notamment sur l'espionnage des citoyens ordinaires !

Je signale au passage que la notion militaire de "déception" est ainsi définie par l'OTAN :
Mesures visant à induire l'ennemi en erreur, grâce à des truquages, des déformations de la réalité, ou des falsifications, en vue de l'inciter à réagir d'une manière préjudiciable à ses propres intérêts...
Surtout j'aimerais lire davantage de choses en français sur ces sujets, et je suis vraiment surpris de l'incompréhensible silence des réseaux sociaux sur des questions aussi vitales pour leur existence même ! Ou faut-il laisser l'initiative de ces analyses aux militaires ?

Aucun commentaire: