Dans un monde de plus en plus façonné par les médias numériques et les technologies émergentes, le secteur humanitaire est confronté à un défi sans précédent : la montée de la désinformation. Cet article de Dr Sanjana Hattotuwa plonge dans la manière dont les faux récits et les informations trompeuses affectent les efforts humanitaires à l’échelle mondiale. Alors que des versions contradictoires de la réalité prolifèrent, l’intégrité de notre travail et la confiance sur laquelle nous comptons sont menacées. Les histoires que nous racontons et les vérités que nous défendons n’ont jamais été aussi essentielles au succès et à la survie des missions humanitaires.
Nous sommes engagés dans une guerre mondiale des histoires – une guerre entre des versions incompatibles de la réalité – et nous devons apprendre à y combattre. – Salman Rushdie, Knife
Ces paroles du célèbre auteur Salman Rushdie, prononcées dans son discours lors d’un rassemblement international d’écrivains aux Nations Unies en mai 2022, ont été prononcées après une terrible tentative d’assassinat contre lui. Son livre “Knife” est un récit captivant de l’attaque et de son lourd bilan. L’attaquant n’est jamais nommé par Rushdie et s’appelle simplement « A ». Dans une étude sur la manière dont il s’est radicalisé, Rushdie note que le couteau utilisé lors de l’attaque s’apparente aux technologies qui brisent la réalité d’aujourd’hui. Il écrit que « A » est «… entièrement un produit des nouvelles technologies de notre ère de l’information, qu’on pourrait appeler plus précisément « ère de la désinformation ». Les géants de la fabrication de la pensée de groupe, YouTube, Facebook, Twitter et les jeux vidéo violents, ont été ses professeurs ».
On ne sait pas exactement quelle influence les médias sociaux et les jeux vidéo ont eu sur l’agresseur de Rushdie, malgré les affirmations selon lesquelles il était en colère contre l’auteur après avoir lu quelques pages des Versets sataniques et vu quelques extraits de Rushdie sur YouTube. Mais cet aveu est révélateur. Compte tenu de la vision du monde et des actes meurtriers influencés par ces vidéos, nous sommes tous mis au défi de réaliser que la pensée critique, la valeur des faits partagés et l’adhésion à des valeurs communes sont incertaines et en diminution dans le monde d’aujourd’hui.
Les récits – les histoires que nous racontons aux autres et à nous-mêmes – sont au cœur de l’humanitarisme. Rushdie pense à juste titre que nous sommes désormais confrontés à une « guerre des histoires ». Les universitaires appellent cela la « décadence épistémique », car ces histoires concurrentes, produites à l’échelle industrielle et promues par des personnalités influentes, finissent par créer et entretenir des micro-réalités disparates – des manières de voir le monde souvent en contradiction avec des réalités fondées et fondées sur des preuves, des récits factuels.
La montée de la désinformation et son impact
Nous sommes déjà dans un monde où l’engagement réflexif sur ce qui est présenté via des algorithmes de boîte noire façonne les attitudes, les perceptions, les croyances et les pratiques de milliards de personnes. Cela reflète une aggravation rapide de ce que Linda Stone a identifié en 2008 comme « l’apnée des écrans », un processus dans lequel le contenu en ligne agit comme un facteur de stress, ayant un impact sur la santé physique et mentale à long terme. Les médias sociaux d’aujourd’hui nous informent continuellement sur beaucoup de choses mais nous éduquent très peu. Notre esprit ne peut pas faire face. L’anxiété cède la place à la fatigue, abaissant les défenses cognitives et permettant à la désinformation de s’enraciner.
Si l’intégrité de l’information et la véracité des médias que les sociétés consomment sont continuellement compromises, comment les humanitaires peuvent-ils identifier les besoins urgents, faire respecter les règles de la guerre, faire respecter le droit humanitaire international et mobiliser le soutien ? Si la vérité est confondue avec la confiance, et que ceux qui sont chargés de donner du sens sont aussi ceux qui utilisent la désinformation pour détourner leurs responsabilités, comment les humanitaires peuvent-ils gérer l’adhésion à des réalités fictives auxquelles des millions de personnes croient pleinement et sur lesquelles elles agissent ? Que se passe-t-il lorsque ces histoires ciblent les travailleurs humanitaires ?
Le rôle des histoires humanitaires
Des histoires captivantes sont la pierre angulaire de l’humanitarisme. Nous sommes amenés à agir en fonction de ce que nous consommons – tant pour l’élaboration des politiques que pour les dons et le volontariat. Mais nous vivons désormais dans un état de polycrises permanentes, dans lequel il est impossible de suivre toutes les urgences humanitaires, même si elles deviennent de plus en plus complexes et géographiquement dispersées. Partager l’histoire de Gaza, c’est détourner l’attention du Sahel, de la Syrie ou du Soudan du Sud. De plus, partager l’histoire de l’un de ces lieux, c’est désormais toujours rivaliser – et le plus souvent perdre – contre un tsunami de contenu sur le bien-être, le divertissement, le sport et les dernières nouvelles des influenceurs sur tous les sujets imaginables. Les algorithmes ciblent ce contenu sur les utilisateurs en fonction de la maximisation des profits – une équation qui prend rarement en compte, et est souvent contraire aux idéaux et aux besoins humanitaires. La viralité captive ; la véracité n’est plus la clé de ce qui est le plus partagé.
L’IA générative va accélérer ce déclin épistémique. Une communication de crise efficace est la clé de l’humanitarisme. La production d’un tel contenu est basée sur l’évaluation du matériel autour d’un contexte, d’une communauté, d’un pays, d’une urgence ou d’une catastrophe spécifique. Il devient de plus en plus difficile de déterminer ce qui est exact, trompeur ou totalement faux. L’IA générative rendra presque impossible le maintien assoupli de l’intégrité de l’information, transformant le champ de bataille cognitif et informationnel en une guerre sur la manière dont les processus cognitifs interconnectés, les écosystèmes d’information et les réponses émotionnelles influencent les actions hors ligne. Ceux qui contrôlent ce continuum ont le pouvoir de changer la façon dont des millions de personnes perçoivent le monde et ce qu’ils font (ou non). Les humanitaires sont au milieu de cette guerre, qu’ils s’en rendent compte ou non.
L’avenir de l’intégrité de l’information humanitaire
Des réalités déformées conduisent à des actions divergentes. Les humanitaires trouveront moins d’intérêt autour des causes qu’ils défendent et des conditions désespérées qu’ils mettent en avant. Les reportages ciblent également les humanitaires individuellement et institutionnellement. Ce ciblage narratif aura des conséquences cinétiques hors ligne, l’attaquant de Rushdie étant un sombre rappel de la manière dont le contenu en ligne peut façonner des croyances profondément ancrées et motiver des actes de violence. Si l’on ne peut croire à rien, tout sera rejeté. Un contexte dans lequel tout est méconnu favorise l’impunité, créant les conditions propices à la persistance des crimes de guerre et des crimes contre l’humanité.
Il y a près d’une décennie, au sommet re:publica 2015 à Berlin, j’ai noté qu’« il doit toujours y avoir une perspective éthique fondée sur les droits pour les technologies que nous défendons ; sinon, les résultats obtenus avec les meilleures intentions pourraient être très éloignés de ce que nous souhaitons voir… ». Cela reste vrai. Des années avant les menaces contemporaines à l’intégrité de l’information et l’essor de l’IA générative, j’ai noté lors de la même conférence que le défi central du maintien de la paix (et de la consolidation de la paix également) était « de gérer la multiplicité des voix sur le terrain, car la démocratisation de la technologie s’est produit à un tel degré que potentiellement tout le monde… a potentiellement une voix. » Ma note prudente est alors maintenant plus pleinement mise en œuvre à travers des cacophonies médiatiques à grande échelle qui détournent l’attention, nient et décrient les vérités de terrain publiées sur des chaînes humanitaires crédibles.
Rien de ce qui est décrit dans cette note ne constitue une possibilité frontalière. Ce sont toutes de féroces menaces de porte d’entrée, qui grandissent à un rythme rapide. Les attitudes bien pensantes dans le secteur se heurteront de plus en plus aux réalités d’un déclin épistémique important. Des approches généralistes éclairées, une réflexion latérale et des solutions agiles fondées sur l’étude des écologies de l’information doivent être rapidement établies et itérées. Ironiquement, les meilleures solutions résideront dans l’adoption et l’adaptation stratégiques, mesurées et significatives des technologies mêmes qui sous-tendent ce que Rushdie a appelé notre « ère de la désinformation ».
Comprendre leur pouvoir et déconstruire leur utilisation abusive consiste à contribuer à l’élaboration de vastes approches interdisciplinaires en matière d’intégrité de l’information. Ces cadres doivent explicitement inclure la psychologie, les neurosciences et l’intelligence émotionnelle. La résilience et la remédiation sont possibles, mais uniquement grâce à une action éclairée et un leadership stratégique. J’espère que la FICR et le secteur en sont conscients. Bien qu’exacerbés par la technologie, ces défis concernent fondamentalement les personnes vulnérables. Les histoires continuent d’avoir de l’importance, et nous en avons besoin de meilleures pour protéger les personnes les plus exposées et les plus vulnérables.
Le Dr Sanjana Hattotuwa est Directeur de recherche au sein du Disinformation Project et sert en tant que conseiller spécial pour la Fondation ICT4Peace. Consultez sa biographie ici.