En un mundo cada vez más influenciado por los medios digitales y las tecnologías emergentes, el sector humanitario se enfrenta a un desafío sin precedentes: el aumento de la desinformación. Este artículo del Dr. Sanjana Hattotuwa analiza en profundidad cómo las narrativas falsas y la información engañosa están afectando las iniciativas humanitarias a nivel mundial. A medida que proliferan las versiones contradictorias de la realidad, la integridad de nuestro trabajo y la confianza en la que nos apoyamos se ven amenazadas. Las historias que contamos y las verdades que defendemos nunca han sido más críticas para el éxito y la supervivencia de las misiones humanitarias.
We are engaged in a world war of stories – a war between incompatible versions of reality – and we need to learn how to fight it. – Salman Rushdie, Knife
Estas palabras del célebre autor Salman Rushdie, pronunciadas en su discurso ante una reunión internacional de escritores en las Naciones Unidas en mayo de 2022, fueron pronunciadas después de un horrible intento de asesinato en su contra. Su libro Knife es un relato conmovedor del ataque y el costo que tuvo. Rushdie nunca nombra al atacante y solo lo llama «A». En un estudio sobre cómo se radicalizó, Rushdie señala que el cuchillo utilizado en el ataque era similar a las tecnologías que fragmentan la realidad actual. Escribe que «A» es «… totalmente un producto de las nuevas tecnologías de nuestra era de la información, para la cual ‘era de la desinformación’ podría ser un nombre más preciso. Los gigantes de la fabricación del pensamiento colectivo, YouTube, Facebook, Twitter y los videojuegos violentos fueron sus maestros».
No está claro exactamente qué influencia tuvieron las redes sociales y los videojuegos en el atacante de Rushdie, a pesar de las afirmaciones de que estaba enojado con el autor después de leer algunas páginas de Los versos satánicos y ver algunos clips de Rushdie en YouTube. Pero esta admisión es reveladora. Dada la cosmovisión y el acto asesino en que influyeron estos videos, nos desafía a todos a darnos cuenta de que el pensamiento crítico, el valor de los hechos compartidos y la adhesión a valores compartidos son inciertos y están disminuyendo en el mundo actual.
Las narrativas (las historias que les contamos a los demás y a nosotros mismos) son fundamentales para la actividad humanitaria. Rushdie cree, con razón, que hoy nos enfrentamos a una “guerra de historias”. Los académicos llaman a esto “decadencia epistémica”, porque lo que estas historias en pugna, producidas a escala industrial y promovidas por figuras influyentes, en última instancia hacen es crear y sostener micro-realidades dispares: formas de ver el mundo que a menudo están en desacuerdo con narrativas fundamentadas, basadas en evidencias y basadas en hechos.
El auge de la desinformación y sus consecuencias
Ya nos encontramos en un mundo en el que la interacción reflexiva con lo que se presenta a través de algoritmos de caja negra moldea las actitudes, percepciones, creencias y prácticas de miles de millones de personas. Esto refleja un rápido empeoramiento de lo que Linda Stone identificó en 2008 como “apnea de pantalla”, un proceso en el que el contenido en línea actúa como un factor estresante que afecta la salud física y mental a largo plazo. Las redes sociales actuales nos informan continuamente sobre muchas cosas, pero nos educan sobre muy poco. Nuestras mentes no pueden lidiar con eso. La ansiedad da paso a la fatiga, lo que reduce las defensas cognitivas y permite que la desinformación se arraigue.
Si la integridad de la información y la veracidad de los medios de comunicación que consumen las sociedades se ven continuamente comprometidas, ¿cómo pueden los trabajadores humanitarios establecer necesidades urgentes, defender las reglas de la guerra, hacer cumplir el derecho internacional humanitario (DIH) y movilizar apoyo? Si la verdad se confunde con la confianza, y quienes tienen a su cargo la tarea de dar sentido a las cosas son también quienes utilizan la desinformación para desviar la responsabilidad, ¿cómo pueden los trabajadores humanitarios lidiar con la adhesión a realidades ficticias en las que millones de personas creen completamente y actúan en consecuencia? ¿Qué sucede cuando estas historias se dirigen a los trabajadores humanitarios?
El papel de las historias humanitarias
Las historias convincentes son la piedra angular del humanitarismo. Nos mueven a actuar en función de lo que consumimos, lo que es válido tanto para la formulación de políticas como para las donaciones y el voluntariado. Pero ahora vivimos en un estado de policrisis permanente, en el que es imposible hacer un seguimiento de todas las emergencias humanitarias, incluso a medida que aumentan en complejidad y dispersión geográfica. Compartir la historia de Gaza es robarle atención al Sahel, Siria o Sudán del Sur. Además, compartir la historia de cualquiera de estos lugares es ahora competir siempre con (y, en la mayoría de los casos, perder) un tsunami de contenido sobre bienestar, entretenimiento, deportes y las opiniones de los influencers sobre todos los temas imaginables. Los algoritmos dirigen este contenido a los usuarios en función de la maximización de las ganancias, una ecuación que rara vez tiene en cuenta los ideales y las necesidades humanitarias y que a menudo es contraria a ellos. La viralidad cautiva; la veracidad ya no es clave para lo que más se comparte.
La IA generativa acelerará esta decadencia epistémica. La comunicación eficaz en situaciones de crisis es clave para el humanitarismo. La producción de este tipo de contenido se basa en la evaluación de material en torno a un contexto, comunidad, país, emergencia o desastre específico. Determinar qué es preciso, engañoso o totalmente falso es cada vez más difícil. La IA generativa hará que sea casi imposible mantener diligentemente la integridad de la información, convirtiendo el campo de batalla cognitivo-informativo en una guerra sobre cómo los procesos cognitivos interconectados, los ecosistemas de información y las respuestas emocionales influyen en las acciones fuera de línea. Quienes controlan este continuo tienen el poder de cambiar la forma en que millones de personas ven el mundo y lo que hacen (o no). Los humanitarios están en medio de esta guerra, se den cuenta o no.
El futuro de la integridad de la información humanitaria
Las realidades distorsionadas conducen a acciones divergentes. Los trabajadores humanitarios encontrarán menos apoyo en torno a las causas que defienden y las condiciones desesperadas que resaltan. Las historias también apuntarán a los trabajadores humanitarios de manera individual e institucional. Esta orientación narrativa tendrá consecuencias cinéticas fuera de línea, y el atacante de Rushdie es un triste recordatorio de cómo el contenido en línea puede moldear creencias muy arraigadas y motivar actos violentos. Si no se puede creer en nada, se rechazará todo. Un contexto en el que no se cree en nada favorece la impunidad, creando condiciones propicias para la persistencia de los crímenes de guerra y los crímenes contra la humanidad.
Hace casi una década, en re:publica 2015 en Berlín, señalé que “siempre es necesario que las tecnologías que defendemos tengan una perspectiva ética basada en los derechos; de lo contrario, los resultados, con las mejores intenciones, pueden estar muy alejados de lo que deseamos ver…”. Esto sigue siendo cierto. Años antes de las amenazas contemporáneas a la integridad de la información y el auge de la IA generativa, señalé en la misma conferencia que el desafío central para el mantenimiento de la paz (y también para la consolidación de la paz) es “…cómo lidiar con la multiplicidad de voces sobre el terreno, porque la democratización de la tecnología ha llegado a tal punto que potencialmente todo el mundo… tiene una voz potencial”. Mi advertencia de entonces se hace ahora más plenamente evidente a través de las cacofonías mediáticas a gran escala que distraen, niegan y denuncian las verdades sobre el terreno publicadas en canales humanitarios creíbles.
Nada de lo descrito en esta nota es una posibilidad fronteriza. Todas son amenazas feroces que se presentan desde la puerta de entrada y que crecen a un ritmo acelerado. Las actitudes de bien pensante en el sector chocarán cada vez más con las realidades de operar en un contexto de decadencia epistémica significativa. Es necesario establecer e iterar rápidamente enfoques generalistas informados, pensamiento lateral y soluciones ágiles basadas en el estudio de las ecologías de la información. Irónicamente, las mejores soluciones residirán en la adopción y adaptación estratégicas, medidas y significativas de las mismas tecnologías que sustentan lo que Rushdie llamó nuestra «era de la desinformación».
Comprender su poder y deconstruir su mal uso es ayudar a crear enfoques interdisciplinarios amplios para la integridad de la información. Estos marcos deben incluir explícitamente la psicología, la neurociencia y la inteligencia emocional. La resiliencia y la remediación son posibles, pero sólo mediante una acción informada y un liderazgo estratégico. Espero que la FICR y el sector se den cuenta de esto. Aunque se han visto exacerbados por la tecnología, estos son fundamentalmente desafíos que afectan a las personas vulnerables. Las historias siguen importando y necesitamos mejores historias para proteger a los más expuestos y vulnerables.
El Dr. Sanjana Hattotuwa es Director de Investigación en The Disinformation Project y actúa como Asesor Especial para la Fundación ICT4Peace. Consulta su biografía aquí.