Democracias del mundo amenazadas por la desinformación de la IA
Los 193 miembros de la Asamblea General de la ONU adoptaron por consenso una resolución liderada por Estados Unidos sobre el aprovechamiento de las oportunidades de los sistemas de inteligencia artificial seguros y fiables para el desarrollo sostenible.
Naciones Unidas.- El secretario de Estado de Estados Unidos, Antony Blinken, advirtió durante la Tercera Cumbre para la Democracia, celebrada en Corea del Sur, que una «avalancha» maliciosa de desinformación amenaza a las democracias del mundo, provocada en parte por el auge de la inteligencia artificial (IA).
Pero la IA es también un ámbito crítico en el que la democracia está siendo desafiada. Así, mientras tratamos de aprovechar el poder de la IA y otras tecnologías digitales para el bien, algunos gobiernos están abusando de esas mismas tecnologías para hacer justo lo contrario, dijo.
Utilizan herramientas de IA, como el reconocimiento facial y los bots, para vigilar a sus propios ciudadanos, acosar a periodistas, defensores de los derechos humanos y disidentes políticos.
También difunden información errónea y desinformación que socava la celebración de elecciones libres y justas o enfrenta a un segmento de nuestras sociedades con otro, afirmó Blinken durante la jornada inaugural de la Cumbre, celebrada entre el 18 y el 20 de marzo en Seul.
Un artículo del diario The Washington Post, publicado en enero y titulado «La IA está desestabilizando el propio concepto de verdad», se centra en las próximas elecciones legislativos y presidenciales de Estados Unidos, al tiempo que señala que los expertos en inteligencia artificial llevan tiempo advirtiendo de que los contenidos generados por IA podrían enturbiar las aguas de la realidad percibida.
A pocas semanas de un año electoral crucial, aumenta la confusión en torno a la IA.
Políticos de todo el mundo han estado desechando pruebas potencialmente condenatorias (vídeos granulados de citas en hoteles, grabaciones de voz criticando a oponentes políticos) tachándolas de falsificaciones generadas por IA. Al mismo tiempo, las informaciones ultrafalsas (deepfakes), generadas por la IA, se utilizan para difundir desinformación.
El mes pasado, en Estados Unidos, el Departamento de Justicia del estado de New Hampshire informó de que estaba investigando unas «robollamadas en las que aparecía una voz generada por IA que parecía la del presidente Joe Biden, pedía a los votantes que no acudieran a las primarias del llamado super martes, el primer uso notable de IA para reducir a los votantes en este ciclo electoral.
Mark Coeckelbergh, profesor de Filosofía en la Universidad de Viena y autor de «Why AI Undermines Democracy And What To Do About It» (Por qué la IA socava la democracia y qué hacer al respecto), publicado este año, dijo a IPS: «Como veremos en las muchas elecciones que se celebrarán este año en todo el mundo, la IA, en combinación con las redes sociales, desempeña un papel cada vez más importante en la manipulación de las elecciones y la difusión de información errónea».
«Este es un problema inminente que deben abordar los responsables políticos. Pero, como muestro en mi nuevo libro Por qué la IA socava la democracia y qué hacer al respecto, la democracia no solo tiene que ver con las elecciones», precisó.
La democracia, argumentó, también se ve socavada en sus principios fundacionales debido, por ejemplo, a la parcialidad y la vigilancia, que amenazan los principios democráticos básicos de justicia y libertad.
Además, dijo, se necesita una base de conocimiento para la democracia, pero la IA puede conducir a la polarización y a burbujas epistémicas, es decir, a un clima en el que la gente no está interesada en opiniones diferentes y en el que los demás son vistos como enemigos.
En un clima así, señaló, los ideales deliberativos y comunicativos de la democracia no pueden florecer, sino que, por el contrario, se ven socavados.
«Necesitamos urgentemente más acuerdos vinculantes a nivel nacional y mundial para abordar estas cuestiones con el fin de salvaguardar y desarrollar la democracia. La democracia es muy vulnerable, puede erosionarse fácilmente. Si dejamos las cosas como están, el desierto del totalitarismo está a la espera de emerger», subrayó Coeckelbergh.
Nipuna Kumbalathara, responsable de Comunicación de Civicus, un alianza mundial de organizaciones de la sociedad civil, dijo a IPS: «Sin duda, una grave amenaza a los derechos y valores democráticos emana de los canales de medios de comunicación de derecha y portales en línea que son expertos en difundir desinformación y reforzar los prejuicios contra las minorías y las personas excluidas».
También los políticos, argumentó, contribuyen a la creciente epidemia de difusión deliberada de medias verdades e información engañosa. Tales tendencias se aceleraron durante la pandemia de covid-19, cuando autoritarios y populistas intentaron suprimir la verdad sobre el impacto de la enfermedad en las personas afectadas y trataron de restar importancia a la eficacia de sus respuestas.
Esto llevó al secretario general de la Organización de las Naciones Unidas (ONU), António Guterres, a pedir un código de conducta sobre la integridad de la información pública en su informe Nuestra Agenda Común. No está claro cuánto se ha avanzado en el código de conducta.
Además, en un momento en el que las condiciones del espacio cívico se encuentran en mínimos históricos en todo el mundo, «los aparatos represivos del Estado están utilizando la tecnología como arma para vigilar, difamar y perseguir ilícitamente a los activistas de la sociedad civil y a los periodistas que se dedican a destapar mentiras y a descubrir la verdad», dijo Guterres.
Cuando se le pidió una respuesta, el Copiloto de Microsoft generado por IA dijo:
- Desinformación y manipulación: Una «avalancha» maliciosa de desinformación amenaza a las democracias en todo el mundo. La inteligencia artificial, con su capacidad para generar y difundir contenidos rápidamente, contribuye a esta amenaza. Siembra la sospecha, el cinismo y la inestabilidad explotando las fisuras dentro de las sociedades democráticas.
- Interferencia electoral: Países que representan casi la mitad de la población mundial, incluida la India, celebrarán elecciones este año. Las campañas de información manipulada alimentadas por la inteligencia artificial pueden influir en los resultados electorales. Las elecciones presidenciales estadounidenses de 2016 sirven como ejemplo de advertencia.
- Desafíos en la detección de contenidos generados por la inteligencia artificial: Los potentes programas generativos de inteligencia artificial pueden engañar incluso a los consumidores de noticias más sofisticados. Detectar contenido generado por Inteligencia Artificial es un reto, y los adversarios blanquean astutamente su propaganda y desinformación.
- Riesgos catastróficos: Un reciente informe encargado por el Departamento de Estado advierte de que la inteligencia artificial presenta «riesgos catastróficos «. Un sistema de inteligencia artificial capaz de una persuasión sobrehumana podría socavar los procesos democráticos.
Los esfuerzos para hacer frente a esta amenaza incluyen la promoción de la alfabetización digital y mediática, instando a las plataformas de medios sociales a etiquetar el contenido generado por la inteligencia artificial, y la sensibilización sobre los riesgos. La vigilancia y la colaboración son esenciales para salvaguardar las instituciones democráticas de la desinformación generada por la inteligencia artificial.
En la cumbre de Seúl, Blinken dio más detalles: «Nuestras democracias no son inmunes a los perjuicios derivados del mal uso y los fallos de la IA, incluidas las repercusiones de las decisiones que toman las empresas tecnológicas a la hora de desplegar sus innovaciones: desde que nuestros ciudadanos puedan acceder a menos medios de comunicación y menos diversos debido a los fallos de los motores de búsqueda basados en IA, hasta la discriminación y los prejuicios que afectan de manera desproporcionada a las minorías raciales y étnicas».
Añadió que «Estados Unidos está decidido a definir los términos de nuestro futuro tecnológico de un modo que sea integrador, que respete los derechos y que sustente los valores y las instituciones democráticas. Hemos realizado inversiones históricas en nuestras capacidades tecnológicas y en las de nuestros socios democráticos»,
«Podemos ver y sentir el tremendo entusiasmo que despierta la IA en todo el mundo y, de hecho, en ningún lugar tanto como en los países de la gran mayoría global. Existe la sensación de que se trata de una herramienta, un medio para acelerar realmente el progreso. Y ya estamos viendo algo de eso», planteó el jefe de la diplomacia estadounidense.
Kenia, por ejemplo, ha desplegado un nuevo robot basado en IA que permite a mujeres y niñas acceder a información completa y precisa sobre salud reproductiva.
Chile ha desarrollado «Creamos», una herramienta apoyada en IA que anima a los jóvenes a aportar sus ideas para fomentar el cambio social y avanzar en el desarrollo sostenible.
En Ucrania, una organización contra la corrupción y empresas tecnológicas se unieron en un sistema basado en IA para documentar con precisión los ataques contra el patrimonio cultural y la infraestructura civil, lo que está fortaleciendo el enjuiciamiento de los crímenes de guerra en Ucrania.
«También sabemos que la IA tiene un enorme poder para impulsar un desarrollo que mejore directamente la vida de las personas y, al hacerlo, ganarse la confianza de nuestra gente, de la gente de todo el mundo, en nuestro modelo democrático», dijo Blinken.
Y añadió: «Esta es la realidad. Ahora mismo, el mundo va camino de alcanzar solo 12 % -tan solo 12 %- de los Objetivos de Desarrollo Sostenible (ODS) para 2030. Por tanto, vamos muy retrasados».
Pero la IA podría acelerar el progreso en 80 % de esos ODS, desde la mejora de la productividad agrícola hasta la lucha contra el hambre, la detección y prevención de brotes de enfermedades o la aceleración de nuestra transición hacia una energía limpia que cree empleo y proteja nuestro planeta al mismo tiempo.
Mientras tanto, el 21 de marzo, los 193 miembros de la Asamblea General de la ONU adoptaron por consenso una resolución liderada por Estados Unidos y con el respaldo de otros 120 países, sobre el «Aprovechamiento de las oportunidades de los sistemas de inteligencia artificial seguros y fiables para el desarrollo sostenible».
Se trata de la primera resolución independiente negociada en la Asamblea General de la ONU para establecer un enfoque de consenso mundial para la gobernanza de la IA.
La resolución anima a los Estados miembros a promover sistemas de IA seguros y fiables, con los siguientes enfoques:
- Cooperando con los países en desarrollo y proporcionándoles capacitación y asistencia técnica y financiera;
- Cerrando las brechas de IA y otras brechas digitales que existen entre y dentro de los países;
- Promoviendo el acceso equitativo a los beneficios de los sistemas de IA;
- Respetar, proteger y promover los derechos humanos y las libertades fundamentales a lo largo del ciclo de vida de los sistemas de IA;
- Proteger a las personas de toda forma de discriminación, prejuicio, uso indebido u otros perjuicios derivados de los sistemas de IA;
- Desarrollar enfoques y marcos regulatorios y de gobernanza relacionados con los sistemas de IA;
- Probar los sistemas de IA antes de su despliegue y uso;
- Sensibilizar a la opinión pública sobre el uso civil adecuado de los sistemas de IA;
- Fomentar el desarrollo de herramientas que identifiquen los contenidos digitales generados por IA y su origen;
- Salvaguardar la privacidad y la protección de los datos personales;
- Respetar los derechos de propiedad intelectual;
- Mitigar las posibles consecuencias negativas para la mano de obra; y
- Fomentar la adhesión del sector privado a la legislación nacional e internacional aplicable
Fuente: Revista Espejo