Lecciones de inteligencia artificial desde América Latina para el mundo #5

IDEA Internacional organizó el cuarto de cinco talleres sobre Inteligencia Artificial (IA) para actores electorales en Panamá. El taller se llevó a cabo los días 20 y 21 de mayo y reunió a diferentes actores, incluyendo organizaciones de la sociedad civil, expertos técnicos y más de 17 autoridades electorales de toda Latinoamérica. Durante ambos días, se debatió sobre los sistemas de IA latinoamericanos implementados en los procesos electorales y cómo estas tecnologías pueden aportar beneficios, pero también riesgos, para las democracias y los derechos fundamentales.

Este taller demostró que las autoridades electorales de Latinoamérica y el Caribe están muy al día en los principales debates sobre IA, mostrando un amplio conocimiento de los aspectos técnicos y sociopolíticos de las políticas de IA. Estas son algunas de las ideas que surgieron durante los dos días de debates, en colaboración con las autoridades electorales.

El futuro es ahora: Sistemas de IA en los procesos electorales

La IA ya está impactando la gestión electoral y las democracias en la región latinoamericana. Casos como los chatbots implementados por el INE en México, el sistema de reconocimiento facial en Colombia o la lucha contra la desinformación que está llevando a cabo el TSE en Brasil demuestran la profunda integración de la IA en la región.

El principal desafío para la región es asegurar que estos sistemas de IA no repliquen desigualdades estructurales ni autoritarismo. Por el contrario, los sistemas de IA deberían utilizarse para mejorar las democracias y los procesos electorales. Para lograrlo, Natalia Zuazo, nuestra experta regional, nos explicó las herramientas para avanzar: los Estados deben desarrollar estándares y normas centrados en los derechos humanos, basarse en políticas internacionales de IA como las directrices de la UNESCO o los estándares de la Organización de los Estados Americanos, e incluir un enfoque multisectorial en estos procesos.

Desinformación en ALC: Problemas estructurales requieren soluciones estructurales

Durante el taller, las autoridades electorales coincidieron en que el mayor desafío que plantea la IA en los procesos electorales es la desinformación. Sin embargo, las respuestas a la lucha contra la desinformación siguen estando fragmentadas en América Latina y el Caribe (ALC). Si bien algunas autoridades electorales, como las de México y Brasil, han establecido canales directos con plataformas digitales como Meta o Google, otras, como las de República Dominicana, Panamá y Bolivia, carecen de contactos focales.

Ante la ausencia de regulaciones vinculantes, las autoridades latinoamericanas deben actuar en conjunto, tendiendo puentes con las plataformas. Esto permitiría la creación de estándares regionales comunes y unificados para combatir la desinformación. Organizaciones internacionales, como IDEA Internacional, podrían actuar como coordinadores y, mediante un enfoque multisectorial, ayudar a desarrollar estrategias sólidas y coordinadas para combatir la desinformación.

La región también tiene valiosas lecciones que ofrecer al mundo. La autoridad electoral brasileña compartió cómo la desinformación afectó profundamente a la sociedad brasileña, polarizando a la ciudadanía hasta el punto de provocar un intento de golpe de Estado. El Tribunal Superior Electoral (TSE) respondió con una sólida política institucional que incluye monitoreo, medidas de transparencia, mecanismos de denuncia, educación cívica y medidas regulatorias. Esta experiencia puede servir de inspiración a nivel mundial.

Los problemas estructurales requieren soluciones estructurales. Así es como el TSE abordó este importante desafío: estableciendo grupos de trabajo con todas las partes interesadas, educando a la ciudadanía, desarrollando mecanismos de transparencia y denuncia, e implementando medidas regulatorias.

Pilar n.° 3: Legislación y Regulación

Los debates durante el taller destacaron las preocupaciones regionales y las posibles soluciones a través de mecanismos regulatorios. Como se mencionó, los países latinoamericanos deberían alinearse con las iniciativas internacionales sobre regulación de la IA, como las directrices de la UNESCO o los estándares de la Organización de los Estados Americanos sobre IA y gobernanza de datos. Existen dos razones clave para ello: (a) Los sistemas de IA suelen implementarse globalmente, siguiendo estándares técnicos comunes; y (b) los países deben promover una gobernanza coherente y sistemática de la IA para evitar la fragmentación o la duplicación de los marcos regulatorios.

Sin embargo, cualquier regulación debe adaptarse a los contextos regionales y nacionales. Los marcos regulatorios de la IA no deben construirse desde cero, sino que deben tener en cuenta las medidas legales existentes que ya se aplican a los sistemas de IA. Comprender el panorama regulatorio relevante —como las leyes contra la discriminación, la legislación electoral, las leyes de protección de datos y las leyes de moderación de contenido— es esencial para desarrollar iniciativas legislativas nacionales. Este enfoque es realista y deseable. La regulación de la IA debe reconocer los beneficios que se pueden aprovechar de las leyes existentes e identificar las lagunas legales que deben abordarse para construir un marco coherente y aplicable.

Finalmente, un mecanismo regulatorio nacional debe involucrar a todas las partes interesadas. En América Latina, el legado de autoritarismo y la baja confianza pública exigen acuerdos de toda la sociedad sobre temas cruciales como la regulación de la IA. Peor que una regulación deficiente de la IA es tener una ley muerta, bien intencionada pero ineficaz o mal implementada. Un enfoque multisectorial puede ayudar a subsanar las lagunas legales y, al mismo tiempo, generar consenso nacional sobre cómo las sociedades deberían avanzar con los marcos regulatorios de la IA.

El camino a seguir: fomentando el diálogo en América Latina y el Caribe sobre IA y elecciones

IDEA Internacional seguirá impulsando este importante debate con las autoridades electorales, no solo en América Latina y el Caribe, sino a nivel mundial. Si bien cada región enfrenta desafíos distintos, el enfoque global de IDEA Internacional puede facilitar intercambios significativos, no solo en la tradicional relación Norte-Sur, sino también a través de valiosos procesos de aprendizaje Sur-Norte. La experiencia de este taller ha demostrado que la región tiene mucho que aportar.

Esperamos con gran interés la próxima reunión con las autoridades electorales de América Latina y el Caribe. Estos temas son urgentes y muy dinámicos, y la colaboración sostenida con todas las partes interesadas es esencial para seguir desarrollando capacidades.

En el próximo artículo final de esta serie, aplicaremos lo aprendido en el taller de clausura en Senegal para analizar cómo la IA impacta el panorama informativo electoral. El artículo investigará cómo los organismos electorales en África abordan la desinformación en línea y los sistemas de curación de contenido impulsados por IA cuando amenazan la integridad electoral.

Ponte al día con la serie de artículos hasta el momento leyendo el primer artículo para obtener una visión completa de una base democrática de IA, el segundo artículo sobre Alfabetización en IA y el taller en Kuala Lumpur, el tercer artículo sobre ética de la IA y el taller en Tirana, y el cuarto artículo sobre IA en la gestión electoral y el taller en Johannesburgo. Además, asegúrate de leer el artículo adicional sobre la Ley de IA de la UE y la alfabetización en IA.