IA y elecciones: el reto de anticipar riesgos antes de que ocurran

Descargo de responsabilidad: Las opiniones expresadas en este comentario son las de los autores y no representan necesariamente la posición institucional de IDEA Internacional, su Junta de Asesores o su Consejo de Estados Miembros.

Lariza Galindo es directora de Gobierno y Economía Digital en CAF – Banco de Desarrollo de América Latina y el Caribe, donde lidera la cartera de transformación digital de los gobiernos de la región, con foco en gobierno digital, inteligencia artificial, infraestructura pública digital y economía productiva. Juan David Gutiérrez, por su parte, es profesor asociado y director de la maestría en Derecho, Tecnología y Sociedad Digital de la Universidad de los Andes, Colombia. Integrante del grupo de expertos del Global Partnership on Artificial Intelligence en donde lidera el proyecto sobre Transparencia Algorítmica en el Sector Público.

Esta entrevista explora los desafíos menos visibles que la inteligencia artificial (IA) plantea para las elecciones, más allá de los deepfakes y la desinformación. Desde los límites entre apoyo tecnológico y toma de decisiones electorales, hasta las capacidades institucionales, la gobernanza responsable y la transparencia algorítmica, los expertos analizan qué necesita América Latina para aprovechar el potencial de la IA sin comprometer la integridad electoral, los derechos fundamentales y la confianza ciudadana.

La conversación sobre IA y elecciones suele centrarse en los riesgos de desinformación y los deepfakes. ¿Qué otros riesgos menos visibles están teniendo la inteligencia artificial sobre la administración y gestión de los procesos electorales?

Lariza Galindo enfoca el riesgo en incorporar la IA en procesos críticos, sin evaluar cómo cambia el proceso y el modelo operativo de la institución. También existe un riesgo importante de opacidad en decisiones automatizadas que afectan procesos administrativos y electorales, por ejemplo, en la depuración de padrones, la verificación de firmas o la fiscalización del gasto. Cuando una decisión tiene efectos sobre la ciudadanía, organizaciones políticas o candidatos, debe existir claridad sobre los criterios utilizados, mecanismos de supervisión y, cuando corresponda, posibilidades de revisión o apelación.

A estos riesgos institucionales, Juan David Gutiérrez suma una preocupación creciente relacionada con la seguridad de los sistemas electorales.

El riesgo más importante que los sistemas de inteligencia artificial están expandiendo o exacerbando es el de la ciberseguridad. El uso de los modelos de lenguaje a gran escala más avanzados, a través de esquemas agénticos, que puede servir para atacar sistemas informáticos, precisamente de las autoridades electorales y, no exclusivamente, también de partidos políticos y de políticos. Realmente, este es un riesgo que debería estar también en la primera plana, entre los puntos por abordar.

Ante el aumento de contenidos sintéticos y campañas de desinformación generadas con IA, ¿qué capacidades deben desarrollar los organismos electorales para proteger la integridad de la información sin afectar derechos fundamentales como la libertad de expresión?

Juan David Gutiérrez se refiere a reglas claras sobre qué se puede hacer y qué no se puede hacer con inteligencia artificial generativa. También debería haber obligaciones muy sencillas para los partidos políticos y los propios políticos, en el sentido de que pueden usar inteligencia artificial generativa, pero deben agregar marcas, según el tipo de contenido, ya sea texto, imagen o audio, que le permitan a la persona que está recibiendo ese contenido entender que fue realizado con inteligencia artificial generativa. Allí hay un deber mínimo de transparencia que debe establecerse.

Algunas experiencias regionales ya avanzan en esta dirección.

Ese es el caso del Tribunal Superior Electoral de Brasil con la Resolución 23.732 de 2024 que, además de reiterar la prohibición de usar deepfakes para desinformar, estableció reglas de etiquetado obligatorio del contenido generado por inteligencia artificial. Eso también incluye los casos en que una persona está interactuando con un chatbot.

Esas reglas, además, deben establecer excepciones para determinados usos de la inteligencia artificial generativa, como la sátira, la parodia o los fines educativos, de tal manera que no deriven en censura.

Complementando el enfoque regulatorio, Lariza Galindo pone el énfasis en las capacidades operativas e institucionales necesarias para responder a estos desafíos.

Para este abordaje se refiere a la necesidad de las autoridades electorales en capacidades para monitorear y analizar grandes volúmenes de información, identificar patrones y evaluar riesgos, pero también criterios claros para determinar cuándo una situación requiere intervención y cuál debe ser proporcional a la amenaza, porque no toda información falsa genera el mismo riesgo ni amerita la misma respuesta institucional. Esto es particularmente importante para proteger la integridad de la información electoral sin convertir la respuesta institucional en un mecanismo de control sobre el contenido o el debate público.

Sin embargo, advierte que esta tarea no puede recaer exclusivamente en los organismos electorales.

Será fundamental desarrollar alianzas con plataformas tecnológicas y fact-checkers independientes, definiendo roles y responsabilidades como parte de una respuesta multiactor. Al mismo tiempo, la legitimidad de estas intervenciones requiere mayor transparencia: las instituciones deberían poder explicar públicamente con qué criterios se determina que contenido representa un riesgo, aunque eso no implique revelar el código o los modelos utilizados. Esta transparencia algorítmica puede ser tan importante como la capacidad tecnológica, porque permite que las decisiones sean comprendidas, cuestionadas y sometidas a escrutinio.

América Latina muestra niveles muy distintos de adopción de IA en materia electoral. ¿Cuáles son las condiciones mínimas que debería tener una autoridad electoral antes de implementar estas tecnologías de manera más amplia?

Lariza Galindo: Antes de hablar de una adopción amplia de IA, es necesario asegurar los cimientos de la transformación digital. No podemos pretender saltar directamente a la inteligencia artificial si todavía existen procesos fragmentados, información que no puede interoperar, datos de baja calidad, sistemas que no se comunican entre sí o procesos que siguen siendo esencialmente analógicos. La IA puede acelerar y potenciar las capacidades de una institución, pero difícilmente puede compensar la ausencia de estos fundamentales. Por eso, la agenda de IA debe formar parte de una agenda más amplia de transformación digital que incluya datos, interoperabilidad, procesos digitales, infraestructura, ciberseguridad, talento y gobernanza.

Sobre esa base, añade que la incorporación de IA también debe responder a criterios de riesgo y valor público.

A partir de esa base, también es importante priorizar dónde incorporar IA según el nivel de riesgo y el valor que puede generar. No todas las funciones electorales deberían abordarse de la misma manera. Las funciones de back office, por ejemplo, pueden ofrecer oportunidades importantes de automatización y eficiencia con riesgos relativamente bajos. En cambio, las funciones que pueden afectar directamente derechos político-electorales —o influir en decisiones sobre ciudadanos, partidos o candidatos— requieren una supervisión humana reforzada, mayores niveles de transparencia y mecanismos de control. El punto de partida, por tanto, no debería ser “¿dónde podemos poner IA?”, sino “qué problema institucional queremos resolver, qué capacidad necesitamos fortalecer y qué nivel de riesgo estamos dispuestos a gestionar?”.

Juan David Gutiérrez coincide en la importancia de estos fundamentos y detalla las capacidades organizacionales necesarias para avanzar.

Hay un punto que es muy importante porque habilita los proyectos de inteligencia artificial: los procesos previos de transformación digital, que permiten contar con sistemas de información que luego pueden usarse para el entrenamiento de modelos de inteligencia artificial, si fuera el caso, o para el uso de modelos ya previamente entrenados.

Esos procesos de transformación digital involucran contar con una infraestructura básica y con la arquitectura de datos, pero también con talento humano al interior de la organización, no solo para usar las herramientas, sino también para monitorearlas, hacer seguimiento y verificar su funcionamiento adecuado. No se debe quedar dependiente de terceros para este tipo de tareas, que deberían formar parte de las capacidades internas. Entonces, aquí estamos hablando de infraestructura, datos, talento humano y también de reglas internas para el uso de inteligencia artificial generativa.

Uno de los riesgos más grandes es el uso en la sombra de herramientas de inteligencia artificial que no son idóneas y que pueden comprometer la seguridad y la confidencialidad. Aquí las organizaciones electorales tienen que tomar medidas administrativas, técnicas y de gobernanza para asegurarse de que las herramientas de inteligencia artificial generativa que se utilicen sean idóneas, estén autorizadas y protejan la información que los funcionarios procesan mediante estas herramientas.

Una de las conclusiones del estudio de IDEA Internacional es que la conciencia sobre los riesgos de la IA suele avanzar más rápido que los mecanismos para gestionarlos. ¿Qué elementos debería incluir un marco de gobernanza responsable para el uso de IA en elecciones?

Juan David Gutiérrez: Es muy importante que las organizaciones electorales y los tomadores de decisiones en política pública tengan capacidad para anticiparse a los problemas. Esa capacidad de anticipación implica, precisamente, poder mapear los riesgos tempranamente y tomar medidas preventivas.

Estoy de acuerdo con IDEA Internacional en que el elemento más importante que deben incluir los marcos de gobernanza responsable son medidas que, por una parte, garanticen que cualquier herramienta que vaya a desplegarse al interior de la autoridad electoral haya pasado previamente por un análisis de impacto algorítmico. De esta manera, pueden identificarse los riesgos asociados con el uso de la herramienta y adoptarse medidas para gestionarlos.

Ninguna herramienta va a estar exenta de riesgos; lo importante es ser capaces de gestionarlos. Por eso, contar con un sistema de gestión de riesgos es el elemento central de un marco de gobernanza responsable.

A partir de ese enfoque centrado en la gestión de riesgos, Lariza Galindo propone una visión más amplia de la gobernanza institucional.

Un marco responsable debería combinar reglas claras, evaluación de riesgos, transparencia, supervisión humana, protección de datos, mecanismos de auditoría y trazabilidad, y criterios para medir resultados e impactos. Pero también debería concebirse como un ciclo continuo y no como un documento estático: diagnosticar, diseñar, regular, implementar, aprender y adaptar, de modo que la gobernanza evolucione al mismo ritmo que la tecnología. Esto implica incorporar espacios de experimentación controlada —sandboxes regulatorios y pilotos supervisados— antes de adoptar decisiones definitivas, y prever desde el diseño mecanismos de revisión periódica que permitan mantener, ajustar o incluso descontinuar una intervención con base en evidencia, evitando que un organismo electoral quede atado a decisiones tomadas bajo condiciones tecnológicas que ya cambiaron.

Además, considera fundamental distribuir responsabilidades más allá de las autoridades electorales.

Un elemento igualmente importante es la corresponsabilidad multiactor: plataformas tecnológicas, proveedores y sociedad civil deben tener roles definidos junto al organismo electoral, que no puede gestionar estos riesgos en solitario. Finalmente, el objetivo es fortalecer la capacidad del propio organismo para decidir, con evidencia, cuándo regular, cuándo experimentar y cuándo simplemente esperar. La gobernanza no debe convertirse en una barrera para innovar, sino en el mecanismo que permita hacerlo de manera segura, responsable y con memoria institucional que la región pueda compartir y aprovechar.

Después del encuentro regional, ¿cuál es el paso más urgente que identificas para pasar del diagnóstico a la acción frente a los desafíos que plantea la inteligencia artificial para la democracia y las elecciones en América Latina?

Lariza Galindo: Desde CAF vemos la necesidad de ampliar la mirada: pasar de pensar únicamente en la incorporación de herramientas de IA a pensar en una transformación digital integral de los órganos electorales. Esto implica trabajar tanto hacia el interior de sus funciones sustantivas —cómo administran, fiscalizan, resuelven y toman decisiones— como sobre la gestión de sus procesos, construyendo los fundamentos digitales que permitan que nuevas tecnologías puedan incorporarse de manera efectiva y sostenible. La IA debe estar en esa agenda desde ahora como un factor fundamental, pero integrada dentro de una transformación más amplia y no como una capa aislada que se incorpora sobre capacidades institucionales todavía fragmentadas.

Esa visión ya comienza a materializarse en iniciativas concretas de cooperación regional.

Precisamente en esa dirección, CAF está trabajando con IDEA Internacional en el diseño de un programa regional que permita acompañar a los órganos electorales de América Latina y el Caribe en estas necesidades, combinando cooperación técnica y financiamiento. La idea es apoyar a las instituciones no solamente a implementar casos de uso de IA, sino a desarrollar las capacidades, procesos y fundamentos de transformación digital que les permitan aprovecharla de manera responsable. Creemos que este enfoque puede ayudar a que la región avance desde experiencias aisladas hacia capacidades institucionales sostenibles, escalables y adaptadas a las particularidades de la gestión electoral.

Juan David Gutiérrez coincide en la necesidad de actuar, pero plantea que el punto de partida debe ser un acuerdo social más amplio sobre el rumbo que debe tomar la inteligencia artificial.

El punto más importante en el que tenemos que ponernos de acuerdo es cómo queremos que la inteligencia artificial transforme nuestras sociedades, nuestros Estados, nuestros mercados y nuestras vidas.

Creo que no en todas las jurisdicciones y países se han dado discusiones, en marcos democráticos, que permitan llegar a acuerdos sobre cómo quisiéramos que estas herramientas contribuyeran a transformar nuestras vidas. A menudo se asumen impactos positivos derivados de la adopción de estas tecnologías, pero no podemos dar por sentado que esos impactos positivos se vayan a concretar. Muchas veces tampoco se tienen suficientemente en cuenta los efectos negativos.

Por eso es fundamental construir un consenso social frente a la emergencia de estas nuevas tecnologías: un consenso sobre cómo queremos que transformen nuestras vidas y que, obviamente, esperamos que lo hagan de manera positiva para todos.

En eso debemos ponernos de acuerdo. Esa visión compartida sobre cómo queremos que se produzca esa transformación debería derivar posteriormente en mecanismos para hacerla realidad. Me parece que hace falta ese pacto social, ese consenso sobre dónde queremos llegar con esto, porque simplemente lo estamos dando por sentado, sin detenernos a pensar cómo queremos que ocurra esa transformación.

¿Queremos que genere beneficios para unos pocos y efectos negativos para muchos, como ha ocurrido con algunas tecnologías? ¿O queremos, por el contrario, que los beneficios estén ampliamente distribuidos y que los riesgos estén adecuadamente gestionados?