IA y elecciones: el reto de anticipar riesgos antes de que ocurran

Descargo de responsabilidad: Las opiniones expresadas en este comentario son las de los autores y no representan necesariamente la posición institucional de IDEA Internacional, su Junta de Asesores o su Consejo de Estados Miembros.

Juan David Gutiérrez es profesor asociado y director de la maestría en Derecho, Tecnología y Sociedad Digital de la Universidad de los Andes, Colombia. Integrante del grupo de expertos del Global Partnership on Artificial Intelligence en donde lidera el proyecto sobre Transparencia Algorítmica en el Sector Público.

Esta entrevista explora los desafíos menos visibles que la inteligencia artificial (IA) plantea para las elecciones, más allá de los deepfakes y la desinformación. Desde los límites entre apoyo tecnológico y toma de decisiones electorales, hasta las capacidades institucionales, la gobernanza responsable y la transparencia algorítmica, el experto analiza qué necesita América Latina para aprovechar el potencial de la IA sin comprometer la integridad electoral, los derechos fundamentales y la confianza ciudadana. 

La conversación sobre IA y elecciones suele centrarse en los riesgos de desinformación y los deepfakes. ¿Qué otros riesgos menos visibles están teniendo la inteligencia artificial sobre la administración y gestión de los procesos electorales?

El riesgo más importante que los sistemas de inteligencia artificial están expandiendo o exacerbando es el de la ciberseguridad. Digamos que el uso de los modelos de lenguaje a gran escala más avanzados, a través de esquemas agénticos, puede servir para atacar sistemas informáticos, precisamente de las autoridades electorales y, no exclusivamente, también de partidos políticos y de políticos. Realmente, este es un riesgo que debería estar también en la primera plana, entre los puntos por abordar.

Ante el aumento de contenidos sintéticos y campañas de desinformación generadas con IA, ¿qué capacidades deben desarrollar los organismos electorales para proteger la integridad de la información sin afectar derechos fundamentales como la libertad de expresión?

En primer lugar, debería haber reglas claras sobre qué se puede hacer y qué no se puede hacer con inteligencia artificial generativa. También debería haber obligaciones muy sencillas para los proveedores políticos, los partidos políticos y los propios políticos, en el sentido de que pueden usar inteligencia artificial generativa, pero deben agregar marcas, según el tipo de contenido, ya sea texto, imagen o audio, que le permitan a la persona que está recibiendo ese contenido entender que fue realizado con inteligencia artificial generativa. Allí hay un deber mínimo de transparencia que debe establecerse.

Ese es el caso del Tribunal Superior Electoral de Brasil con la Resolución 23.732 de 2024 que, además de reiterar la prohibición de usar deepfakes para desinformar, estableció reglas de etiquetado obligatorio del contenido generado por inteligencia artificial. Eso también incluye los casos en que una persona está interactuando con un chatbot.

Esas reglas, además, deben establecer excepciones para determinados usos de la inteligencia artificial generativa, como la sátira, la parodia o los fines educativos, de tal manera que no deriven en censura.

América Latina muestra niveles muy distintos de adopción de IA en materia electoral. ¿Cuáles son las condiciones mínimas que debería tener una autoridad electoral antes de implementar estas tecnologías de manera más amplia?

Hay un punto que es muy importante porque habilita los proyectos de inteligencia artificial: los procesos previos de transformación digital, que permiten contar con sistemas de información que luego pueden usarse para el entrenamiento de modelos de inteligencia artificial, si fuera el caso, o para el uso de modelos ya previamente entrenados.

Esos procesos de transformación digital involucran contar con una infraestructura básica y con la arquitectura de datos que acabo de mencionar, pero también con talento humano al interior de la organización, no solo para usar las herramientas, sino también para monitorearlas, hacer seguimiento y verificar su funcionamiento adecuado. No se debe quedar dependiente de terceros para este tipo de tareas, que deberían formar parte de las capacidades internas. Entonces, aquí estamos hablando de infraestructura, datos, talento humano y también de reglas internas para el uso de inteligencia artificial generativa.

Uno de los riesgos más grandes es el uso en la sombra de herramientas de inteligencia artificial que no son idóneas y que pueden comprometer la seguridad y la confidencialidad. Aquí las organizaciones electorales tienen que tomar medidas administrativas, técnicas y de gobernanza para asegurarse de que las herramientas de inteligencia artificial generativa que se utilicen sean idóneas, estén autorizadas y protejan la información que los funcionarios procesan mediante estas herramientas.

Una de las conclusiones del estudio de IDEA Internacional es que la conciencia sobre los riesgos de la IA suele avanzar más rápido que los mecanismos para gestionarlos. ¿Qué elementos debería incluir un marco de gobernanza responsable para el uso de IA en elecciones?

Es muy importante que las organizaciones electorales y los tomadores de decisiones en política pública tengan capacidad para anticiparse a los problemas. Esa capacidad de anticipación implica, precisamente, poder mapear los riesgos tempranamente y tomar medidas preventivas.

Estoy de acuerdo con IDEA Internacional en que el elemento más importante que deben incluir los marcos de gobernanza responsable son medidas que, por una parte, garanticen que cualquier herramienta que vaya a desplegarse al interior de la autoridad electoral haya pasado previamente por un análisis de impacto algorítmico. De esta manera, pueden identificarse los riesgos asociados con el uso de la herramienta y adoptarse medidas para gestionarlos.

Ninguna herramienta va a estar exenta de riesgos; lo importante es ser capaces de gestionarlos. Por eso, contar con un sistema de gestión de riesgos es el elemento central de un marco de gobernanza responsable.

Después del encuentro regional, ¿cuál es el paso más urgente que identificas para pasar del diagnóstico a la acción frente a los desafíos que plantea la inteligencia artificial para la democracia y las elecciones en América Latina?

El punto más importante en el que tenemos que ponernos de acuerdo es cómo queremos que la inteligencia artificial transforme nuestras sociedades, nuestros Estados, nuestros mercados y nuestras vidas.

Creo que no en todas las jurisdicciones y países se han dado discusiones, en marcos democráticos, que permitan llegar a acuerdos sobre cómo quisiéramos que estas herramientas contribuyeran a transformar nuestras vidas.

A menudo se asumen impactos positivos derivados de la adopción de estas tecnologías, pero no podemos dar por sentado que esos impactos positivos se vayan a concretar. Muchas veces tampoco se tienen suficientemente en cuenta los efectos negativos.

Por eso, retomando la idea de la pregunta anterior, es fundamental construir un consenso social frente a la emergencia de estas nuevas tecnologías: un consenso sobre cómo queremos que transformen nuestras vidas y que, obviamente, esperamos que lo hagan de manera positiva para todos.

En eso debemos ponernos de acuerdo. Esa visión compartida sobre cómo queremos que se produzca esa transformación debería derivar posteriormente en mecanismos para hacerla realidad. Me parece que hace falta ese pacto social, ese consenso sobre dónde queremos llegar con esto, porque simplemente lo estamos dando por sentado, sin detenernos a pensar cómo queremos que ocurra esa transformación.

¿Queremos que genere beneficios para unos pocos y efectos negativos para muchos, como ha ocurrido con algunas tecnologías? ¿O queremos, por el contrario, que los beneficios estén ampliamente distribuidos y que los riesgos estén adecuadamente gestionados?