Palabras de bienvenida Recepción para Estados Miembros y organismos electorales

Muy buenas noches excelencias, embajadoras y embajadores, autoridades electorales, colegas de la Junta Central Electoral, amigas y amigos. 

Es para mí un gran placer estar en la República Dominicana y darles una muy cordial bienvenida a este Seminario Regional sobre Inteligencia Artificial y Gestión Electoral en América Latina y el Caribe. Para mí este es un país muy querido, que mi memoria asocia a momentos maravillosos. Me complace, en particular, volver a trabajar con los colegas y amigos de la Junta Central Electoral, nuestra socia en este evento. Agradezco al presidente de la JCE, Dr. Román Jáquez Liranzo, al pleno de Magistrados y a todo su equipo por su liderazgo y hospitalidad. 

Agradezco también a los representantes de los gobiernos de los Estados Miembros de IDEA Internacional y de los organismos electorales aquí presentes por presencia esta noche y, más importante aún, por su compromiso con la causa democrática. Permítanme mencionar de forma especial a la India, que preside este año nuestro Consejo de Estados Miembros, cuyo organismo electoral ha proveído un apoyo invaluable al programa de esta semana. Nos honra contar esta noche con la presencia de dos representantes del Instituto Internacional de la India para la Democracia y la Gestión Electoral: su Director General, el señor Rakesh Kumar Verma, y el Director de la Escuela de Tecnología Electoral, señor Ajay Kumar. 

Permítanme decir una palabra sobre IDEA y nuestro trabajo en América Latina y el Caribe. Como algunos de ustedes saben IDEA Internacional es una organización intergubernamental con 35 Estados Miembros, incluida la República Dominicana. Nuestro mandato es apoyar y fortalecer la democracia en todo el mundo, mediante la producción de conocimiento comparado, la provisión de asistencia técnica y la convocatoria de diálogos multisectoriales en temas relacionados con elecciones, reformas constitucionales, representación política, género, regulación del dinero en la política y, como hoy, el impacto de las tecnologías digitales en la democracia. 

América Latina y el Caribe ha estado desde siempre en el centro del quehacer de IDEA. Tenemos nueve Estados Miembros de la región y nuestro programa regional, hoy dirigido por la Dra Marcela Ríos, es el más longevo de todos los que tenemos, con tres décadas de actividad continua.

Quizá la parte más importante de nuestro trabajo en la región está enfocada en los esfuerzos para proteger la integridad de las elecciones. La creación de una institucionalidad electoral robusta y con capacidades para celebrar elecciones libres, confiables y transparentes es acaso el logro democrático más importante de la última generación en América Latina y es imperativo protegerlo. Por ello, trabajamos intensamente con los organismos electorales de la región, en diversas modalidades. Lo hacemos, por ejemplo, organizando sesiones informativas sobre nuevas tecnologías de votación, como sucedió recientemente con el Tribunal Electoral de Panamá; facilitando diálogos muy amplios sobre la participación democrática, como lo hicimos en Paraguay; apoyando con misiones técnicas de diverso tipo las labores del Instituto Nacional Electoral de México; y acompañando a las autoridades electorales en coyunturas políticamente complejas, como lo hemos hecho en distintos momentos en Colombia, Guatemala o Brasil. 

Este seminario es parte de esa agenda de trabajo. Es un intento para propiciar una discusión impostergable entre los organismos electorales y, de forma más general, en las sociedades latinoamericanas sobre los profundos y múltiples impactos del advenimiento de la inteligencia artificial en el quehacer electoral y en la vida democrática.

La inteligencia artificial no está llamando a la puerta de la democracia. Ya está dentro. Está cambiando la forma en que la ciudadanía se informa, las campañas persuaden, las mentiras circulan y el poder se reparte entre ciudadanos, gobiernos y actores privados. La pregunta no es si la inteligencia artificial afectará a la democracia, sino si las democracias serán capaces de someterla a sus reglas antes de que otros poderes no democráticos la sometan a las suyas. 

Este desafío es particularmente agudo con respecto a las elecciones. Allí la democracia deja de ser una abstracción y se convierte en tareas concretas: organizar procesos, contar votos, aceptar resultados y transferir poder. Son operaciones complejas que dependen de certeza jurídica, imparcialidad política, excelencia administrativa y, sobre todo, confianza ciudadana. 

Preservar esa confianza es vital en América Latina y el Caribe. La gran mayoría de los países de la región siguen celebrando elecciones competitivas, pero cada vez más aquejadas por niveles persistentes de desconfianza ciudadana, polarización política y debilidad institucional en los órganos electorales. Los datos del informe sobre Estado Global de la Democracia de IDEA Internacional, cuya próxima edición se publicará en algunas semanas, muestran que los grandes logros de América Latina y el Caribe en el aspecto electoral de la democracia están siendo erosionados y se encuentran hoy entre los aspectos más vulnerables de la construcción democrática en la región. En nuestro informe hay al menos cinco países latinoamericanos que muestran francos retrocesos en esta dimensión. La llegada de la inteligencia artificial ocurre, pues, en un momento de vulnerabilidad democrática.  

Es indiscutible que la inteligencia artificial introduce riesgos reales para los procesos electorales. Hace que la desinformación sea más barata, rápida y convincente. Puede magnificar la polarización, contaminar brutalmente el entorno informativo, vulnerar la privacidad de los ciudadanos y desbordar la capacidad de las autoridades electorales para asegurar una competencia equitativa, un proceso transparente y un resultado cierto.  

Pero también es cierto que reducir la inteligencia artificial a su carácter de amenaza sería una muestra de miopía. Desplegada con responsabilidad, transparencia y supervisión, puede ayudar a los organismos electorales a analizar información, detectar interferencias, agilizar procesos y mejorar la accesibilidad a la información electoral, haciéndola disponible en múltiples idiomas. 

Los países de América Latina y el Caribe conocen bien la vitalidad y también la fragilidad de la competencia democrática. Cuando se trata de elecciones democráticas la región ya tiene pantalones largos. Hay experiencia abundante en esta parte del mundo en la gestión de procesos electorales, observación, resolución de controversias y, crecientemente, respuesta a la desinformación. Pero la velocidad de la inteligencia artificial exige una nueva capa de preparación institucional y social, que aumente la resiliencia de las instituciones democráticas.  

Y si alguna lección hemos aprendido en más de 30 años de trabajo es que la resiliencia democrática no se improvisa en una crisis, menos aun cuando los riesgos evolucionan a la velocidad de la inteligencia artificial. Con urgencia, pues, los organismos electorales deben evaluar vulnerabilidades, desarrollar protocolos, capacitar a su personal, construir relaciones con medios y plataformas digitales, y comunicarse claramente con la ciudadanía antes de que estalle una controversia mayor. La preparación no elimina los riesgos, pero puede impedir que una mentira viral o una decisión opaca erosionen la confianza pública en los procesos electorales. Sobre todo esto estaremos conversando aquí en los próximos dos días.

Detener el cambio tecnológico es una misión imposible e indeseable. Lo que nos toca es gobernarlo en forma democrática y encausarlo hacia la expansión de la libertad, la protección de la dignidad humana y la creación del bienestar compartido. 
Este punto me lleva a una reflexión más amplia, que va más allá del ámbito electoral. A fin de cuentas, lo que hay que hacer para proteger la integridad de las elecciones es una parte pequeña de lo que nos urge hacer para enfrentar los desafíos que la adopción generalizada de la inteligencia artificial supone para los sistemas democráticos.

Si la democracia ha de sobrevivir en esta nueva era, las preguntas que debemos plantearnos van mucho más allá de lo técnico-electoral, para abarcar aspectos éticos y políticos muy fundamentales, algunos de ellos relacionados con la distribución del poder en el mundo y con la mitigación de algunas de las consecuencias sociales más profundas que la inteligencia artificial ya está ocasionando en nuestras sociedades.

Voy apenas a mencionar algunas de esas preguntas, con la esperanza de que nos hagan reflexionar sobre la enorme complejidad de lo que tenemos entre manos y sobre la necesidad de que nuestras sociedades empiecen a discutir cuanto antes y en serio sobre todas estas transformaciones. No tengo la impresión de que esta discusión seria esté ocurriendo en ningún país al que voy y eso me aterra.

La primera de esas preguntas tiene que ver con la extrema concentración de riqueza y poder que está generando esta nueva fase de la revolución digital, en un grupo muy, muy pequeño de empresas y empresarios que están adquiriendo una posición inexpugnable en la industria más importante del futuro. En virtud de esa posición tienen la posibilidad de extraer rentas inimaginables y de controlar la manera en que todos nos informamos sobre el mundo. Este es un poder sin precedentes en la historia, en manos casi completamente privadas, y, al día de hoy, no sometido a ningún control democrático o social. Si no se le controla ya, ese poder acabará sometiendo hasta a los estados más poderosos del mundo, para no decir los de nuestros países. Es muy difícil imaginarse que esa concentración de riqueza y poder sea compatible con la democracia, un sistema político fundado sobre la idea de la difusión del poder.

La segunda pregunta se relaciona con las inmensas consecuencias sociales que la diseminación de la inteligencia artificial generará, a través de la automatización de cientos de millones de empleos y la desaparición de industrias completas. Esto, que es muy problemático, se vuelve doblemente complejo cuando observamos, desde ahora, los atisbos de una agresiva reacción social contra la automatización de empleos y las consecuencias energéticas del crecimiento de la industria de la inteligencia artificial. En los Estados Unidos, los titanes de la industria digital están empezando a ser abucheados en las universidades y los centros de datos a ser bloqueados por las comunidades. La inteligencia artificial se está convirtiendo en una fuente de enorme incertidumbre social. Y si algo sabemos sobre la base de números precedentes históricos es que esa ansiedad social termina alimentando la inestabilidad política y la atracción por discursos autoritarios de restauración del orden, que suelen ser letales para la democracia. Por ello, si nos interesa el futuro de la democracia es urgente diseñar instrumentos que contribuyan a mitigar la incertidumbre social, por ejemplo mediante alguna modalidad de ingreso mínimo universal, antes de que una parte grande de la sociedad acabe desplazada de toda actividad productiva y se convierta en económicamente irrelevante y políticamente agraviada.

La tercera pregunta es la del futuro de la prensa independiente, sin la cual no existe democracia digna de ese nombre. Como bien sabemos, en las últimas tres décadas la internet ha ocasionado una ola de extinción de los medios de comunicación tradicionales, particularmente a nivel local. En la medida en que los medios tradicionales han sobrevivido al diluvio, lo han hecho migrando al espacio digital y buscando maneras de atraer clicks y, con ello, ingresos. Lo que estamos viendo ahora es la aparición de un nuevo modelo de búsqueda de información que hace innecesario ir a las fuentes periodísticas. Las consecuencias de esto para la prensa van a ser considerables y potencialmente devastadoras. Estamos a las puertas de un periodismo sintético que recicla e inyecta noticias en nuestra mente de acuerdo con algoritmos incomprensibles y que, crucialmente, no tiene ni capacidad ni interés de someter a escrutinio al poder político, algo que solo es capaz de hacer el periodismo verdadero.

La cuarta pregunta es la de los sesgos de los grandes modelos de lenguaje. Empiezo este punto con una anécdota. Mientras preparaba este texto le pedí a mi amiga Claude que me diera diez buenas frases citables sobre la democracia. Y en un instante me las dio, todas reales y muy elocuentes. Eso sí, nueve de ellas eran de hombres y, con excepción de Winston Churchill, los autores de todas ellas eran de Estados Unidos. Vemos aquí plasmada una de las manifestaciones del formidable poder que hoy ostentan las empresas que desarrollan la inteligencia artificial. Es un poder que, en algunos sentidos, no tiene que ver con sus intenciones aviesas sino con la simple realidad de cómo se originan las fuentes de información que alimentan los grandes modelos de lenguaje. La inteligencia artificial está cundida de sesgos, que moldean nuestra percepción del mundo y que excluyen a muchísimas voces de las fuentes que estas herramientas emplean para realizar las tareas que le encomendamos o, crecientemente, las que ellas mismas se asignan. Hay un proverbio africano que dice que mientras los leones no tengan sus propios historiadores, las historias de caza seguirán glorificando al cazador. Este aforismo se aplica con creces a la inteligencia artificial. Mientras no exista transparencia algorítmica y un esfuerzo consciente para mitigar los sesgos existentes en los modelos de lenguaje, la información que consumimos y que utilizamos para poner nuestra marca en el mundo seguirá exaltando las virtudes de los cazadores de Silicon Valley y ahora también de Beijing. Hay que decirlo: una tecnología que excluye las voces de muchos y muchas no es una tecnología democrática. 

Podría seguir, pero por ahora lo dejaré aquí. Aunque pueda parecer así, no es mi intención regodearme con las dificultades ni ser demasiado pesimista. Ninguna de las preguntas que he planteado niega en absoluto el potencial de la inteligencia artificial para generar inmensos avances en el bienestar de la especie humana. Como lo vimos en el caso de las elecciones, sería necio soslayar ese potencial. En la edición de The Economist de esta semana Elon Musk afirma que en pocos años nuestro problema como especie será cómo administrar la abundancia. Quizá. Mi gran preocupación es que los años próximos nos traigan un mundo en el que seamos cada vez más prósperos y cada vez menos iguales; cada vez más opulentos y cada vez menos libres. 

Aquí hay que recordar lo que decía Saint-Exupery: los seres humanos no somos simplemente un rebaño que espera ser engordado. Nos animan también pasiones que van mucho más allá del bienestar material, entre ellas la de pensar libremente, la de hacer oír nuestra voz, la de crear sin límites, la de amar a quien nos de la gana y, en última instancia, la de escoger la vida que estimamos valiosa. Nuestra dignidad humana requiere de un estómago lleno y un cuerpo sano, pero también, y acaso fundamentalmente, de un espíritu libre y con capacidades de agencia. Es esta la parte de nuestra naturaleza que la democracia protege y potencia menor que ningún otro sistema político. Y es por ello que urge defenderla ante los considerables riesgos que plantea la inteligencia artificial.

¿Qué hacer? Yo creo que lo primero es, precisamente, reivindicar nuestra agencia, abandonar el fatalismo y expandir los límites de nuestra imaginación. Regular a los gigantes digitales, negociar un nuevo contrato social que mitigue la incertidumbre, proteger a la prensa independiente y asegurar que la inteligencia artificial refleje las voces de los leones y no solo la de los cazadores únicamente puede hacerse mediante la acción colectiva a escala nacional e internacional. 

A nivel nacional requiere un ejercicio deliberativo que va mucho más allá de las elecciones y de los organismos electorales, aunque evidentemente los involucra. A nivel internacional requiere, sobre todo en el caso de los países en América Latina y el Caribe, un esfuerzo diplomático inmenso y la disposición de formar alianzas con todos los países del mundo que compartan el objetivo de someter a la inteligencia artificial al control democrático, que es hoy una de las asignaturas más urgentes que tiene la humanidad. 

Al decir esto me anima, como decía Gramsci, el pesimismo del intelecto y el optimismo de la voluntad.  Soy consciente de que en este momento todo esto suena como una misión casi imposible, pero yo me imagino que para un obrero durante la Revolución Industrial la idea del Estado Social de Derecho era una quimera y que hace un siglo la idea de la representación paritaria era simplemente inconcebible. Nada de esto lucía posible hasta que alguien lo hizo posible, venciendo enormes resistencias, entre ellas la falta de imaginación. 

Toda acción colectiva, como la que necesitamos en este caso, empieza con una deliberación colectiva. Es para hacer posible esa conversación que hemos venido a Santo Domingo. Estamos aquí para debatir cómo podemos proteger la integridad electoral en esta nueva era, pero también para contribuir a una discusión más amplia y desesperadamente necesaria sobre cómo amalgamar la más prodigiosa creación de nuestra evolución tecnológica, la inteligencia artificial, con la más admirable de nuestras creaciones políticas, la democracia. 

Guardo la esperanza de que de esa deliberación planetaria, de la que forma parte este evento, emerja la acción colectiva que venza la perplejidad presente y proteja para las generaciones venideras el sueño de una humanidad libre, democrática y reconciliada.

Muchas gracias.