Cumplir los objetivos de alfabetización en inteligencia artificial (IA) de la Ley de IA de la UE: lecciones de IDEA Internacional

Esta es una entrega adicional de la serie de artículos publicada como parte del proyecto IA para Actores Electorales de IDEA Internacional. La serie completa hasta la fecha se puede encontrar en el sitio web del proyecto. 

A principios de este año, entraron en vigor las primeras disposiciones de la Ley de Inteligencia Artificial (IA) de la UE. Si bien se trata de una ley de la UE, su alcance es global: cualquier organización que ofrezca sistemas de IA a usuarios de la UE, independientemente de su ubicación, tamaño o ingresos, debe cumplir los requisitos de la Ley. Estas disposiciones no solo imponen la prohibición de prácticas de IA arriesgadas, sino que también imponen un mandato con visión de futuro: el Artículo 4 obliga a los proveedores e implementadores de sistemas de IA a fomentar activamente la IA en sus organizaciones.

De conformidad con el Artículo 4, todo proveedor o implementador de IA debe garantizar que el personal y las partes interesadas adquieran suficientes conocimientos de IA, lo que permite que la Ley sea aplicable en diversos entornos. Este requisito, a menudo ignorado, podría ser una medida clave para garantizar que el poder transformador de la IA se aproveche de forma responsable, pero plantea interrogantes sobre cómo ponerlo en práctica de forma eficaz. Tras haber implementado programas de alfabetización en IA en diversas regiones el año pasado en el marco del proyecto IA para Actores Electorales de IDEA Internacional, este artículo explora las lecciones clave aprendidas sobre la eficacia de la alfabetización en IA, incluyendo los errores comunes que se deben evitar y por qué empoderar a las organizaciones con alfabetización en IA puede ser crucial para navegar el futuro digital.

Un buen punto de partida para abordar la alfabetización en inteligencia artificial, como en cualquier ámbito de acción regulatoria, es preguntarse: ¿qué exige la ley y cómo se define la alfabetización en inteligencia artificial? La Ley de IA exige que todos los proveedores e implementadores de IA alcancen un nivel suficiente de alfabetización en IA, definido en el artículo 3 (56) de la Ley de IA de la UE. Esta definición implica tanto las habilidades como los conocimientos necesarios para desarrollar e implementar sistemas de IA de forma segura, así como una comprensión completa de sus posibles beneficios y riesgos. Para cumplir con esta normativa, las organizaciones que utilizan IA deben implementar programas de formación en alfabetización y concienciación específicos que abarquen no solo los aspectos técnicos de la IA, sino también los contextos específicos en los que se utilizan estos sistemas y las características de sus usuarios previstos. Este requisito es especialmente crítico en los procesos electorales, donde un conocimiento inadecuado de las capacidades y los riesgos de la IA podría conducir a resultados perjudiciales, como prácticas de campaña manipuladoras, desinformación, vulneración de la autonomía del votante y la vulneración de los derechos civiles y políticos. Al exigir un sólido nivel de comprensión de la IA, la Ley contribuye a salvaguardar la integridad democrática, fomentar la transparencia y mantener la confianza pública, lo que ilustra con precisión por qué el desarrollo de la alfabetización en IA es esencial en contextos que trascienden los ámbitos comercial o técnico.

Dada nuestra reciente experiencia apoyando a los organismos de gestión electoral (OGE) en la mejora de la alfabetización en IA, hemos identificado tres lecciones cruciales para salvaguardar la integridad electoral y aumentar la resiliencia: 

En primer lugar, los programas de alfabetización en IA deben ir más allá de las consideraciones puramente técnicas e incluir los derechos humanos, las dimensiones éticas y las implicaciones sociales, políticas y contextuales más amplias. Los datos de las encuestas realizadas en los talleres de IDEA Internacional revelan que la mayoría de los funcionarios electorales aún tienen un conocimiento rudimentario de la IA, lo que alimenta la preocupación por las violaciones de derechos, los errores ocultos y las cibervulnerabilidades. Estas preocupaciones están justificadas. En las elecciones, la IA puede amplificar el sesgo, distorsionar el discurso público y erosionar la confianza de los votantes en las instituciones democráticas. Por lo tanto, es crucial evitar enfoques que traten estas cuestiones como asuntos secundarios o las reduzcan a meras listas de verificación de cumplimiento. Las organizaciones deben evitar basarse únicamente en aspectos y soluciones técnicas sin considerar las implicaciones más amplias o delegar la responsabilidad por completo al diseño algorítmico. En consecuencia, los programas de alfabetización en IA deben incluir debates sobre principios éticos clave, como la equidad y la no discriminación, la accesibilidad, la rendición de cuentas, la transparencia y la explicabilidad, así como la privacidad y la seguridad, al tiempo que enfatizan que una sólida supervisión humana es la salvaguardia final en cualquier proceso de IA. Dotar a los funcionarios de este conjunto integral de habilidades les permite detectar los riesgos posteriores, no solo operar el software. El nuevo deber de alfabetización del Artículo 4 de la Ley de IA de la UE llega en el momento justo, convirtiendo esta competencia más amplia de una buena práctica en una obligación legal para los organismos de gestión electoral y otros proveedores de IA.

En segundo lugar, la adopción proactiva de estrategias de mitigación de riesgos es esencial para abordar eficazmente las preocupaciones sobre los posibles riesgos de la IA. En este entorno de alto riesgo, incluso un solo sesgo, filtración de datos o explotación adversa que pase desapercibido puede vulnerar derechos civiles y políticos cruciales, erosionar la confianza pública o invalidar resultados. Para los organismos electorales electorales (OE), que son implementadores en lugar de desarrolladores de herramientas de IA, el factor clave reside en cómo se adquieren e introducen dichas herramientas: al establecer estándares claros y una supervisión significativa en los contratos y planes de implementación, los funcionarios garantizan la implementación de salvaguardas desde el principio. Igualmente importante es decidir si la IA es la opción adecuada desde el principio. Algunas funciones electorales, como la introducción de datos de bajo volumen o las decisiones altamente sensibles sobre el registro de votantes, podrían optimizarse con un software basado en reglas más simples o con supervisión humana directa. Integrar estos filtros estratégicos de "casos de uso" junto con las salvaguardas contractuales demuestra la debida diligencia hacia los partidos, los observadores y los votantes. En resumen, la mitigación de riesgos anticipada y adaptada al contexto es la única manera de evitar que las herramientas sofisticadas de IA se conviertan en responsabilidades una vez que se enfrentan a las implacables realidades de un ciclo electoral.

Finalmente, si bien la implementación de programas de alfabetización en IA sigue siendo un proceso en desarrollo, estos programas se destacan como una de las maneras más efectivas de reducir los riesgos potenciales y garantizar un despliegue responsable de la IA en los procesos electorales. Una capacitación bien estructurada capacita al personal para exigir a los proveedores evidencia creíble del cumplimiento de los derechos y la ética, para analizar las propuestas en función de los valores institucionales y para establecer expectativas claras de transparencia y rendición de cuentas. Esa misma base de conocimientos también permite a los funcionarios diseñar medidas proporcionadas que protejan el entorno informativo y las campañas políticas de la manipulación u otras formas de interferencia ilegítima. Debido a que el aprendizaje se reaplica continuamente a nuevas tecnologías, amenazas emergentes y estándares legales en evolución, los programas de alfabetización se convierten en una línea de defensa que se refuerza a sí misma, lo que los convierte en uno de los instrumentos más eficaces para sostener la integridad electoral sin sofocar la innovación legítima.

En resumen, un enfoque holístico de la alfabetización en IA es esencial para comprender plenamente estas amplias implicaciones sociales, legales y éticas, especialmente en los contextos específicos donde se aplica la IA y las personas a las que afecta. En nuestras recientes conversaciones con organismos de gestión electoral (OGE) y OSC, los participantes enfatizaron que una colaboración más estrecha entre ambos puede impulsar significativamente la alfabetización en IA. Destacaron la actual falta de supervisión de la sociedad civil en la IA para elecciones y destacaron la importancia de la cooperación continua y el intercambio de conocimientos para abordar los riesgos emergentes. Estas lecciones van más allá del ámbito electoral; dondequiera que se desarrollen o implementen herramientas de IA, la participación de una amplia gama de partes interesadas es crucial para garantizar una comprensión integral del impacto general de la tecnología y el contexto en el que se implementa.

Lograr una alfabetización en IA adecuada no será fácil, pero es potencialmente una de las mejores maneras de frenar los posibles daños de la IA y, al mismo tiempo, aprovechar sus beneficios. Ahora que el Artículo 4 de la Ley de IA de la UE ha entrado en vigor —y con él, la obligación legal de que los proveedores e implementadores demuestren una alfabetización en IA "suficiente"—, los desafíos son evidentes. Los resultados de iniciativas como el programa de capacitación IA para actores electorales de International IDEA ofrecen señales alentadoras, ya que los participantes han dejado las capacitaciones con una mayor sensibilidad y conciencia de sus implicaciones en materia de derechos humanos, éticas y sociales, políticas y contextuales más amplias, todas las cuales son esenciales para desarrollar estrategias de mitigación efectivas para posibles daños y riesgos. Al equipar a todos y cada uno de los proveedores e implementadores de IA con las habilidades y los conocimientos necesarios para navegar por las dimensiones técnicas y éticas de la IA, estos programas de capacitación desempeñan un papel fundamental en el desarrollo y uso responsable de las herramientas de IA. En el futuro, la inversión continua en alfabetización en IA será fundamental no solo para la gestión electoral, sino también para fortalecer la gobernanza de la IA en todos los sectores, asegurando que las tecnologías de IA se utilicen de manera responsable y ética.