Carta Iberoamericana de Inteligencia Artificial: Principios y claves para la Administración Pública
Por Gustavo
Di Paolo y Leopoldo Fidyka (ESEIAP)
Introducción:
La Carta Iberoamericana de Inteligencia Artificial en la Administración Pública surge como respuesta al impacto creciente de la Inteligencia Artificial en las sociedades y gobiernos. Reconoce que la IA es una tecnología disruptiva capaz de transformar la gestión pública, mejorar la calidad de los servicios y fortalecer la gobernanza.
La Carta establece principios y directrices comunes para que los países iberoamericanos incorporen la IA de manera ética, transparente y responsable, promoviendo la innovación sin descuidar la protección de derechos y la confianza ciudadana, fue aprobada el 20 de noviembre de 2023, durante la LIII Reunión del Consejo Directivo del Centro Latinoamericano de Administración para el Desarrollo CLAD desarrollada en la ciudad de Varadero, Cuba.
1. Consideraciones generales:
La Carta se organiza en cinco bloques que constituyen su estructura básica:
- Fundamentos: Define la visión y principios rectores para el desarrollo de IA en el sector público.
- Desarrollo conceptual: Explica conceptos clave, niveles de desarrollo, beneficios y riesgos de la IA en la administración pública.
- Principios generales: Incluye valores éticos como transparencia, justicia, responsabilidad, explicabilidad y enfoque centrado en las personas.
- Dimensiones clave: Áreas estratégicas para la adopción de IA (infraestructura tecnológica, ciberseguridad, interoperabilidad, capacidades institucionales, liderazgo público).
- Gobernanza: Propone estructuras y procesos para garantizar una implementación coherente, ética y alineada con los valores democráticos.
2. Propósitos
El instrumento ofrece una hoja de ruta a los países que forman parte del CLAD, para conocer los desafíos y oportunidades ligados a la aplicación de la Inteligencia Artificial y los algoritmos en el ámbito de las administraciones públicas. Estos tienen que ver con elementos administrativos y de gobernanza explorados de forma limitada, incluyendo aspectos tecnológicos, políticos, sociales, educativos o éticos.
Su objetivo principal promover un marco compartido de desarrollo de la Inteligencia Artificial (IA), desde y en las administraciones públicas del ámbito iberoamericano.
Entre sus fines se encuentran:
a) Definir unos fundamentos conceptuales y aplicados, de forma flexible en previsión de posibles cambios futuros, que permitan aprehender el alcance de la Inteligencia Artificial para mejorar la gobernanza y fomentar el buen gobierno dentro del ámbito iberoamericano.
b) Establecer un conjunto de principios que sirvan de orientación compartida en materia de Inteligencia Artificial en las administraciones públicas dentro de la comunidad iberoamericana.
c) Apoyar al personal de gobiernos y administraciones públicas generando conocimientos e informaciones compartidas que faciliten la incorporación de la Inteligencia Artificial en su ámbito laboral y en todas las actividades centradas en la mejora del servicio público.
d) Identificar un conjunto de dimensiones clave y orientaciones para la adopción y uso de la Inteligencia Artificial en todos los órganos e instituciones del Estado, desde una perspectiva integral y sistémica.
e) Ofrecer recomendaciones y orientaciones sobre el desarrollo de la Inteligencia Artificial desde las autoridades públicas, en línea con el resto de Cartas Iberoamericanas aprobadas con anterioridad, con el propósito de alcanzar una Gobernanza Inteligente.
3. Concepto de IA
La Carta ofrece un concepto de IA entendido como un tipo especial y disruptivo de tecnología de la información y comunicación (TIC), basada en la utilización de datos y algoritmos, capaz de generar capacidades y aprendizaje considerado autónomo y/o inteligente, así como desarrollar tareas habitualmente entendidas como humanas, centradas en la consecución de determinados objetivos, incluyendo diferentes ámbitos de aplicación, entre otros, la percepción, el razonamiento o la acción.
4. IA en la Administración pública
La Carta distingue la promoción de la IA “desde” y “en” la Administración Pública. Lo que significa que su potencial en relación con el Sector Público se focaliza en dos planos:
a) IA “en” la Administración Pública, que incluye todas aquellas acciones promovidas por gobiernos y administraciones públicas, a través de instrumentos normativos, de financiamiento, de capacitación, de conocimiento y otros, que tienen como objeto de aplicación y uso a las propias entidades gubernamentales y agencias públicas, incluyendo su propio personal y estructuras organizativas.
b) IA “desde” la Administración Pública, que incluye todas aquellas acciones promovidas por gobiernos y administraciones públicas, a través de instrumentos normativos, de financiamiento, de capacitación, de conocimiento y otros, que tienen como objeto de aplicación y uso a actores diferentes en otros sectores de la sociedad, la economía, la cultura, entre otros.
En ese marco, la Carta desarrolla aspectos orientados a la Inteligencia Artificial en la Administración Pública, si bien lo anterior no es incompatible con la atención a su promoción hacia otros sectores desde la Administración Pública.
5. Beneficios
Identifica un conjunto de potenciales beneficios asociados a la adopción y uso de la Inteligencia Artificial en el ámbito gubernamental, tanto para el propio sector público, como para la ciudadanía y la sociedad en su conjunto, con especial mención al ámbito iberoamericano.
a) Mejorar los procesos administrativos y servicios públicos basados en Inteligencia Artificial, para que estén centrados en las necesidades de las personas y resulten en una mayor flexibilidad, eficiencia y equidad.
b) Perfeccionar los procesos de toma de decisiones, de manera que se fundamenten en datos y evidencia, aumentando la precisión, la rapidez, el volumen, la variedad y el valor público.
c) Promover la cooperación interadministrativa e intergubernamental, de cara a lograr una mayor interoperabilidad de datos e información, así como una visión más holística de la acción pública.
d) Desarrollar la transparencia y el combate más eficaz contra la corrupción mediante sistemas de Inteligencia Artificial, de cara a mejorar la rendición de cuentas pública, privada y de la ciudadanía en general, y lograr un mejor gobierno.
e) Profundizar en las dinámicas participativas basadas en algoritmos éticos para lograr políticas públicas más inclusivas, sumando a una mayor cantidad de personas y grupos sociales en los asuntos públicos.
f) Avanzar en la colaboración con la ciudadanía para resolver problemas públicos complejos, haciendo converger las inteligencias institucional, colectiva y artificial.
g) Lograr una mayor confianza y legitimidad en las instituciones públicas por parte de la ciudadanía, mediante la acción conjunta del mayor número posible de ámbitos de mejora.
h) Reforzar los sistemas democráticos mediante un uso responsable de los algoritmos y sistemas de Inteligencia Artificial, a través de una orientación hacia el bien común.
6. Desafíos
Identifica un conjunto de potenciales desafíos asociadas a la adopción y uso de la IA en el ámbito gubernamental que la Carta señala y pretende minimizar:
a) Eliminar los sesgos de género, etnia, religión, así como cualquiera otra característica de los seres humanos que pueda manifestarse en los datos e información que nutren los sistemas de Inteligencia Artificial.
b) Impedir la opacidad algorítmica en los servicios y decisiones públicas automatizadas, mediante la monitorización y auditoria de los algoritmos en cada uno de los momentos de su ciclo de vida, desde su diseño hasta su evaluación, para evitar efectos caja negra y contener limitaciones a la explicabilidad y rendición de cuentas.
c) Mitigar los impactos de la transición de funciones y tareas hacia robots y drones, mediante el desarrollo de capacidades laborales adecuadas para las personas, logrando una convivencia armoniosa entre éstas y máquinas.
d) Corregir el control invasivo en el puesto de trabajo de las personas servidoras públicas, a través de una adecuada regulación de los algoritmos en todos los aspectos de las relaciones laborales.
e) Imposibilitar la vulneración de derechos fundamentales como consecuencia de decisiones basadas en algoritmos, a través de la rendición de cuentas en todos los procesos en que se lleven a cabo y en cada una de las acciones que se justifiquen en su funcionamiento.
f) Reducir las brechas digitales y los riesgos de exclusión social y económica derivados de la generalización de tecnologías emergentes, dando prioridad a la capacitación de las personas y la educación en todos los niveles de edad.
g) Evitar los efectos no deseados del uso de los sistemas de Inteligencia Artificial, anticipando los dilemas éticos en ámbitos especialmente sensibles
o con alto riesgo en el sector público.
h) Reducir la desconfianza de la ciudadanía en su interacción con máquinas que actúen para las administraciones públicas, facilitando la sencillez, claridad y comprensibilidad de las actuaciones.
i) Garantizar los derechos de los seres humanos en su interacción con las neurotecnologías, estableciendo los controles necesarios de los dispositivos y sistemas utilizados en cada caso, y analizando las consecuencias de la ampliación de capacidades mentales y físicas (transhumanismo).
j) Fiscalizar la independencia de las autoridades públicas respecto de corporaciones privadas en la creación, desarrollo, implementación y evaluación de modelos algorítmicos y sistemas de Inteligencia Artificial. k) Impedir el uso de la Inteligencia Artificial para erosionar los sistemas democráticos, sobre todo, vigilando la utilización de algoritmos diseñados para difundir noticias falsas, promover la desinformación o la información maliciosa.
El reconocimiento de los mencionados desafíos, y otros que puedan surgir en el futuro, asociados a la Inteligencia Artificial se debe acomodar a las realidades nacionales y de los
diferentes contextos administrativos en los que se implante. Las autoridades nacionales responsables, en línea con esta Carta, deben ayudar a anticipar y minimizar los potenciales efectos no
deseados y riesgos derivados de su uso en el conjunto del Sector Público, así como en otros actores y sectores de la sociedad.
7. Principios
La Carta asume la necesidad de promover una serie de principios orientadores en el desarrollo de la IA en la Administración Pública, que puedan ser compartidos por todos los países
de la región, los que están sustentados en los derechos humanos como fundamento para una IA centrada en las personas, confiable, robusta y orientada a la innovación, incluyendo el respeto de la
dignidad humana, la libertad individual, la igualdad y no discriminación, el respeto a la democracia y el estado de derecho, la libertad de pensamiento, conciencia y opinión, el derecho a la
educación, así como a tener buenos gobiernos y administraciones públicas.
Los principios que se sostienen en una dimensión ética de la IA en la Administración Pública, lo que supone un reconocimiento explícito de la necesidad de marcos de evaluación de la vertiente ética de las diferentes dimensiones en las que se fundamenta esta Carta, de forma que se puedan explicitar sus implicaciones en los derechos humanos y libertades fundamentales.
Los principios orientadores son los siguientes:
a) Principio de autonomía humana.
b) Principio de transparencia, trazabilidad y explicabilidad
c) Principio de rendición de cuentas, responsabilidad y auditabilidad.
d) Principio de seguridad y robustez técnica.
e) Principio de fiabilidad, precisión y reproductibilidad.
f) Principio de confianza, proporcionalidad y prevención del daño.
g) Principio de privacidad y protección de los datos personales.
h) Principio de calidad e integridad de los datos.
i) Principio de equidad, inclusividad y no-discriminación.
j) Principio de centralidad de las personas, valor público y responsabilidad social.
k) Principio de sostenibilidad y protección ambiental.
8. Dimensiones clave
Los principales ámbitos que deben considerarse para una adopción responsable y efectiva de la IA en el sector público son:
a. Estrategias Nacionales
- Definir políticas públicas que integren la IA en la administración, alineadas con objetivos de desarrollo sostenible y principios éticos.
- Impulsar planes nacionales que articulen tecnología, gobernanza y participación ciudadana.
b. Infraestructura Tecnológica
- Garantizar la disponibilidad de plataformas, sistemas y conectividad para implementar soluciones basadas en IA.
-
Incorporar mecanismos robustos de ciberseguridad para proteger datos y procesos.
c. Gobernanza de Datos
- Establecer marcos para la gestión, interoperabilidad y calidad de datos, asegurando transparencia y trazabilidad.
- Promover estándares abiertos y cooperación interadministrativa.
d. Capacidades Institucionales
- Desarrollar competencias analíticas y digitales en el personal público.
- Fomentar liderazgo adaptado a entornos digitales y algoritmos.
e. Ética y Regulación
- Crear marcos normativos que garanticen explicabilidad, rendición de cuentas y respeto a derechos humanos.
- Incorporar mecanismos para prevenir sesgos y asegurar inclusión social.
f. Participación y Control Social
- Involucrar a la sociedad civil, academia y sector privado en la co-creación de políticas y en la supervisión del uso de IA.
- Garantizar un espacio cívico digital para la deliberación y control democrático.
9. Perspectivas
La aprobación de la Carta Iberoamericana de IA en la Administración Pública marca un hito en la región, pero su verdadero impacto dependerá de cómo se proyecte hacia el futuro. Este instrumento no debe quedar como una declaración de principios, sino convertirse en una guía operativa que transforme la manera en que los Estados gestionan la tecnología y garantizan derechos.
En primer lugar, la Carta plantea la necesidad de institucionalizar la IA en la gestión pública, lo que implica que los países adopten estrategias nacionales coherentes con los principios éticos y democráticos que el documento establece. Sin esta integración normativa y estratégica, la IA corre el riesgo de ser utilizada de forma fragmentada, sin control social ni rendición de cuentas.
Asimismo, el futuro de la Carta está ligado a la creación de marcos regulatorios específicos que aseguren transparencia, explicabilidad y gobernanza algorítmica. Por ello, la Carta se proyecta como un punto de partida para leyes que regulen el uso de algoritmos en decisiones públicas, garantizando trazabilidad y responsabilidad institucional.
Otro aspecto clave es el fortalecimiento de capacidades institucionales. La IA no puede ser implementada sin funcionarios preparados para comprender sus riesgos y potencialidades. La Carta anticipa la necesidad de programas de formación masiva y la creación de laboratorios de innovación pública que permitan experimentar con soluciones tecnológicas bajo principios éticos.
Finalmente, las perspectivas futuras incluyen la cooperación internacional y la evaluación permanente. La Carta se alinea con agendas globales como los Objetivos de Desarrollo Sostenible y la Nueva Agenda Digital Iberoamericana, lo que abre la puerta a estándares comunes y métricas regionales para medir impacto. Sin mecanismos de monitoreo, la adopción de IA podría profundizar desigualdades en lugar de reducirlas.
Por lo tanto, este instrumento puede ser visto como el inicio de un proceso que exige compromiso político, recursos y participación ciudadana. Su éxito dependerá de convertir principios en acciones concretas que garanticen un uso responsable, inclusivo y transparente de la IA en la administración pública.
En suma, la Carta Iberoamericana de Inteligencia Artificial en la Administración Pública se erige como un marco de referencia regional que orienta la incorporación de la IA en los Estados iberoamericanos bajo principios éticos y jurídicos compartidos. Su propósito es garantizar que la innovación tecnológica fortalezca la gobernanza democrática y la confianza ciudadana, promoviendo al mismo tiempo la cooperación y el aprendizaje colectivo en el ámbito de la transformación digital del sector público.