El pasado 26 de agosto, la Asamblea General de las Naciones Unidas aprobó la resolución A/RES/79/325, mediante la cual se dispone: (i) conformar un grupo de cuarenta expertos sobre gobernanza en inteligencia artificial (IA) y, (ii) el diálogo global sobre el mismo tema; grupos que deberán estar integrados por miembros de países desarrollados y en desarrollo, observar cuestiones de género, principios de gobernanza, entre otros puntos importantes. Consideramos que esta resolución no solo es un hito significativo en el esfuerzo global por establecer marcos robustos y colaborativos para el desarrollo y uso benéfico de la IA, sino que también sienta las bases para una estructura de gobernanza informada y participativa a escala internacional. Veamos en los siguientes apartados de que se trata.
- Asunto principal de la resolución
La citada resolución 79/325, se centra en el mandato y las modalidades para el establecimiento y funcionamiento de dos mecanismos cruciales dentro del ecosistema de la gobernanza global de la IA: el Panel Científico Internacional Independiente sobre IA y el Diálogo Mundial sobre la Gobernanza de esta. Iniciativa que encuentra su origen en la resolución previa 79/1, titulada “El Pacto para el Futuro”, y su anexo, el “Pacto Digital Global”, donde la Asamblea General decidió la creación de estos cuerpos.
Un aspecto fundamental y explícitamente delimitado en la resolución es que tanto su propio alcance como las actividades del Panel y del Diálogo se limitan estrictamente al ámbito no militar y no abordan la IA con fines militares. Este enfoque estratégico permite concentrar los esfuerzos en los desafíos y oportunidades civiles, éticas y socioeconómicas de la IA, promoviendo un desarrollo y despliegue responsable a nivel global sin incursionar en cuestiones de seguridad y defensa, que se rigen por otros marcos.
- Objetivos a alcanzar
La resolución define objetivos claros y ambiciosos para ambos mecanismos, diseñados para fomentar la comprensión científica, la cooperación internacional y el desarrollo equitativo de la IA:
2.1. Establecimiento y operación del Panel Científico Internacional Independiente
La Asamblea General ha establecido este Panel de carácter multidisciplinar y con representación geográfica equilibrada en el seno de las Naciones Unidas, mismo que estará compuesto por cuarenta miembros que actuarán a título personal con un mandato de tres años. Sus objetivos específicos incluyen:
Evaluaciones científicas empíricas: La tarea principal del PCIIIA es emitir evaluaciones científicas empíricas que sinteticen y analicen la investigación existente relacionada con las oportunidades, los riesgos y las repercusiones de la IA. Esto se materializará en un informe resumido anual que será pertinente para las políticas, pero no prescriptivo, y podrá incluir los resúmenes temáticos que el Panel considere necesarios.
Liderazgo y estructura interna: El Panel elegirá dos copresidentes de entre sus miembros, uno de un país desarrollado y otro de un país en desarrollo, y un máximo de tres vicepresidentes, prestando atención al equilibrio geográfico y de género. Además, tendrá la flexibilidad de establecer grupos de trabajo según las necesidades y de consultar de manera oficiosa a expertos externos.
Información y presentación de informes: Se prevé que el Panel proporcione información actualizada sobre su labor hasta dos veces al año a la Asamblea General, a través de un diálogo interactivo del pleno con sus Copresidentes. Su informe anual se presentará en el Diálogo Mundial sobre la Gobernanza de la IA, asegurando una integración entre ambos mecanismos.
2.2. Establecimiento y operación del Diálogo Mundial sobre la Gobernanza de la IA (DMGA):
Paralelamente, la resolución establece el Diálogo Mundial sobre la Gobernanza de la IA como una plataforma inclusiva dentro de las Naciones Unidas para la participación activa de los Gobiernos y todas las partes interesadas pertinentes. Los objetivos de este Diálogo son multifacéticos y buscan una discusión amplia y constructiva:
Fomento de la cooperación y el intercambio: Actuar como un foro esencial para debatir la cooperación internacional, intercambiar las mejores prácticas y la experiencia adquirida, y facilitar debates abiertos, transparentes e inclusivos sobre la gobernanza de la IA.
Contribución a los ODS y reducción de brechas digitales: Un objetivo primordial es asegurar que la IA contribuya a la consecución de los Objetivos de Desarrollo Sostenible y a cerrar las brechas digitales tanto entre países como dentro de ellos. Esto incluye el uso de la IA como motor de desarrollo y equidad.
Áreas temáticas clave de discusión: El DMGA abordará aspectos cruciales y contemporáneos de la IA, tales como:
- El desarrollo de sistemas de IA seguros y fiables.
- Las carencias de capacidad, con el fin de aprovechar los mecanismos existentes para apoyar la creación de capacidad en IA, reducir las disparidades en este ámbito, facilitar el acceso a las aplicaciones de IA y aumentar la capacidad de computación de alto rendimiento y destrezas afines en los países en desarrollo.
- Las implicaciones sociales, económicas, éticas, culturales, lingüísticas y técnicas de la IA.
- La interoperabilidad y compatibilidad de los enfoques de gobernanza de la IA, promoviendo la armonización y el entendimiento mutuo.
- El respeto, la protección y la promoción de los derechos humanos en el ámbito de la IA. La transparencia, la rendición de cuentas y una estricta supervisión humana de los SIA, de modo compatible con el derecho internacional.
- El desarrollo de programas informáticos de código abierto, datos abiertos y modelos de IA abiertos, fomentando la innovación y la accesibilidad.
- Principios que se deben observar para cumplir los objetivos de la resolución
Para asegurar la eficacia y legitimidad de los mecanismos establecidos y el cumplimiento de sus ambiciosos objetivos, la resolución 79/325 establece una serie de principios rectores que deben observarse rigurosamente:
3.1. Independencia científica, credibilidad y rigor: Estos son los pilares fundamentales para el trabajo del Panel Científico Internacional Independiente sobre IA. Sus evaluaciones deben estar guiadas por la objetividad y la calidad de la investigación existente, sin influencias externas que comprometan su imparcialidad. Los candidatos a miembros deben proporcionar información completa sobre cualquier conflicto de intereses (financieros, profesionales, personales) que pueda afectar su imparcialidad o independencia, y se exige un compromiso de participación sustancial para garantizar la independencia científica y la integridad.
3.2. Multidisciplinariedad y perspectiva interdisciplinaria: El Panel debe ser de carácter multidisciplinar y sus miembros seleccionados sobre la base de su destacada experiencia en IA y campos afines, incorporando una perspectiva interdisciplinaria. Esto garantiza una comprensión holística y completa de la IA y sus complejas repercusiones.
3.3. Participación inclusiva y equilibrio geográfico y de género: La representación geográfica equilibrada es un requisito explícito para la composición del Panel de cuarenta miembros. La selección de los copresidentes y vicepresidentes del Panel también debe tener en cuenta el equilibrio geográfico y de género. La convocatoria para miembros buscará una amplia representación de diversos niveles de desarrollo tecnológico, incluyendo países en desarrollo, y garantizará que no se seleccionen más de dos candidatos de la misma nacionalidad o afiliación, ni empleados del sistema de la ONU.
3.4. Para el diálogo: Se concibe como una plataforma con la participación de Gobiernos y todas las partes interesadas pertinentes, promoviendo debates abiertos, transparentes e inclusivos. Se alienta a apoyar el funcionamiento del Panel y del Diálogo, incluyendo la facilitación de la participación de representantes y partes interesadas de países en desarrollo, a través de contribuciones voluntarias hechas públicas para una total transparencia.
En el ámbito de la contribución global y sostenibilidad, la labor conjunta del Panel y del Diálogo está diseñada para contribuir a fundamentar y a mejorar las iniciativas de creación de capacidad en materia de IA a nivel global. Se alienta a los organismos especializados, fondos y programas, y otras entidades del sistema de las Naciones Unidas a considerar las contribuciones de estos mecanismos para aprovechar las oportunidades y abordar los desafíos en la cooperación internacional para la creación de capacidad en IA.
- Comentario final
En definitiva, esta resolución representa un compromiso significativo de la comunidad internacional para abordar la IA de manera proactiva, informada y colaborativa, sentando las bases para una gobernanza global efectiva, ética y equitativa que sirva a los intereses de toda la humanidad. Ojalá sea también la iniciativa dé donde nazca la emisión de un tratado internacional sobre IA, pues las directrices simplemente éticas o de soft law, son insuficientes ante sus impactos negativos, como ya lo hemos comentado en otro lado.[1]https://surl.li/zztcwy Ya es tiempo de que el mundo digital y su tecnología más disruptiva, con consecuencias aún desconocidas, este controlada por un cuerpo normativo vinculante para todos los países. Lógicamente, esta no es la única solución, pero si una herramienta importante.
[1] Saulo Jaramillo Romero, «Los principios del Derecho de la inteligencia artificial. Una propuesta de hard law», Revista CAP Jurídica Central 9, n.o 16 (2025): 6-20, doi:10.29166/cap.v9i16.8497.