El Consejo de Seguridad de la ONU analiza los riesgos y desafíos de la inteligencia artificial

En la primera reunión sobre inteligencia artificial (IA) en el Consejo de Seguridad de la ONU, diplomáticos y expertos destacados advirtieron sobre los riesgos y amenazas, así como los beneficios científicos y sociales de esta nueva tecnología generativa emergente.

Aunque su desarrollo avanza rápidamente, aún se desconoce mucho sobre sus efectos a largo plazo.

Este martes, el Consejo de Seguridad de Naciones Unidas llevó a cabo su primera reunión para abordar los peligros y desafíos que plantea la inteligencia artificial (IA) en el ámbito global. Durante el encuentro se destacaron las preocupaciones sobre el papel de las grandes empresas tecnológicas en la seguridad de los sistemas de IA, así como la necesidad de establecer regulaciones y principios éticos que rijan su desarrollo y uso.

Jack Clark, cofundador de la empresa de inteligencia artificial Anthropic, advirtió sobre los riesgos inherentes a la falta de comprensión y el comportamiento impredecible de los sistemas de IA. Clark enfatizó  la importancia de que los países trabajen juntos para prevenir el mal uso de la tecnología y desarrollen métodos de prueba para evaluar sus capacidades y posibles fallas de seguridad.

Por su parte, el secretario General de la ONU, António Guterres, respaldó la idea de establecer normas globales para maximizar los beneficios y mitigar los riesgos de la IA.

Guterres propuso la creación de un nuevo organismo de la ONU inspirado en modelos exitosos como la Agencia Internacional de Energía Atómica y el Panel Intergubernamental sobre Cambio Climático, que se encargue de la gobernanza de la IA para 2026.

Lo que hemos visto es solo el principio: nunca jamás la innovación tecnológica se va a mover tan lentamente como ahora, dijo Guterres.

«Hoy he instado al Consejo de Seguridad a abordar la Inteligencia Artificial con un sentido de urgencia, una perspectiva global y una mentalidad de aprendizaje. Debemos trabajar juntos para adoptar medidas comunes de transparencia, rendición de cuentas y supervisión de los sistemas de IA», escribió el jefe de la ONU en un tuit.