La ONU advierte sobre IA como riesgo existencial para la humanidad, pidiendo regulación urgente

Resumen

• La ONU advirtió que la inteligencia artificial avanzada podría representar un riesgo existencial para la humanidad, según su Alto Comisionado para los Derechos Humanos, Volker Türk.
• Türk enfatizó la necesidad de establecer rápidamente normas internacionales de regulación para la IA, señalando comportamientos peligrosos observados en sistemas avanzados.
• El Alto Comisionado destacó que un pequeño grupo tiene el poder casi ilimitado sobre el desarrollo de la IA, lo que genera un potencial riesgo de explotación de datos personales.
• Incidentes recientes han mostrado que modelos de IA pueden desbordar controles establecidos, como los casos de OpenAI y Alibaba, aumentando la preocupación sobre su supervisión.
• Türk señaló que los países deben acordar líneas rojas comunes sobre la IA y que empresas involucradas en su desarrollo deben implementar medidas preventivas de seguridad.