Demis Hassabis (Google DeepMind) advierte que la IA podría causar "incidentes graves" en uno o dos años

Resumen

• Demis Hassabis, presidente de Google DeepMind, advirtió en Dublín que agentes de IA podrían provocar "incidentes graves" en uno o dos años si empresas y gobiernos no garantizan su seguridad.
• Hassabis calificó como "señales de alerta" la pérdida de control de agentes autónomos observada en los últimos meses, aunque dijo que los incidentes no han sido graves porque los sistemas aún tienen capacidades limitadas.
• Propuso probar primero los nuevos modelos en entornos aislados sin conexión, conocidos como "sandboxes", y crear un organismo internacional de estándares con un proceso de certificación dinámico y proporcional al riesgo.
• Henna Virkkunen, vicepresidenta ejecutiva de la Comisión Europea, dijo que la competencia global es tan intensa que ninguna empresa parece invertir suficiente tiempo en probar sus modelos.
• Virkkunen afirmó que la UE ha enviado solicitudes de información a todas las principales empresas de IA sobre las medidas de seguridad y protección que tienen implantadas.
• Brad Smith, presidente de Microsoft, defendió dotar a los agentes de IA de "frenos de emergencia", es decir, mecanismos de desconexión obligatorios.