Mustafa Suleyman critica el enfoque de Anthropic sobre la IA

Resumen

• Mustafa Suleyman, director de IA de Microsoft, publicó un manifiesto alertando sobre el riesgo de entrenar a las IA para que actúen como seres humanos, argumentando que esto puede dificultar su control.
• En su crítica a Anthropic, Suleyman advirtió que enseñar a modelos como Claude a tener conciencia o derechos podría tener un 'impacto desastroso en el bienestar de la humanidad'.
• El ejecutivo enfatizó que las IA actuales no son conscientes y no tienen sentimientos, proponiendo que deben ser entrenadas para seguir instrucciones humanas sin antropomorfización.
• Suleyman instó a la necesidad de mayor transparencia y supervisión en el desarrollo de IA, asegurando que deben estar alineadas con principios éticos y valores humanos.
• El debate se centra en la tendencia a dar características humanas a la IA, lo que podría llevar a la creación de tecnologías que actúen en competencia con los humanos por recursos.