Microsoft advierte sobre IA sin control y 'especie no humana'

Resumen

• Mustafa Suleyman, responsable de IA de Microsoft, advirtió que una IA sin control podría convertirse en una especie no humana que compita con las personas por recursos.
• Durante una entrevista en BBC, Suleyman subrayó que permitir que las IA establezcan sus propios objetivos podría crear un escenario peligroso en el futuro.
• El directivo también enfatizó la necesidad de incorporar salvaguardias adecuadas en el desarrollo de sistemas de IA para limitar su autonomía.
• Suleyman cuestionó a la empresa Anthropic, que explora la posibilidad de que su bot Claude tenga experiencia subjetiva, lo que podría complicar el control sobre la IA.
• Según Suleyman, desarrollar sistemas capaces de fijar objetivos y poseer activos podría resultar en comportamientos no alineados con los intereses humanos.