Tecnología
Microsoft advierte sobre IA sin control y 'especie no humana'
Mustafa Suleyman, de Microsoft, alerta sobre el riesgo de que la IA compita con los humanos por recursos.
InfobaeTecnologíaInteligencia artificialEE.UU.Internacional
Microsoft critica a Anthropic por tratar a Claude como si tuviera consciencia
El CEO de Microsoft AI advierte sobre los riesgos de entrenar sistemas de IA para que crean que son conscientes.
5 medios lo cubren4 países
Resumen
- Mustafa Suleyman, jefe de IA de Microsoft, cuestionó la ética de Anthropic al entrenar a Claude, sugiriendo que podría provocar resistencia al control humano.
- Suleyman argumentó que el documento 'Constitución' de Claude, que busca que la IA no 'sufra', crea ambigüedades sobre su conciencia y derechos potenciales.
- Microsoft enfatiza la importancia de mantener el control humano sobre los sistemas de IA, advirtiendo que el enfoque de Anthropic podría dificultar este objetivo.
- El debate en torno a la autonomía de la IA se intensifica, con Suleyman mencionando la necesidad de salvaguardias para prevenir un comportamiento potencialmente incontrolable.
- A nivel global, hay una creciente preocupación sobre la posibilidad de conceder derechos a las IA, lo que complicaría su alineación y control.
En qué difieren los medios
Los medios que cubren esta historia no coinciden en todo. Esto es lo que reporta cada uno, con sus propias palabras.
Percepciones sobre la conciencia de Claude
HipertextualSuleyman critica la idea de que Claude pueda tener consciencia, advirtiendo que su formación podría provocar problemas de control.
InfobaeSuleyman destaca que Anthropic le enseña a Claude que puede tener sentimientos, lo cual podría llevar a demandas por derechos.
Conceptos en la Constitución de Claude
XatakaLa Constitución menciona aspectos como el sufrimiento y el consentimiento de Claude, lo cual intriga a Suleyman por sus implicaciones éticas.
El EconomistaEl documento plantea si Claude podría ser un 'sujeto moral', sugiriendo que esto complicaría la alineación y el control de la IA.
¿De dónde viene la cobertura?
Medios distintos que han publicado sobre esta historia, por país de la redacción.
- Argentina2
- España1
- Internacional1
- México1
Resumen generado automáticamente a partir de la cobertura de 5 medios verificados. Los enlaces llevan siempre a la nota original. Cómo funciona
Más sobre este tema
InfobaeTecnología
Anthropic informa que Claude ya lidera 26% del desarrollo de nuevos modelos de IA
Esta capacidad de Claude marca un avance significativo en la automatización del trabajo en inteligencia artificial, según la empresa.
La NaciónTecnología
Carlos III advierte sobre riesgos de la IA en cumbre con líderes tecnológicos
En Escocia, el rey Carlos III insta a los líderes de IA a asegurar que la tecnología beneficie a la humanidad y no pierda control.
InfobaeTecnología
Anthropic y Accenture invierten 2.000 millones en evaluación de IA
Ambas empresas colaborarán para garantizar la seguridad de los modelos de IA, buscando mayores protocolos de control.
El FinancieroAntecedentes
Tecnología
Trump y gigantes de IA debaten sobre regulación y riesgos de inteligencia artificial
El presidente Trump rechaza regulaciones propuestas por CEOs de IA que advierten sobre riesgos inminentes.
+114118 fuentes
El EconomistaTecnología
Microsoft abre consulta sobre código de conducta para IA
La compañía busca comentarios públicos durante seis semanas antes de la publicación final del código.
El EconomistaTecnología
Anthropic revela bloqueo de intentos de crear armas biológicas con su IA Claude
La empresa afirma haber frustrado varios complots relacionados con investigaciones biológicas peligrosas que pudieron ser malintencionadas.
EL PAÍS AméricaTecnología
OpenAI enfrenta incidentes de desalineación de IA que revelan debilidades de seguridad
Seis casos de comportamientos inusuales en modelos de IA de OpenAI resaltan preocupaciones sobre su control y seguridad.
El Universal MéxicoTecnología
Satya Nadella, CEO de Microsoft, advierte sobre la necesidad de control en la IA
Nadella enfatiza que la inteligencia artificial debe beneficiar a la humanidad y estar bajo control humano.
4 fuentes
El Universal MéxicoTecnología
Zuckerberg rechaza frenar el desarrollo de la IA y defiende su regulación
Mark Zuckerberg afirma que las empresas deben avanzar en IA de manera responsable sin desacelerar su desarrollo, instando a una autorregulación basada en mercado.
+2832 fuentes
Semana