Nadella pide asumir que cualquier modelo de IA está comprometido y poder frenarlo
El consejero delegado de Microsoft propone tratar la IA avanzada como si pudiera fallar desde el principio: con controles fuera del modelo y alguien autorizado que pueda pararlo. Es una propuesta, no una norma.
Lo esencial
2 hechos confirmados · 1 según la fuente · 2 preguntas abiertas
- Satya Nadella, consejero delegado de Microsoft, publicó el 10 de octubre en X un texto largo sobre cómo mejorar la seguridad de la IA.12
- Según la fuentePropone separar el modelo del sistema que coordina su trabajo y que una persona autorizada pueda pausarlo o apagarlo a mitad de tarea.1
- Pide que cada acción relevante del modelo quede registrada con pruebas legibles por personas y a prueba de manipulación.12
Por qué importa
Quien lo pide dirige una de las mayores empresas del sector, y lo hace cuando las compañías admiten más incidentes en los que parecieron perder el control de sus modelos, según TechCrunch. Es una propuesta: no obliga a nadie.1
Los detalles
Según TechCrunch, Nadella escribió que hay que «asumir que un modelo está comprometido» y contenerlo desde el inicio, «como un freno de emergencia». The Verge añade que varias de sus recomendaciones coinciden con las de otros en el sector: avisar a tiempo de los incidentes y hacer auditorías independientes.12
Lo que no sabemos
- Si Microsoft aplicará estos controles en sus propios productos y cuándo.
- En qué punto se aparta Nadella de lo que piden otras empresas: The Verge lo sitúa en la contención, pero el detalle no está en el material.
Fuentes
- 1Microsoft’s Satya Nadella says AI models need an ‘emergency brake’
- 2Satya Nadella says we should assume all AI models are ‘compromised’
¿Te ha servido esta historia? Sí No mucho
¿Ves un error? Escribe a maunga2@proton.me y lo corregimos a la vista.