OpenAI y Anthropic piden leyes que las obliguen; Google y Meta no
Ante el Parlamento británico, OpenAI y Anthropic dijeron que las promesas voluntarias ya no bastan. En la misma sesión, el Gobierno admitió que no puede frenar un modelo que considere peligroso.
Lo esencial
4 según la fuente · 2 preguntas abiertas
- Según la fuenteSegún WIRED, Anthropic y OpenAI dijeron a diputados británicos que hacen falta leyes de seguridad para la IA porque los compromisos voluntarios no bastan.1
- Según la fuenteGoogle DeepMind y Meta no apoyaron una ley nueva. Google prefirió hablar de estándares y Meta recordó que Reino Unido ya tiene reguladores.1
- Según la fuenteEl director del instituto británico de seguridad de la IA admitió que solo prueba los modelos que le ceden y que no puede impedir un lanzamiento.1
- Según la fuenteEl mismo día, el director del MI5 situó el uso de la IA para armas biológicas como el mal uso que más le preocupa, aunque aún no se ha dado.1
Por qué importa
Dos de las empresas que fabrican los modelos más avanzados piden ya en público que las obliguen, y otras dos se resisten. Esto sugiere que la idea de que el sector se vigile solo pierde apoyos dentro del propio sector. La sesión dejó además claro el límite británico: sin ley, Reino Unido depende de que las empresas, y Washington, le dejen mirar.
Los detalles
La sesión fue el 13 de octubre en una comisión de diputados de varios partidos, según WIRED1. OpenAI se mostró más prudente que Anthropic. Su vicepresidente Tom Duff Gordon apoyó una ley y un convenio internacional, y propuso empezar por obligar a avisar de los incidentes1. También explicó que OpenAI entrega sus modelos antes del lanzamiento al organismo estadounidense equivalente, y que seguirá dándoselos al británico mientras Washington lo permita1.
Anthropic reconoció que no pudo dar al instituto británico acceso completo a Mythos 5.1 en su momento, que remitió la pregunta al Gobierno de Estados Unidos y que ahora el instituto sí tiene acceso1. Declararon además cuatro antiguos investigadores de estas empresas. Uno de ellos, Daniel Kokotajlo, dijo que no se puede confiar en que se regulen solas1. El presidente de la comisión, Liam Byrne, quiere usar la presidencia británica del G20 para impulsar un convenio internacional1.
Lo que no sabemos
- Si el Gobierno británico propondrá una ley y qué obligaciones incluiría.
- Por qué Anthropic no pudo dar al instituto británico acceso completo a Mythos 5.1 cuando lo lanzó.
De dónde viene
El 2 de octubre contamos que directivos de Google, Anthropic, Meta, OpenAI y Nvidia firmaron en la Casa Blanca un acuerdo de seguridad voluntario, sin ley que las obligue. La sesión de Londres saca a la luz que no todas esas empresas creen que eso sea suficiente.
Fuentes
¿Te ha servido esta historia? Sí No mucho
¿Ves un error? Escribe a maunga2@proton.me y lo corregimos a la vista.