Las grandes de la IA prometen a Trump vigilarse solas, sin ley que las obligue
Directivos de Google, Anthropic, Meta, OpenAI y Nvidia firmaron en la Casa Blanca un acuerdo de seguridad que es voluntario. Trump lo llama «moralmente vinculante» y no está claro quién comprobará que se cumple.
Lo esencial
3 hechos confirmados · 2 según la fuente · 3 preguntas abiertas
- Directivos de Google, Anthropic, Meta, OpenAI y Nvidia, entre otras empresas, firmaron el martes en la Casa Blanca un acuerdo sobre seguridad en IA.234
- El texto pide controles internos, un equipo propio que los revise, un evaluador externo y un comité del consejo de administración que reciba los informes.34
- El acuerdo es voluntario y no impone obligaciones legales. Trump lo calificó de «moralmente vinculante».345
- Según la fuenteUn portavoz de la FTC, la agencia estadounidense de protección al consumidor, confirmó según WIRED que hay una investigación sobre empresas de IA, sin dar detalles.3
- Según la fuenteSegún el Wall Street Journal, citado por Xataka, varios directivos reprocharon a Dario Amodei, de Anthropic, que sea alarmista en público sobre los riesgos.4
Por qué importa
La seguridad de los modelos más avanzados queda en manos de quienes los fabrican. El acuerdo no crea obligaciones legales y, según el New York Times citado por Xataka, no está claro quién vigilaría su cumplimiento4. WIRED recuerda que no es la regulación amplia que pide gente de dentro de las propias empresas3.
La única vía de exigencia a la vista es la FTC, y parece estrecha: según WIRED, puede actuar si una empresa falta a lo prometido, no decidir qué es seguro3. Si la investigación avanza, podría dar pistas sobre hasta dónde llega esa vía, aunque la FTC no ha dicho qué investiga3. Nuestra lectura es que, de momento, hay promesas públicas y no reglas.
Los detalles
El documento se llama «The White House Accord on Super Intelligence» y se anunció el martes tras una comida con Donald Trump, según contó WIRED el 30 de septiembre3. No ordena nada: dice que las empresas deberían aplicar las medidas3. Ars Technica habla de dos docenas de empresas firmantes, que también se reunirán de forma periódica para fijar criterios comunes de seguridad2. Xataka añade que ocupa dos páginas y que solo ve sentido a convertirlo en ley «con el tiempo»4.
¿Y si una empresa incumple? Según WIRED, faltar a una promesa pública puede considerarse una práctica engañosa, y ahí podría actuar la FTC, la agencia estadounidense que protege a los consumidores; así lo sostiene Neil Chilson, antiguo jefe de tecnología de esa agencia3. El mismo medio recuerda que el remedio habitual en esos casos es hacer prometer a la empresa que no volverá a mentir3.
Después de la comida, el New York Post publicó que la FTC prepara una investigación amplia sobre Anthropic, OpenAI, otros laboratorios y METR, una organización sin ánimo de lucro que evalúa modelos desde fuera3. Un portavoz de la agencia confirmó, según WIRED, que existe una investigación, sin precisar qué problemas de consumo le preocupan3. Según el Post, todavía no ha enviado requerimientos formales de información3.
La foto de unidad tuvo grietas. Según el Wall Street Journal, citado por Xataka, varios directivos, entre ellos Jensen Huang, de Nvidia, preguntaron a Dario Amodei por qué es tan alarmista en público; él respondió que la industria debe sinceridad a la gente4. Tampoco cuadra quién acudió por OpenAI: Ars Technica cita a Sam Altman entre los firmantes2, y el pódcast de WIRED sitúa en la comida a Greg Brockman, su presidente, y no a Altman5.
Lo que no sabemos
- La lista completa de firmantes y quién representó a OpenAI: Ars Technica nombra a Sam Altman como firmante, y el pódcast de WIRED sitúa en la comida a Greg Brockman.
- Qué investiga exactamente la FTC y a qué empresas: la agencia no ha dado detalles.
- Quién comprobará que las empresas cumplen lo firmado y qué consecuencias tendría no hacerlo.
De dónde viene
Estas empresas ya habían firmado compromisos voluntarios parecidos con otros gobiernos. Según WIRED, a principios de 2025 el Reino Unido y la República de Corea anunciaron unos «Frontier AI Safety Commitments» con promesas de pruebas internas y externas de los modelos3. El New York Times, citado por Xataka, recuerda que los compromisos voluntarios de la etapa de Biden han caído en buena medida en el olvido4. Ars Technica sitúa el acuerdo en plena racha de incidentes de seguridad, que han llevado a OpenAI a parar entrenamientos y pausar lanzamientos2.
Fuentes
- 1Here’s what AI leaders are saying about Trump’s new safety plan
- 2Trump plan to combat AI risks hinges on Big Tech pals policing themselves
- 3Trump’s AI Safety ‘Accord’ Is a Fancy Pinky-Swear
- 4Jensen Huang y otros CEO han confrontado a Dario Amodei por sus mensajes tan extremos en materia de seguridad
- 5Trump’s ‘Morally Binding’ AI ‘Accord,’ the Rise of AI Agents, and Extremists on the Ballot
- 6Whatever AI Safety Is, It’s Not This
¿Te ha servido esta historia? Sí No mucho
Esta historia la ha redactado una inteligencia artificial a partir de las fuentes de arriba. Antes de publicarse, un programa comprueba que cada cifra y cada nombre están en ellas. No la ha revisado una persona. Cómo trabajamos. ¿Ves un error? Escribe a [email protected] y lo corregimos a la vista.