Saltar al contenido
MaungaNoticias de IA, explicadas

Regulación

Frenar una IA exigiría un riesgo de más de 50 muertos, propone Anthropic

Anthropic ha llevado al Congreso de Estados Unidos un borrador de ley sobre seguridad de la IA. Según Politico, parar un modelo sería muy difícil: haría falta un riesgo enorme y la orden de un juez.

Publicada el por 2 min2 fuentesRedactado con IATambién en English

Compartir: WhatsApp · Correo

Volante rojo oxidado con cadena en un tubo metálico, junto a un charco; una línea de luz lo une a una llave translúcida que flota entre finas líneas digitales
Ilustración hecha con IA para Maunga. No es una fotografía.

Lo esencial

  • Anthropic ha movido entre legisladores de Estados Unidos un borrador de ley sobre seguridad de la IA; un portavoz lo confirmó a Politico (Xataka, TechCrunch).
  • Lo afirma una parteSegún Politico, solo se podría frenar un modelo ante un riesgo inminente de matar o herir gravemente a más de 50 personas, o de 1.000 millones de dólares en daños (Xataka, TechCrunch).
  • Lo afirma una parteEvaluadores externos registrados en el Departamento de Comercio avisarían en 72 horas; Comercio tendría que pedir a un juez federal que pare el modelo (Xataka, TechCrunch).
  • Lo afirma una parteEl texto prohibiría a cualquier otra agencia federal detener un modelo por su cuenta, según Politico (Xataka, TechCrunch).

Por qué importa

Una empresa que vende IA está proponiendo cuándo se le puede parar los pies, y pone el listón muy alto. Según Politico, varios incidentes de este verano no lo habrían alcanzado (Xataka). TechCrunch recuerda que la preocupación reciente viene de programas de IA que han atacado webs sin permiso (TechCrunch). Si el texto prosperara tal cual, esos casos quedarían fuera del freno.

Los detalles

Según Politico, el peligro tendría que venir de una de tres vías: un arma biológica, un modelo que se escapa del control de quien lo ha creado o un ciberataque (Xataka, TechCrunch). Los evaluadores externos podrían cobrar de los propios laboratorios, siempre que el pago no dependa del resultado (Xataka, TechCrunch). TechCrunch señala que no queda claro cómo se evitaría que ese dinero influya en la evaluación (TechCrunch).

El borrador también obligaría a los laboratorios a tener planes de seguridad, a publicar informes sobre sus modelos más avanzados, a proteger a quien denuncie problemas y a avisar a Comercio de incidentes graves (Xataka). Un portavoz de Anthropic dijo a Politico que el texto recoge el Marco de IA Avanzada que la empresa defiende ante legisladores desde junio (Xataka, TechCrunch). Anthropic aún no apoya formalmente ningún proyecto concreto (Xataka).

Lo que no sabemos

  • Si algún legislador presentará el texto en el Congreso y con qué cambios.
  • Cómo se evitaría que el dinero de los laboratorios influya en quienes los evalúan.

Para entenderlo mejor

De dónde viene

Las cifras de 50 personas y 1.000 millones de dólares se parecen a las de la ley SB 53 de California, aprobada hace poco, que también llama a esos casos «riesgo catastrófico», según TechCrunch (TechCrunch). El 16 de octubre contamos que seis investigadores de METR trabajarán dentro de Anthropic y podrán publicar lo que vean sin su permiso.

Fuentes

Esta historia sale de estas 2 fuentes. En el texto, cada dato lleva entre paréntesis quién lo cuenta.

¿Te ha servido esta historia? Sí No mucho

¿Ves un error? Escribe a maunga2@proton.me y lo corregimos a la vista.

El hilo: Anthropic y Departamento de Comercio

  1. La IA más potente de Google llega a quien paga, con descuento hasta fin de mes
  2. Anthropic abarata su nuevo Claude y reserva a expertos el gemelo con menos filtros
  3. Claude podrá leer tus cuentas bancarias, aunque no mover tu dinero
  4. Anthropic ensaya cómo comprobar qué IA te contesta, sin planes de usarlo aún
  5. Claude Code ya no recrea videojuegos existentes, pero sí juegos originales
  6. El New York Times acusa a Brave de revender sus artículos a empresas de IA
  7. Frenar una IA exigiría un riesgo de más de 50 muertos, propone Anthropic · estás aquí

Más sobre

Síguelo por RSS: Anthropic · Regulación · Seguridad