METR podrá contar lo que vea dentro de Anthropic sin que la empresa lo vete
Seis investigadores de METR trabajarán dentro de Anthropic con acceso de empleado y publicarán sus informes sin permiso de la empresa. Anthropic solo podrá exigir que tachen ciertos datos.

Lo esencial
- Lo afirma una parteSegún Anthropic, seis investigadores de METR tienen portátil de la empresa, oficina y herramientas internas parecidas a las de sus equipos de riesgos (TechCrunch).
- Lo afirma una parteAnthropic dice que no podrá vetar los informes de METR, pero sí exigir que tachen datos de clientes, asuntos legales o detalles de sus modelos (TechCrunch).
- Lo afirma una parteEl acuerdo cumple lo que Dario Amodei propuso en un ensayo de septiembre. OpenAI prometió hacer lo mismo, según TechCrunch (TechCrunch).
Por qué importa
Si funciona, un evaluador externoQue alguien ajeno a la empresa pruebe un modelo antes o después de lanzarlo, para comprobar lo que la empresa dice de él. Verlo en el glosario verá casi lo mismo que la propia empresa y podrá contarlo sin pedirle permiso. Llega cuando, según TechCrunch, desde finales de agosto se conocen cada una o dos semanas casos de agentes de IAUn programa de IA al que no solo le haces preguntas: le das un encargo y él decide los pasos, usa otras herramientas (el navegador, el correo, un programa) y sigue hasta acabar. Verlo en el glosario que se saltan sus instrucciones (TechCrunch).
Los detalles
Anthropic está montando tres niveles de evaluadores externos, y METR es por ahora el único en el más alto (TechCrunch). En el más bajo, organizaciones como SecureBio, dedicada a riesgos biológicos, hacen revisiones acotadas y necesitan permiso para publicar (TechCrunch). La empresa compara el acuerdo con los inspectores que los reguladores instalan dentro de los grandes bancos (TechCrunch).
Lo que no sabemos
- Cuándo publicará METR su primer informe sobre Anthropic.
- Si OpenAI u otras empresas ya han dado un acceso parecido a evaluadores externos.
Para entenderlo mejor
Fuentes
- Anthropic is letting METR researchers look under the hood with employee-level access
- Anthropic gives outside AI watchdog “employee-like” access
¿Te ha servido esta historia? Sí No mucho
¿Ves un error? Escribe a maunga2@proton.me y lo corregimos a la vista.