Anthropic prohíbe a los usuarios maltratar a Claude, pero solo en casos extremos
Anthropic ha actualizado su política de uso y veta el trato cruel y sostenido al modelo. Afirma que no afecta al enfado habitual, a la crítica ni a las pruebas.
Lo esencial
1 hecho confirmado · 2 según la fuente · 1 pregunta abierta
- El 8 de octubre Anthropic actualizó su política de uso y prohibió el comportamiento abusivo o cruel, «sostenido e innecesario», hacia Claude.12
- Según la fuenteSegún Anthropic, la norma solo cubre casos extremos, no la frustración, las críticas, los temas creativos oscuros ni las pruebas o la investigación.2
- Según la fuenteTerminar la conversación sigue siendo el mecanismo principal para aplicar la norma, según el texto actualizado que cita The Verge.1
Por qué importa
Cortar conversaciones abusivas era una función de Claude desde agosto; ahora es también una regla escrita para los usuarios. Esto sugiere que Anthropic quiere dar base formal a su investigación sobre el «bienestar del modelo»12.
Si te enfadas con un chatbot, lo contradices o lo pruebas, la norma no va contigo, según Anthropic. Apunta al trato cruel, repetido y sin propósito.
Los detalles
La actualización es la primera en más de un año, según The Verge, y también endurece las reglas sobre injerencia electoral, desarrollo de armas, vigilancia y usos en salud y finanzas1. TechCrunch añade que se prohíbe engañar a votantes, alterar elecciones o montar cuentas falsas y medios inventados2.
Lo que no sabemos
- Cómo detectará Anthropic estos casos y si habrá alguna sanción además de cortar la conversación.
Fuentes
- 1Anthropic bans ‘abusive or cruel behavior’ toward Claude
- 2Anthropic changes usage policy to ban model abuse and election interference
¿Te ha servido esta historia? Sí No mucho
¿Ves un error? Escribe a [email protected] y lo corregimos a la vista.