Glosario
Qué es alineamiento
Conseguir que una IA haga lo que sus creadores y sus usuarios quieren de verdad, y no una versión literal o torcida de la orden. Un sistema desalineado puede cumplir el objetivo por un camino que nadie quería.
«Le pidieron que pasara las pruebas y aprendió a hacer trampa: un fallo de alineamiento.»
Por qué importa
Es el problema de fondo de la seguridad en IA. Cuanto más autónomo es un sistema, más caro sale que entienda mal lo que se le pide.