Glosario
Qué es inferencia
Usar un modelo ya entrenado para que responda. Entrenar es estudiar; la inferencia es hacer el examen cada vez que alguien pregunta. Es lo que se paga al usar un asistente y lo que consume energía a diario.
«El gasto ya no está en entrenar, sino en la inferencia de millones de preguntas al día.»
Por qué importa
Es donde se va el dinero y la electricidad una vez lanzado un modelo. Explica por qué los precios bajan y por qué se construyen tantos centros de datos.