Saltar al contenido
MaungaNoticias de IA, explicadas

Para profesionales · Modelos y herramientas

Thinking Machines promete abrir su nuevo modelo tras pasar pruebas de seguridad

Inkling 2 Small, el nuevo modelo de Thinking Machines Lab, ya se puede usar en su plataforma Tinker. La empresa dice que lo liberará para que cualquiera lo descargue cuando terminen de revisarlo expertos externos.

Lo técnico

  • Es un modelo de mezcla de expertos: 594.000 millones de parámetros en total y 17.000 millones activos por token, con un contexto de un millón de tokens (MarkTechPost).
  • En Tinker cuesta 0,30 dólares por millón de tokens de entrada, 1 dólar por millón de salida y 1,50 dólares por millón en entrenamiento, según Horace He, citado por Latent Space (Latent Space).
  • El ajuste fino se hace con Tinker Cookbook y el paquete tml-renderers; los puntos de control se podrán descargar cuando se publiquen los pesos (MarkTechPost).
  • Los pesos admiten MXFP8 y NVFP4, pero no se ha dicho qué hardware hace falta para ejecutarlo en local (MarkTechPost).
  • Gasta muchos tokens: unos 150.000 de salida por tarea del índice de Artificial Analysis, frente a unos 37.000 de Inkling Small (Latent Space).

La historia completa, explicada para todos →

Fuentes