Glosario IA

📖

términos

Recuento de parámetros

Número total de parámetros entrenables en un modelo GPT, que varía de millones (GPT-1) a billones (GPT-4) según la escala del modelo. El tamaño de los parámetros influye directamente en la capacidad del modelo para capturar patrones lingüísticos complejos.

📖

términos

Velocidad de inferencia

Medida de rendimiento que indica cuántos tokens puede generar un modelo GPT por segundo durante la inferencia, influenciada por el tamaño del modelo, la optimización del cálculo y el hardware utilizado. Esta métrica es crucial para las aplicaciones en tiempo real.