f.mtr.cool
El fin de la era del escalamiento: por qué los avances algorítmicos son más importantes que el tamaño del modelo
Durante gran parte de la última década, el progreso en inteligencia artificial se ha visto impulsado por la escala. Conjuntos de datos más grandes, más parámetros y mayor potencia computacional se convirtieron en la fórmula del éxito. Los equipos compitieron para crear modelos más grandes, midiendo el progreso en billones de parámetros y petabytes de datos de entrenamiento. A esto lo llamamos la era del escalamiento. Ha impulsado mucho...