← Blog

e-means de Meta: un k-means que converge en 3 épocas y por qué importa a un cerebro digital

Meta FAIR ha publicado e-means (arXiv 2611.09501, noviembre de 2026), una nueva forma de ejecutar k-means. No cambia el feed de Instagram ni el de Facebook: es un algoritmo para agrupar datos. Pero afecta a una pieza que está debajo de casi todo sistema que busca por significado, incluido un cerebro digital.

Esta página explica el paper en español, separa lo que dicen los autores de lo que nadie ha comprobado todavía y responde a una pregunta práctica: ¿te cambia algo si tu empresa tiene unos miles de documentos y no miles de millones?

Qué es k-means y para qué se usa

k-means recibe una nube de puntos y un número k. Devuelve k centros (centroides) de forma que cada punto quede cerca de su centro más próximo. Se mide con el error cuadrático medio: la distancia media al cuadrado entre cada punto y su centro.

Hoy los puntos suelen ser embeddings: listas de números que representan el significado de un texto, una imagen o un audio. Agrupar embeddings sirve para organizar grandes colecciones, detectar duplicados, descubrir temas y, sobre todo, construir índices que permiten buscar sin comparar la consulta con todo lo que hay guardado.

El problema: Lloyd es lento y se atasca

El método estándar es el algoritmo de Lloyd. En cada iteración recorre todos los datos, asigna cada punto a su centro y recalcula los centros. Lo habitual es repetirlo unas 25 veces (25 épocas). Con colecciones enormes cada época cuesta horas de GPU.

Los métodos por mini-lotes, que miran solo un trozo de los datos cada vez, son más rápidos al principio. Según el paper, suelen quedarse en un error más alto y piden ajustar a mano el tamaño del lote y el paso. Además, Lloyd puede quedarse atascado en una mala solución: en los ejemplos de juguete de la página del proyecto, con 200 semillas, se atascó entre el 26 % y el 46 % de las veces según el conjunto de datos, frente al 0 % a 4 % de e-means.

Qué hace e-means

e-means procesa los datos en mini-lotes y guarda, para cada cluster j, un conteo N_j y una suma S_j con una media móvil exponencial (EMA). El centroide no se guarda: es el cociente c_j = S_j / N_j. En cada lote:

S_j ← (1−α)·S_j + α·s_j
N_j ← (1−α)·N_j + α·n_j

Aquí s_j y n_j son la suma y el número de puntos del lote actual asignados al cluster j. Si el lote fuera todo el conjunto y α valiera 1, un paso de e-means sería exactamente una iteración de Lloyd. Por eso se le puede ver como una generalización de Lloyd.

El paper añade cuatro piezas para que funcione bien en pocas épocas:

  • Paso con decaimiento coseno. α baja desde un valor inicial hasta el 10 % de ese valor al final del entrenamiento.
  • Reanimar clusters muertos. Cada 5 lotes, los clusters con menos del 10 % del conteo medio se rehacen dividiendo uno grande. Es la pieza más importante: quitarla empeora el error de entrenamiento un 2,97 % en la ablación del paper (DEEP, un millón de vectores, 16.384 clusters, 3 épocas).
  • Finalización. Por defecto, la última época termina con la media exacta de cada cluster.
  • Leyes de escala. El tamaño de lote y el paso inicial salen de una fórmula que depende del número de datos, de clusters y de épocas. No hay que probar hiperparámetros. Los autores indican que la fórmula de lote queda de media un 0,19 % por encima del mejor valor en conjuntos no vistos.

También hay kernels de GPU a medida que fusionan la asignación al centroide más cercano, para que las épocas ahorradas se conviertan en tiempo real ahorrado.

Qué resultados declaran los autores

  • Épocas: e-means iguala la pérdida de Lloyd a 25 épocas en 1,4 a 2,6 épocas, con embeddings de entre un millón y mil millones de vectores.
  • GPU: entre 9,5 y 45,5 veces más rápido que Flash-KMeans en una H100, según conjunto y escala.
  • CPU: entre 8 y 15 veces más rápido que Faiss, según la página del proyecto.
  • Ejemplo concreto: con 10 millones de vectores y 65.536 clusters en una H100, 14 a 22 segundos frente a 142 a 155 segundos de un Lloyd en PyTorch con 25 épocas.
  • Escala extrema: particionó 10.000 millones de embeddings DINO en 16 millones de clusters en unas 2,5 épocas, con menos error que Lloyd a 25 épocas. Con asignación aproximada por IVF, el coste baja de unas 779 a unas 22,8 horas de GPU.
  • Calidad final: con 3 épocas y inicialización aleatoria supera a Flash-KMeans con 25 iteraciones. Frente a k-means++ el margen es pequeño: entre el 0,06 % y el 0,33 %.

Son cifras de los autores. Nosotros no las hemos reproducido. Las fuentes secundarias tampoco coinciden del todo: la página del proyecto habla de 1,2 a 3 épocas y el resumen del paper de 1,4 a 2,6. En esta página usamos el paper.

Límites que reconoce el paper

  • Las leyes de escala se ajustaron con datos de alta dimensión. No son óptimas para conjuntos muy pequeños o de pocas dimensiones.
  • En algunos casos sintéticos de alta dimensión, el error en datos de prueba puede empeorar en las últimas épocas (sobreajuste).
  • Solo se probó hasta 25 épocas, y e-means no se combina con k-means++ porque este es secuencial.
  • Los factores de velocidad dependen de las implementaciones de comparación y del hardware (H100 o CPU de 64 núcleos).

Por qué importa a un cerebro digital

Un cerebro digital responde buscando en el conocimiento de la empresa por significado. Para eso convierte documentos, mensajes y datos en embeddings y los compara con la pregunta. Con pocos vectores se compara todo. Con muchos hay que organizarlos antes, y ahí entra k-means: en Faiss, los índices IVF dividen el espacio en clusters y, al buscar, solo miran los más cercanos. Entrenar esos clusters es una tarea de k-means.

Qué cambia si ese paso es entre 10 y 45 veces más rápido en GPU:

  • Reindexar sale más barato. Cuando cambias el modelo de embeddings, o la colección crece mucho, hay que reentrenar. Si tarda minutos en vez de horas, se puede hacer más a menudo y mantener el conocimiento al día.
  • Cabe más conocimiento. El coste de entrenar el índice es uno de los frenos al crecer. Los 10.000 millones de vectores del paper son un caso de investigación, no el de una empresa, pero marcan hasta dónde llega el método.
  • Se pueden agrupar contenidos por tema. Detectar documentos duplicados o casi duplicados, ver de qué temas habla la empresa y dónde hay huecos son tareas de clustering que se vuelven baratas.
  • Menos ajuste manual. Que el lote y el paso salgan de una fórmula elimina una de las pruebas que hoy hace un ingeniero antes de entrenar.

Ahora, la parte honesta. Un cerebro digital de una empresa de 20 a 200 personas maneja miles o decenas de miles de documentos, no miles de millones. A esa escala k-means ya tarda segundos o pocos minutos, y la ganancia directa de e-means es pequeña. Donde sí importa es en tres casos: colecciones muy grandes, reindexados frecuentes y proveedores que sirven a muchas empresas a la vez. Y hay un dato que no tenemos: no hemos probado e-means con datos reales, así que no afirmamos que mejore ninguna respuesta. El método acelera el entrenamiento de la estructura; la calidad de una respuesta sigue dependiendo de las fuentes, de su vigencia y de los permisos.

Cómo probarlo

El código es abierto y está en Faiss. Según la documentación del proyecto:

from faiss.contrib.e_means import Emeans   # NumpyEmeans para NumPy
em = Emeans(d, k, nepochs=T)               # T épocas (5 por defecto)
centroids, labels = em.train(x)            # x: tensor de PyTorch (n, d)

Antes de adoptarlo, la prueba razonable es medir con tus propios embeddings: tiempo de entrenamiento, error final y, sobre todo, si las respuestas de búsqueda cambian. Lo que importa es el resultado en tu conjunto de datos, no el de DEEP o DINO.

Fuentes y método

Esta página se basa en el resumen del paper y en la versión HTML de arXiv, y en la página del proyecto. No hemos reproducido los experimentos ni leído los apéndices técnicos de los kernels de GPU. La parte sobre cerebros digitales es nuestra interpretación, no una afirmación de los autores.