Presentamos Sibundoy-Translate-1.7B

¿Buscas las cifras, la receta para usarlo o cómo lo entrenamos? Está todo en la sección técnica, más abajo.

En pocas palabras

• Qué hace: Sibundoy-Translate-1.7B es un modelo listo para traducir del inglés al español en tu propio equipo, párrafo a párrafo.
• Dónde funciona: ocupa unos 1,3 GB de memoria y funciona con GPU (tarjeta gráfica) o sin ella.
• Qué tan rápido: traduce un artículo de 900 palabras en unos 15 segundos con una GPU de 6 GB, o en un minuto sin GPU.
• Cuánto mejoró: traduce mejor que el modelo del que partimos en todos los exámenes. En medicina gana 5,8 puntos de COMET (una medida automática de calidad de traducción).
• Frente a otros: todavía no supera a modelos algo más grandes, de 2.000 a 4.000 millones de parámetros. Se queda cerca, pero por detrás.
• En qué destaca: respeta el formato de páginas web y documentos, y escribe un español neutro que lo hace útil para cualquier país hispanohablante.
• Áreas a mejorar: aún le cuestan la literatura, las redes sociales y los textos de varios párrafos enviados de una vez. Por eso recomendamos enviarle un párrafo por petición.

Por qué un traductor

Soy Rubén y hago ColIA. Sibundoy-Translate-1.7B nace de una necesidad personal. Cada día busco aprender algo nuevo sobre inteligencia artificial y tecnología. Mucho de ese contenido se publica en inglés y no siempre está disponible en español. Además, en Colombia y en buena parte de América Latina el nivel de inglés es bajo, incluido el mío.

Quería leer ese contenido sin depender del traductor del navegador ni de servicios de pago, que en nuestras regiones no están al alcance de todos. Entonces me di cuenta de que los modelos de hoy permiten construir software personal para resolver nuestras propias necesidades. Así nació mi lector RSS, una app que reúne lo que publican las webs que sigues. Traduce al español artículos, noticias y estudios de arXiv (un archivo abierto de investigación científica). Lo hace con un modelo propio, sin conexión a internet.

Pero surgió otro problema: encontrar un modelo lo bastante pequeño para cualquier equipo, sin hardware de última generación. Y a la vez, lo bastante capaz para traducir bien textos con enlaces, menciones o fórmulas en LaTeX (el formato en que se escriben las fórmulas científicas).

Así nace Sibundoy-Translate-1.7B: un traductor de inglés a español que cabe en casi cualquier equipo, sin necesidad de GPU. Ya casi¹ resuelve el problema principal de mi lector RSS, y me deja aprender de lo que se publica en otra lengua. Además, me permitió experimentar y aprender, uno de los fines de ColIA.

Por qué Sibundoy

El nombre viene del valle de Sibundoy, mi lugar de origen. Es una región formada por cuatro hermosos municipios (Sibundoy, Colón, San Francisco y Santiago), en el Putumayo, al sur de Colombia. Con él quiero rendir homenaje a mi hogar, a mi pueblo, a mi gente y a las regiones de Colombia y Latinoamérica que a veces olvidamos.

También quiero mostrar que el valle de Sibundoy, el Putumayo, Colombia y Latinoamérica están llenos de gente talentosa, capaz de construir y crear.

Qué aprendimos

Nos deja estas enseñanzas para las próximas versiones del modelo:

• Elegir el profesor con datos: probamos cuatro modelos grandes antes de usar uno para traducir datos. Eso nos ayudó a elegir el mejor: Gemma 4 31B.
• El modelo base aprendió mejor que el de chat para una tarea tan concreta como traducir. Aún no sabemos por qué. Nuestra hipótesis es que el modelo base no trae los hábitos de chat del modelo instruct, así que aprende la tarea sin tener que desaprender nada.
• Guardar copias por el camino: en una primera prueba, que no publicamos, tuvimos un corte y perdimos el 80 % del trabajo, alrededor de una hora. Esta vez, Colab apagaba las máquinas a los 20 minutos porque nadie les mandaba órdenes. Como ya habíamos aprendido la lección, pudimos seguir cada vez desde la última copia guardada.
• Medir muestra dónde está el fallo de verdad: creíamos que el límite sería la longitud del texto. Al medirlo, vimos que era otro: los saltos de párrafo. El modelo falla con textos que tienen varios párrafos separados por líneas en blanco.
• Probar la receta tal como la usará otra persona: en nuestro servidor de siempre todo funcionaba. Con el comando limpio, las respuestas llegaban vacías porque faltaba una opción: sin ella, el modelo enviaba la traducción como razonamiento y no como respuesta.

Qué sigue

Queremos seguir aprendiendo y mejorando. La siguiente versión traducirá en los dos sentidos, de inglés a español y de español a inglés. Y buscaremos cerrar la diferencia con los modelos más grandes con estos pasos:

• Limpieza profunda de los datos: descartar las traducciones humanas demasiado libres, incompletas o de baja calidad que puedan contaminar.
• Añadir ejemplos de varios párrafos: así intentaremos resolver los cortes en los saltos de párrafo y la necesidad de enviar un párrafo por petición.
• Probar un traductor puro, sin chat: que reciba solo el par de idiomas (de entrada y de salida) y el texto, y devuelva la traducción. Así no hay razonamiento que apagar ni instrucción que recordar, y el modelo es más fácil de usar.
• Entrenar con preferencias: enseñarle a preferir la mejor de dos traducciones de la misma frase, para que elija traducciones más naturales y fieles.
• Adicionales: más adelante queremos probar una versión más pequeña, para que en un portátil sin GPU vaya el doble de rápido y quizá llegar a teléfonos móviles.

---

Sección técnica

Desde aquí, los detalles:

• Qué es exactamente
• Cómo lo entrenamos
• Cómo lo medimos
• La receta para usarlo
• Sus licencias

Qué es

Cómo lo hicimos

Los datos

Reunimos unos 71.000 pares de textos en tres partes casi iguales: noticias, textos generales y ciencia. Queríamos un traductor que sirviera para más que noticias.

• Noticias: Wikinews y Global Voices.
• Textos generales: FineTranslations y frases de Tatoeba.
• Ciencia y técnica: resúmenes de PLOS y SciELO (medicina, biología, psicología, educación…), artículos de arXiv y la documentación de Python en español.

Los pares tienen tres orígenes:

Antes de elegir el profesor medimos cuatro candidatos con los mismos exámenes, y ganó Gemma 4 31B.

Después limpiamos: quitamos los pares repetidos, los que estaban sin traducir y los que se parecían a los exámenes. Revisamos las traducciones del profesor con comprobaciones automáticas: cifras, enlaces, etiquetas HTML y longitud. Hubo 760 fallos graves, un 0,5 % del total: en su mayoría se corrigieron y el resto se descartaron.

El entrenamiento

Entrenamos dos candidatos a la vez: una sobre el modelo base de LFM3 y otra sobre su versión de chat (instruct). Cada una corrió en una GPU L4 de Google Colab durante unas 6 horas.

Ganó el candidato base en todas las medidas. Por eso Sibundoy-Translate-1.7B parte de LFM3-1.7B-Base.

No salió a la primera. Colab apagaba las máquinas a los 20 minutos de entrenar, y tardamos tres intentos en entender por qué. La causa: si nadie le manda órdenes a la máquina, Colab la da por abandonada, aunque esté trabajando. Lo resolvimos mandándole una orden mínima cada dos minutos y guardando una copia del entrenamiento cada 250 pasos. Gracias a esas copias, cada corte solo nos costó unos minutos.

Qué tan bien traduce

Usamos dos medidas:

• COMET: puntúa de 0 a 100 si la traducción conserva el sentido del original. Es la que más pesa.
• chrF: mide cuánto se parece, letra a letra, a una traducción humana.

Frente a su modelo de partida

Cifras de COMET. WMT24++ es un examen público de Google con redes sociales, literatura, discursos y noticias. Sus referencias están en español de México. Los otros cuatro son exámenes públicos de un tema concreto.

Donde más mejoró fue en medicina: +5,8 puntos. Es justo lo que más abunda en los datos, entre resúmenes de PLOS y SciELO.

Frente a otros modelos pequeños

Aquí no ganamos, y preferimos contarlo porque en ColIA cada derrota también es una victoria, ya que nos permite aprender y mejorar.

Cifras de COMET. Sibundoy-Translate-1.7B queda entre 0,1 y 2,5 puntos por debajo de modelos de 2.000 a 4.000 millones de parámetros. Pensábamos que ganaría en ciencia y medicina, porque abundan en sus datos, pero no fue así: también pierde ahí, por poco. Lo que le falta es calidad general de traducción, no un tipo de texto concreto.

Comprobamos que los exámenes no estuvieran en nuestros datos: prácticamente ninguno se repite, salvo el 0,3 % de TICO-19 y el 2,1 % de FLORES+.

Donde sí ganamos

Conserva el formato. Nuestro examen tiene 213 textos, y 47 traen HTML o Markdown. Sibundoy-Translate-1.7B conservó el formato en 210 de los 213; los demás modelos pequeños, entre 189 y 208. Si traduces páginas web o documentación, esto importa tanto como la calidad y es justo nuestro punto fuerte.

Escribe un español neutro. En WMT24++ usó formas de España en el 0,4 % de las frases; los demás modelos pequeños, entre el 1,4 % y el 1,9 %. Tampoco usó regionalismos de un solo país, como el voseo o «ahorita». Nuestro detector solo busca palabras concretas, así que un estilo regional más sutil no lo vería.

Receta recomendada

La medimos en las dos máquinas de nuestras recetas: un computador de escritorio con una RTX 3050 de 6 GB y un portátil sin GPU (i7-13620H). Usamos llama.cpp b11940 en el portátil y b11946 en el de escritorio.

tok/s son tokens por segundo; un token es un trozo de palabra.

Va exactamente igual de rápido que LFM3-1.7B: el ajuste no cambia la arquitectura.

Escritorio (GPU):

llama-server -m Sibundoy-Translate-1.7B-Q4_K_M.gguf \
  -ngl 99 -c 4096 --reasoning off \
  --temp 0.1 --top-k 50 --repeat-penalty 1.1

Portátil (solo CPU):

llama-server -m Sibundoy-Translate-1.7B-Q4_K_M.gguf \
  -lm none -t 6 -tb 16 -fa off -c 4096 --reasoning off \
  --temp 0.1 --top-k 50 --repeat-penalty 1.1

Pruébalo

El modelo está en Hugging Face, en colia-labs/Sibundoy-Translate-1.7B, y en GGUF para llama.cpp en colia-labs/Sibundoy-Translate-1.7B-GGUF. El código con el que lo hicimos está en GitHub, en colia-labs/sibundoy-translate.

Arráncalo con la receta de arriba que corresponda a tu equipo. Después, manda cada párrafo como mensaje de usuario a /v1/chat/completions, con su instrucción exacta, una línea en blanco y el texto:

Translate the following text from English into Spanish. Keep any HTML tags and Markdown formatting exactly as they are. Reply with the translation only.

The **new vaccine** reduced hospital admissions by 40% in [the trial](https://example.org).

Respuesta:

La **nueva vacuna** redujo las admisiones hospitalarias en un 40% en el [ensayo](https://example.org).

Ahí se ve también uno de sus errores: «admisiones hospitalarias» es un calco del inglés. Lo natural sería «ingresos hospitalarios».

Qué no hace bien

• Traduce peor que modelos algo más grandes, como Tower+ 2B, Gemma 4 E2B o TranslateGemma 4B. La diferencia va de 0,1 a 2,5 puntos de COMET.
• Literatura y redes sociales son sus puntos más flojos: frases coloquiales, juegos de palabras, ironía.
• Calcos del inglés, como «admisiones hospitalarias» por «ingresos hospitalarios».
• Varios párrafos de una vez. Con bloques separados por líneas en blanco, a menudo traduce solo el primero o entra en bucle. Hay que darle un párrafo por petición (ver la receta). Se entrenó casi siempre con un párrafo por ejemplo, y aprendió a terminar al acabar uno.
• Solo de inglés a español. El sentido contrario no lo aprendió.
• Necesita su instrucción y --reasoning off. Sin la instrucción se comporta como un chat; sin la opción, la respuesta llega vacía.
• A veces pierde la etiqueta HTML que envuelve todo el texto, como un <p> inicial, aunque conserva las de dentro.

Licencias

El modelo. Sibundoy-Translate-1.7B hereda la LFM Open License v1.0 de LFM3, porque contiene ese modelo. Es libre para investigación y para uso comercial de personas y empresas con menos de 10 millones de dólares de ingresos al año. Por encima de esa cifra, el uso comercial no está cubierto y hay que pedir permiso a Liquid AI. No es una licencia de código abierto en sentido estricto: son pesos abiertos con un límite comercial. Con el modelo publicamos el texto de la licencia y avisamos de que es una versión modificada de LFM3-1.7B-Base.

El código. Tiene licencia MIT: puedes usarlo, cambiarlo y compartirlo. Está en colia-labs/sibundoy-translate.

Los datos. No publicamos los datos de entrenamiento, solo el modelo. Estas son sus fuentes y licencias:

Los modelos que tradujeron parte de los datos: Gemma 4 31B (Apache 2.0), GLM 5.3 Flash (MIT) y, en unos 1.300 pares de arXiv, DeepSeek V4.1 Flash (MIT) o MiniMax M3 (MiniMax Community License).

Aviso

Sibundoy-Translate-1.7B es nuestro primer modelo, y es nuevo: puedes encontrar errores y fallos que aún no conocemos. Nos encantaría recibir todos los comentarios posibles para saber dónde mejorar. Escríbenos en Discord, en Issues, en Discussions o a [email protected]. No es un modelo perfecto, pero seguimos trabajando para mejorarlo. ¡Nos encantaría tu ayuda!

---

Notas

1. Casi, porque aún le falta un reentrenamiento centrado en el formato de los textos que recibe mi lector RSS. Sibundoy-Translate-1.7B es un punto de partida: cualquiera puede ajustarlo para lo que necesite, como haré yo. ↩