LoRAAjuste ligero
Entrenamos unas capas pequeñas (adaptadores) encima del modelo base, sin tocar sus pesos. Así no hace falta reentrenar el modelo completo.
Leer el paper de LoRAInvestigación en modelos pequeños
Modelos de IA
entrenados para tu empresa.
Entrenamos modelos de lenguaje pequeños para que hagan una tarea concreta de tu negocio.
Los ajustamos con tus datos y tus procesos usando LoRA y QLoRA, y cuidamos la privacidad de la información desde el primer día.
Tus datos → tu modelo
SLMSmall Language Model
Investigación aplicada a empresasSLM / LoRA / QLoRA / Privacidad
No siempre hace falta
un modelo gigante.
Nuestra hipótesis es que el 90% del trabajo diario de una empresa se puede resolver con modelos pequeños y especializados.
Es una hipótesis, no una garantía. La comprobamos caso por caso, con los datos y las tareas de cada negocio.
Tomamos una tarea concreta y buscamos el modelo más pequeño que la haga bien. Medimos calidad, velocidad y recursos antes de pasar a un modelo más grande.
Cómo lo hacemosPartimos de un modelo abierto
y lo ajustamos a tu tarea.
Con el ajuste fino, el modelo aprende el vocabulario, los formatos y los criterios de una tarea de tu empresa.
QLoRAMenos memoria para entrenar
Es LoRA sobre un modelo base comprimido a 4 bits. Usa mucha menos memoria al entrenar, y después comprobamos que la calidad se mantenga con tus casos reales.
Leer el paper de QLoRA- 01
Definir
Elegimos contigo la tarea, los datos y cómo vamos a medir el resultado.
- 02
Entrenar
Preparamos los ejemplos y entrenamos el modelo con LoRA o QLoRA.
- 03
Evaluar
Lo probamos con casos que no vio en el entrenamiento y revisamos dónde falla.
Privacidad
El modelo corre
en tus servidores.
Una vez entrenado, el modelo se instala en tu infraestructura. Tú decides dónde se ejecuta, quién tiene acceso y para qué se usa.
No pagas una suscripción mensual por usarlo. Los costos de equipos, energía y mantenimiento son los de tu propia operación.
- Usamos solo los datos que la tarea necesita.
- Antes de entrenar acordamos quién accede y para qué.
- El modelo corre en tus equipos.
Tu infraestructura
Tus datosInformación de tu negocio
Tu modeloEntrenado para una tareaInfraestructura propia en Caracas
640 GB de RAM
para tus experimentos.
Los equipos son nuestros y están en Caracas. Ahí entrenamos y probamos los modelos, sin depender de terceros.
Seguimos creciendo. La meta es llegar a 5 TB de RAM.
Modelos entrenados
Modelos que
hemos entrenado.
De cada modelo contamos qué tarea hace, cómo lo evaluamos y qué resultados dio.
Modelo
Un modelo pequeño, resultados medidos: extracción de comprobantes de pago móvil
Especializamos GLM-OCR (~0,9B) con LoRA para extraer referencia, monto, moneda y fecha de comprobantes de pago móvil. En la prueba automática pasó de 20% a 100% de casos completos; en la comprobación visual, de 35,7% a 78,6%.
Ver el modeloTodavía no hay modelos publicados.
Publicaciones
Notas y
experimentos.
Lo que vamos probando en Oka Research, publicado en nuestro blog.
Un modelo pequeño, resultados medidos: extracción de comprobantes de pago móvil
Especializamos GLM-OCR (~0,9B) con LoRA para extraer referencia, monto, moneda y fecha de comprobantes de pago móvil. En la prueba automática pasó de 20% a 100% de casos completos; en la comprobación visual, de 35,7% a 78,6%.
LeerThree AI Agents, One Refactor: MiniMax M3, Claude Opus 4.8, and Fable 5
Three AI agents got the same Laravel task: remove the Livewire starter kit and Fortify, keep Filament. MiniMax M3 cost $0.80, Claude Opus 4.8 $4.80, Fable 5 $7.00. All deleted ~3,600 lines almost identically, then diverged on the edges: MiniMax left a broken composer.lock, Fable never removed the dependencies, and Opus — the only one to verify its work — still missed traces the cheapest model caught. Price predicted nothing; none was mergeable without review.
LeerPreguntas frecuentes
¿Esto sirve para una empresa como la mía?
Puede servir si tienes datos y una tarea clara. Por ejemplo: clasificar solicitudes, sacar datos de documentos o responder preguntas internas del equipo. Antes de empezar revisamos si el caso es viable.
¿Tiene un costo mensual?
No pagas una suscripción mensual por usar el modelo. Sí hay costos de equipos, energía y mantenimiento, y los revisamos contigo al evaluar el proyecto.
¿Qué es un SLM?
Son las siglas de Small Language Model, un modelo de lenguaje pequeño. Lo entrenamos para una tarea concreta y medimos si da la calidad que necesitas con los equipos que tienes.
¿Necesito tener los datos listos?
No. Primero vemos qué información tienes, si se puede usar y qué ejemplos faltan. La calidad de los datos importa tanto como la cantidad.
¿El 90% es un resultado ya demostrado?
No. Es nuestra hipótesis. Cada proyecto se evalúa por separado, y algunas tareas necesitan modelos más grandes u otro enfoque.
¿Mis datos se usan para otros proyectos?
Solo usamos tus datos para lo que autorices. Antes de empezar acordamos cómo se tratan, quién accede y cuánto tiempo se guardan. En la primera conversación no envíes información sensible por WhatsApp.
Contacto
¿Tienes una tarea
para un modelo?
Cuéntanos qué quieres automatizar y te decimos si un modelo pequeño puede hacerlo.
Escribir a Oka Research