Adaptar — Personalización y ajuste fino

Modelos que conocen su negocio y se ejecutan donde residen sus datos.

Un modelo generalista no conoce sus productos, sus términos ni sus excepciones. Onega personaliza la IA para su trabajo de la forma más ligera que supere sus pruebas: primero, mejores instrucciones y recuperación; ajuste fino cuando las evidencias indican que compensa; y un modelo más pequeño en su propio hardware cuando el coste, la latencia o los datos lo exigen.

01 — La escalera

El método más ligero que supere sus pruebas.

Cada peldaño cuesta más de construir y de mantener que el anterior, así que solo subimos cuando el conjunto de evaluación muestra que el peldaño previo no basta.

  1. 01

    Instrucciones y políticas

    Prompts, esquemas de salida, ejemplos y salvaguardas ajustados a sus casos. Rápidos de cambiar; sin entrenamiento.

  2. 02

    Recuperación

    Respuestas fundamentadas en sus documentos y registros mediante embeddings, búsqueda y reordenación (reranking), con las fuentes a la vista.

  3. 03

    Ajuste fino

    Modelos de pesos abiertos adaptados con sus ejemplos aprobados mediante métodos eficientes en parámetros, para el tono, el formato, la clasificación o el lenguaje del sector.

  4. 04

    Destilación

    Un modelo más pequeño entrenado para igualar a uno más grande en su tarea, de modo que se ejecute en hardware de su propiedad con un coste que pueda planificar.

02 — Primero, la evaluación

Nada se pone en producción sin un conjunto de evaluación.

Antes de cualquier personalización, creamos un conjunto de evaluación a partir de sus propios ejemplos. Cada opción se puntúa con él: el modelo base, las instrucciones ajustadas, la recuperación y el modelo con ajuste fino. Usted ve las puntuaciones, los fallos y el coste antes de elegir.

  • Casos de prueba extraídos de ejemplos reales y aprobados, con una muestra reservada con la que nadie ajusta el modelo
  • Reglas de puntuación acordadas con las personas que hacen el trabajo
  • Categorías de fallos registradas, no diluidas en una media
  • Coste por solicitud y latencia medidos en su hardware
  • Pruebas de regresión con cada cambio de modelo, prompt o datos

03 — Sus datos

Datos de entrenamiento bajo su control.

  • El entrenamiento se realiza en su entorno o en una infraestructura que usted apruebe. Sus datos no se envían a un proveedor de modelos para entrenamiento salvo que usted lo decida.
  • Una base jurídica documentada y la aprobación del propietario de los datos antes de usar cualquier dato personal.
  • Ocultación o seudonimización de los datos de entrenamiento cuando la tarea lo permite.
  • Cada conjunto de datos, modelo base y modelo ajustado queda registrado con su versión y su licencia, y figura en la lista de materiales de IA de OneVeer cuando se sirve allí.
  • Licencias de pesos abiertos contrastadas con el uso que usted prevé antes de empezar el entrenamiento.

04 — Servicio de modelos y soluciones personalizadas

Personalizados y, después, servidos detrás de su política.

Servido por OneVeer

En su hardware, detrás de un alias.

Un modelo ajustado o destilado se empaqueta en formato GGUF para que OneVeer pueda servirlo en su CPU o GPU detrás de un alias publicado. Las aplicaciones siguen llamando al alias; volver al modelo anterior es un cambio de configuración, no una nueva versión.

Productos de Onega

Configurados según sus procesos.

Políticas, alias y salvaguardas de OneVeer; categorías, reglas de enrutamiento, plantillas y conectores de OneMail; proveedores de modelos de OneDesk. Cada configuración se prueba con sus casos antes de la puesta en producción.

Soluciones que ya tiene

Ajustadas y bajo una sola política.

Funciones de IA de su CRM, su plataforma de asistencia técnica o su plataforma documental, ajustadas y evaluadas con sus casos y, cuando lo permiten, enrutadas a través de OneVeer para tener una sola política y un solo registro de auditoría.

05 — Cómo se desarrolla

Del conjunto de evaluación a un modelo en servicio.

  1. 01

    Model Evaluation Sprint · 2–3 semanas

    Un conjunto de evaluación a partir de sus ejemplos, puntuaciones de línea de base para los modelos y métodos candidatos, una revisión de datos y licencias, una recomendación y una propuesta a precio cerrado.

  2. 02

    Personalización · 3–5 semanas

    Instrucciones, recuperación o entrenamiento según lo recomendado, en su entorno, con puntuación sobre la muestra reservada.

  3. 03

    Ejecución supervisada · 2–3 semanas

    El modelo personalizado en trabajo real, con personas que revisan sus resultados, medido frente a la línea de base.

  4. 04

    Traspaso

    Ficha del modelo (model card), registro de datos, resultados de evaluación, batería de regresión, configuración de servicio y manual de operaciones.

06 — Preguntas frecuentes

Preguntas que hacen los equipos de datos e IA.

¿Necesitamos ajuste fino?

A menudo, no. Muchas tareas se resuelven con instrucciones claras, ejemplos y recuperación. Recomendamos el ajuste fino cuando el conjunto de evaluación muestra una carencia que estos no pueden cerrar, o cuando un modelo ajustado más pequeño alcanza el mismo nivel con un coste menor en su propio hardware.

¿Qué modelos pueden ajustar?

Modelos de pesos abiertos cuyas licencias permitan el uso que usted prevé, en tamaños adecuados a su hardware. Los modelos alojados por terceros pueden personalizarse cuando el proveedor lo ofrece y su política de datos lo permite. La licencia y sus condiciones se indican en el diagnóstico.

¿Cuántos datos necesitamos?

Depende de la tarea. El Model Evaluation Sprint le indica si sus ejemplos son suficientes, y de calidad suficiente, antes de que pague por ningún entrenamiento.

¿Quién es el propietario del modelo ajustado?

La propiedad de los pesos entrenados con sus datos se acuerda en la declaración de trabajo (SOW) antes de empezar el entrenamiento. Además, siempre se aplican las condiciones de licencia del modelo base.