Afstemmen — Maatwerk en fine-tuning

Modellen die uw bedrijf kennen en draaien waar uw data staat.

Een algemeen model kent uw producten, uw terminologie en uw uitzonderingen niet. Onega stemt AI af op uw werk, op de lichtste manier die door uw tests komt: eerst betere instructies en retrieval, fine-tuning wanneer het bewijs zegt dat het rendeert, en een kleiner model op uw eigen hardware wanneer kosten, latency of data dat vereisen.

01 — De ladder

De lichtste methode die door uw tests komt.

Elke trede kost meer om te bouwen en te onderhouden dan de vorige, dus we klimmen alleen hoger wanneer de evaluatieset laat zien dat de vorige trede niet volstaat.

  1. 01

    Instructies en beleid

    Prompts, outputschema's, voorbeelden en vangrails, afgestemd op uw praktijkgevallen. Snel aan te passen; geen training.

  2. 02

    Retrieval

    Antwoorden gebaseerd op uw documenten en records via embeddings, zoeken en reranking, met vermelding van de bronnen.

  3. 03

    Fine-tuning

    Open-weight-modellen, aangepast op uw goedgekeurde voorbeelden met parameter-efficiënte methoden, voor toon, opmaak, classificatie of vaktaal.

  4. 04

    Distillatie

    Een kleiner model, getraind om op uw taak een groter model te evenaren, zodat het draait op hardware die u bezit, tegen kosten die u kunt plannen.

02 — Eerst evalueren

Niets gaat live zonder evaluatieset.

Vóór enig maatwerk bouwen we een evaluatieset uit uw eigen voorbeelden. Elke optie wordt daarop gescoord: het basismodel, de afgestemde instructies, retrieval en het gefinetunede model. U ziet de scores, de fouten en de kosten voordat u kiest.

  • Testcases uit echte, goedgekeurde voorbeelden, met een holdout-steekproef waarop niemand afstemt
  • Scoringsregels, afgesproken met de mensen die het werk doen
  • Foutcategorieën vastgelegd, niet weggemiddeld
  • Kosten per verzoek en latency, gemeten op uw hardware
  • Regressieruns bij elke wijziging van model, prompt of data

03 — Uw data

Trainingsdata onder uw controle.

  • De training draait in uw omgeving of op infrastructuur die u goedkeurt. Uw data wordt niet voor training naar een modelprovider gestuurd, tenzij u daartoe besluit.
  • Een gedocumenteerde rechtsgrond en goedkeuring van de data-eigenaar voordat er persoonsgegevens worden gebruikt.
  • Afscherming of pseudonimisering van trainingsdata waar de taak dat toelaat.
  • Elke dataset, elk basismodel en elk gefinetuned model vastgelegd met versie en licentie, en opgenomen in de AI-stuklijst van OneVeer wanneer het daar draait.
  • Open-weight-licenties vóór de start van de training getoetst aan uw beoogde gebruik.

04 — Inzet en maatwerkoplossingen

Op maat gemaakt, daarna ingezet achter uw beleid.

Draait op OneVeer

Op uw hardware, achter een alias.

Een gefinetuned of gedistilleerd model wordt als GGUF verpakt, zodat OneVeer het op uw CPU of GPU kan draaien achter een gepubliceerde alias. Applicaties blijven de alias aanroepen; terugkeren naar het vorige model is een configuratiewijziging, geen release.

Producten van Onega

Geconfigureerd voor uw processen.

Beleid, aliassen en vangrails van OneVeer; categorieën, routeringsregels, sjablonen en connectors van OneMail; modelproviders van OneDesk. Elke configuratie wordt vóór de livegang getest op uw praktijkgevallen.

Oplossingen die u al hebt

Afgestemd en onder één beleid gebracht.

AI-functies in uw CRM, servicedesk of documentplatform, afgestemd en geëvalueerd op uw praktijkgevallen en, waar die het toelaten, via OneVeer gerouteerd voor één beleid en één audittrail.

05 — Hoe het verloopt

Van evaluatieset tot draaiend model.

  1. 01

    Model Evaluation Sprint · 2–3 weken

    Een evaluatieset uit uw voorbeelden, nulmetingsscores voor mogelijke modellen en methoden, een review van data en licenties, een aanbeveling en een voorstel tegen een vaste prijs.

  2. 02

    Maatwerk · 3–5 weken

    Instructies, retrieval of training zoals aanbevolen, in uw omgeving, gescoord op de holdout-steekproef.

  3. 03

    Gebruik onder toezicht · 2–3 weken

    Het aangepaste model op echt werk, met mensen die de output controleren, gemeten tegen de nulmeting.

  4. 04

    Overdracht

    Modelkaart, dataregistratie, evaluatieresultaten, regressiesuite, runtimeconfiguratie en runbook.

06 — Veelgestelde vragen

Vragen die data- en AI-teams stellen.

Hebben we fine-tuning nodig?

Vaak niet. Veel taken zijn op te lossen met duidelijke instructies, voorbeelden en retrieval. We raden fine-tuning aan wanneer de evaluatieset een kloof laat zien die daarmee niet te dichten is, of wanneer een kleiner, afgestemd model dezelfde lat haalt tegen lagere kosten op uw eigen hardware.

Welke modellen kunt u fine-tunen?

Open-weight-modellen waarvan de licentie uw beoogde gebruik toestaat, in formaten die bij uw hardware passen. Gehoste modellen kunnen worden aangepast waar de provider dat aanbiedt en uw databeleid het toestaat. De licentie en de voorwaarden ervan worden in het assessment vermeld.

Hoeveel data hebben we nodig?

Dat hangt af van de taak. De Model Evaluation Sprint laat zien of uw voorbeelden voldoende zijn, en van voldoende kwaliteit, voordat u voor training betaalt.

Wie is eigenaar van het gefinetunede model?

Het eigendom van gewichten die op uw data zijn getraind, wordt in de opdrachtomschrijving (statement of work) vastgelegd voordat de training begint. De licentievoorwaarden van het basismodel gelden daarnaast altijd.