Onega

Tilpas — Tilpasning og finjustering

Modeller, der kender din forretning og kører der, hvor dine data ligger.

En generel model kender ikke dine produkter, din terminologi eller dine undtagelser. Onega tilpasser AI til dit arbejde på den letteste måde, der består dine test: bedre instruktioner og retrieval først, finjustering, når belægget viser, at det betaler sig, og en mindre model på din egen hardware, når omkostninger, latenstid eller data kræver det.

Book et Model Evaluation SprintAlle ydelser

01 — Stigen

Den letteste metode, der består dine test.

Hvert trin koster mere at bygge og vedligeholde end det foregående, så vi går kun et trin op, når evalueringssættet viser, at det forrige trin ikke er nok.

  1. 01

    Instruktioner og politik

    Prompts, outputskemaer, eksempler og sikkerhedsgrænser tilpasset dine sager. Hurtige at ændre; ingen træning.

  2. 02

    Retrieval

    Svar forankret i dine dokumenter og poster via embeddings, søgning og reranking, med kilderne vist.

  3. 03

    Finjustering

    Open-weight-modeller tilpasset på dine godkendte eksempler med parametereffektive metoder, til tone, format, klassificering eller fagsprog.

  4. 04

    Destillation

    En mindre model trænet til at matche en større på din opgave, så den kører på hardware, du ejer, til en omkostning, du kan planlægge.

02 — Evaluering først

Intet leveres uden et evalueringssæt.

Før nogen tilpasning bygger vi et evalueringssæt af dine egne eksempler. Hver mulighed scores på det: basismodellen, de tilpassede instruktioner, retrieval og den finjusterede model. Du ser scorerne, fejlene og omkostningerne, før du vælger.

  • Testcases hentet fra rigtige, godkendte eksempler med et tilbageholdt testudsnit, som ingen tilpasser efter
  • Scoringsregler aftalt med de folk, der udfører arbejdet
  • Fejlkategorier registreres, ikke udjævnes i et gennemsnit
  • Omkostning pr. forespørgsel og latenstid målt på din hardware
  • Regressionskørsler ved hver ændring af model, prompt eller data

03 — Dine data

Træningsdata under din kontrol.

  • Træningen kører i dit miljø eller på infrastruktur, du godkender. Dine data sendes ikke til en modeludbyder til træning, medmindre du beslutter det.
  • Et dokumenteret behandlingsgrundlag og dataejerens godkendelse, før personoplysninger bruges.
  • Sløring eller pseudonymisering af træningsdata, hvor opgaven tillader det.
  • Hvert datasæt, hver basismodel og hver finjusteret model registreres med version og licens og opføres i OneVeers AI-stykliste, når den afvikles der.
  • Open-weight-licenser kontrolleres mod din tilsigtede anvendelse, før træningen starter.

04 — Afvikling og tilpassede løsninger

Tilpasset og derefter afviklet bag din politik.

Afviklet af OneVeer

På din hardware, bag et alias.

En finjusteret eller destilleret model pakkes som GGUF, så OneVeer kan afvikle den på din CPU eller GPU bag et publiceret alias. Applikationer bliver ved med at kalde aliasset; at vende tilbage til den tidligere model er en konfigurationsændring, ikke en ny release.

Onegas produkter

Konfigureret til dine processer.

OneVeer-politikker, aliasser og sikkerhedsgrænser; OneMail-kategorier, routingregler, skabeloner og connectors; OneDesk-modeludbydere. Hver konfiguration testes mod dine sager før idriftsættelsen.

Løsninger, du allerede ejer

Tilpasset og samlet under én politik.

AI-funktioner i dit CRM, din servicedesk eller din dokumentplatform, tilpasset og evalueret på dine sager og, hvor de tillader det, routet gennem OneVeer for én politik og ét revisionsspor.

05 — Sådan foregår det

Fra evalueringssæt til en model i drift.

  1. 01

    Model Evaluation Sprint · 2–3 uger

    Et evalueringssæt fra dine eksempler, baselinescorer for kandidatmodeller og -metoder, en gennemgang af data og licenser, en anbefaling og et forslag til fast pris.

  2. 02

    Tilpasning · 3–5 uger

    Instruktioner, retrieval eller træning som anbefalet, i dit miljø, scoret på det tilbageholdte testudsnit.

  3. 03

    Overvåget drift · 2–3 uger

    Den tilpassede model på reelt arbejde, hvor mennesker gennemgår dens output, målt mod baselinen.

  4. 04

    Overdragelse

    Modelkort, datadokumentation, evalueringsresultater, regressionssuite, afviklingskonfiguration og driftshåndbog.

06 — Spørgsmål og svar

Spørgsmål, som data- og AI-teams stiller.

Har vi brug for finjustering?

Ofte ikke. Mange opgaver løses med klare instruktioner, eksempler og retrieval. Vi anbefaler finjustering, når evalueringssættet viser et hul, som de ikke kan lukke, eller når en mindre, finjusteret model når samme niveau til lavere omkostninger på din egen hardware.

Hvilke modeller kan I finjustere?

Open-weight-modeller, hvis licenser tillader din tilsigtede anvendelse, i størrelser, der passer til din hardware. Hostede modeller kan tilpasses, hvor udbyderen tilbyder det, og din datapolitik tillader det. Licensen og dens betingelser fremgår af vurderingen.

Hvor meget data har vi brug for?

Det afhænger af opgaven. Model Evaluation Sprint viser dig, om dine eksempler er nok og af god nok kvalitet, før du betaler for nogen træning.

Hvem ejer den finjusterede model?

Ejerskab af vægte trænet på dine data aftales i leverancebeskrivelsen (statement of work), før træningen starter. Basismodellens licensvilkår gælder altid også.

Start med et evalueringssæt.