Onega

Tilpass — Tilpasning og finjustering

Modeller som kjenner virksomheten din og kjører der dataene dine ligger.

En generell modell kjenner ikke produktene, fagbegrepene eller unntakene dine. Onega tilpasser KI til arbeidet ditt på den letteste måten som består testene dine: bedre instruksjoner og gjenfinning først, finjustering når resultatene viser at det lønner seg, og en mindre modell på din egen maskinvare når kostnad, latens eller data krever det.

Be om en Model Evaluation SprintAlle tjenester

01 — Stigen

Den letteste metoden som består testene dine.

Hvert trinn koster mer å bygge og vedlikeholde enn det forrige, så vi klatrer bare når evalueringssettet viser at det forrige trinnet ikke er nok.

  1. 01

    Instruksjoner og policy

    Prompter, utdataskjemaer, eksempler og sikkerhetsgrenser tilpasset sakene dine. Raske å endre; ingen trening.

  2. 02

    Gjenfinning

    Svar forankret i dokumentene og registrene dine gjennom embeddinger, søk og omrangering, med kildene synlige.

  3. 03

    Finjustering

    Modeller med åpne vekter tilpasset på dine godkjente eksempler med parametereffektive metoder, for tone, format, klassifisering eller fagspråk.

  4. 04

    Destillering

    En mindre modell trent til å matche en større på oppgaven din, slik at den kjører på maskinvare du eier, til en kostnad du kan planlegge.

02 — Evaluering først

Ingenting leveres uten et evalueringssett.

Før noen tilpasning bygger vi et evalueringssett av dine egne eksempler. Hvert alternativ måles på det: basismodellen, de justerte instruksjonene, gjenfinning og den finjusterte modellen. Du ser resultatene, feilene og kostnaden før du velger.

  • Testtilfeller hentet fra reelle, godkjente eksempler, med et tilbakeholdt utvalg som ingen justerer mot
  • Vurderingsregler avtalt med dem som gjør arbeidet
  • Feilkategorier registrert, ikke midlet bort
  • Kostnad per forespørsel og latens målt på din maskinvare
  • Regresjonskjøringer ved hver endring av modell, prompt eller data

03 — Dine data

Treningsdata under din kontroll.

  • Treningen kjører i ditt miljø eller på infrastruktur du godkjenner. Dataene dine sendes ikke til en modelleverandør for trening med mindre du bestemmer det.
  • Et dokumentert rettslig grunnlag og godkjenning fra dataeieren før personopplysninger brukes.
  • Sladding eller pseudonymisering av treningsdata der oppgaven tillater det.
  • Hvert datasett, hver basismodell og hver finjustert modell registreres med versjon og lisens, og føres opp i OneVeers KI-stykkliste når de kjøres der.
  • Lisenser for åpne vekter kontrolleres mot den tiltenkte bruken før treningen starter.

04 — Modellkjøring og tilpassede løsninger

Tilpasset, deretter kjørt bak din policy.

Kjørt av OneVeer

På din maskinvare, bak et alias.

En finjustert eller destillert modell pakkes som GGUF, slik at OneVeer kan kjøre den på CPU-en eller GPU-en din bak et publisert alias. Applikasjonene fortsetter å kalle aliaset; å gå tilbake til den forrige modellen er en konfigurasjonsendring, ikke en ny utgivelse.

Onegas produkter

Konfigurert etter prosessene dine.

Policyer, aliaser og sikkerhetsgrenser i OneVeer; kategorier, rutingsregler, maler og koblinger i OneMail; modelleverandører i OneDesk. Hver konfigurasjon testes mot sakene dine før produksjonsstart.

Løsninger du allerede eier

Justert og samlet under én policy.

KI-funksjoner i CRM-systemet, servicedesken eller dokumentplattformen din, justert og evaluert på sakene dine og, der de tillater det, rutet gjennom OneVeer for én policy og ett revisjonsspor.

05 — Slik foregår det

Fra evalueringssett til en modell i drift.

  1. 01

    Model Evaluation Sprint · 2–3 uker

    Et evalueringssett av eksemplene dine, nullpunktsmålinger for aktuelle modeller og metoder, en gjennomgang av data og lisenser, en anbefaling og et tilbud til fast pris.

  2. 02

    Tilpasning · 3–5 uker

    Instruksjoner, gjenfinning eller trening etter anbefalingen, i ditt miljø, målt på det tilbakeholdte utvalget.

  3. 03

    Overvåket drift · 2–3 uker

    Den tilpassede modellen på reelt arbeid, med folk som gjennomgår utdataene, målt mot nullpunktet.

  4. 04

    Overlevering

    Modellkort, dataoversikt, evalueringsresultater, regresjonstester, konfigurasjon for modellkjøring og driftshåndbok.

06 — Vanlige spørsmål

Spørsmål data- og KI-team stiller.

Trenger vi finjustering?

Ofte ikke. Mange oppgaver løses med tydelige instruksjoner, eksempler og gjenfinning. Vi anbefaler finjustering når evalueringssettet viser et gap disse ikke kan tette, eller når en mindre, justert modell når samme nivå til lavere kostnad på din egen maskinvare.

Hvilke modeller kan dere finjustere?

Modeller med åpne vekter der lisensen tillater den tiltenkte bruken, i størrelser som passer maskinvaren din. Hostede modeller kan tilpasses der leverandøren tilbyr det og datapolicyen deres tillater det. Lisensen og vilkårene i den oppgis i vurderingen.

Hvor mye data trenger vi?

Det avhenger av oppgaven. Model Evaluation Sprint viser om eksemplene deres er nok, og av god nok kvalitet, før dere betaler for noen trening.

Hvem eier den finjusterte modellen?

Eierskap til vekter trent på dataene dine avtales i oppdragsbeskrivelsen før treningen starter. Lisensvilkårene for basismodellen gjelder alltid i tillegg.

Start med et evalueringssett.