Dopasowywanie — Dostosowanie i dostrajanie modeli
Model ogólny nie zna Państwa produktów, terminologii ani wyjątków. Onega dostosowuje AI do Państwa pracy możliwie najlżejszą metodą, która przechodzi Państwa testy: najpierw lepsze instrukcje i wyszukiwanie kontekstowe, dostrajanie (fine-tuning) wtedy, gdy dowody wskazują, że się opłaca, a mniejszy model na Państwa własnym sprzęcie, gdy wymagają tego koszty, opóźnienia lub dane.
01 — Drabina metod
Każdy kolejny szczebel jest droższy w budowie i utrzymaniu niż poprzedni, dlatego wchodzimy wyżej tylko wtedy, gdy zbiór ewaluacyjny pokazuje, że poprzedni szczebel nie wystarcza.
Prompty, schematy danych wyjściowych, przykłady i zabezpieczenia dopasowane do Państwa przypadków. Szybkie do zmiany; bez treningu.
Odpowiedzi oparte na Państwa dokumentach i rekordach dzięki osadzeniom (embeddings), wyszukiwaniu i ponownemu rankingowi (reranking), z widocznymi źródłami.
Modele o otwartych wagach dostosowane na podstawie zatwierdzonych przez Państwa przykładów metodami efektywnymi parametrycznie, pod kątem tonu, formatu, klasyfikacji lub języka dziedzinowego.
Mniejszy model wytrenowany tak, by dorównywał większemu w Państwa zadaniu, dzięki czemu działa na sprzęcie, który jest Państwa własnością, przy kosztach, które można zaplanować.
02 — Najpierw ewaluacja
Przed jakimkolwiek dostosowaniem budujemy zbiór ewaluacyjny z Państwa własnych przykładów. Każdy wariant jest na nim oceniany: model bazowy, dopracowane instrukcje, wyszukiwanie kontekstowe i model dostrojony. Widzą Państwo wyniki, błędy i koszty, zanim dokonają wyboru.
03 — Państwa dane
04 — Udostępnianie i dostosowane rozwiązania
Udostępnianie przez OneVeer
Dostrojony lub zdestylowany model jest pakowany w formacie GGUF, aby OneVeer mógł go udostępniać na Państwa CPU lub GPU za opublikowanym aliasem. Aplikacje nadal wywołują alias; powrót do poprzedniego modelu to zmiana konfiguracji, a nie nowe wydanie.
Produkty Onega
Polityki, aliasy i zabezpieczenia OneVeer; kategorie, reguły routingu, szablony i konektory OneMail; dostawcy modeli w OneDesk. Każda konfiguracja jest testowana na Państwa przypadkach przed uruchomieniem produkcyjnym.
Rozwiązania, które już Państwo mają
Funkcje AI w Państwa systemie CRM, service desk lub platformie dokumentów, dostrojone i ocenione na Państwa przypadkach oraz, jeśli na to pozwalają, kierowane przez OneVeer, aby obowiązywała jedna polityka i jedna ścieżka audytu.
05 — Przebieg
Zbiór ewaluacyjny z Państwa przykładów, wyniki bazowe dla modeli i metod kandydujących, przegląd danych i licencji, rekomendacja oraz oferta w stałej cenie.
Instrukcje, wyszukiwanie kontekstowe lub trening zgodnie z rekomendacją, w Państwa środowisku, z oceną na wydzielonej próbce testowej.
Dostosowany model przy rzeczywistej pracy, z ludźmi przeglądającymi jego wyniki, mierzony względem punktu odniesienia.
Karta modelu, rejestr danych, wyniki ewaluacji, zestaw testów regresyjnych, konfiguracja udostępniania i runbook.
06 — Pytania i odpowiedzi
Często nie. Wiele zadań rozwiązują jasne instrukcje, przykłady i wyszukiwanie kontekstowe. Rekomendujemy dostrajanie, gdy zbiór ewaluacyjny wykazuje lukę, której te metody nie są w stanie zamknąć, lub gdy mniejszy dostrojony model osiąga ten sam poziom niższym kosztem na Państwa własnym sprzęcie.
Modele o otwartych wagach, których licencje dopuszczają zamierzone przez Państwa zastosowanie, w rozmiarach dopasowanych do Państwa sprzętu. Modele hostowane można dostosować, jeśli dostawca to oferuje, a Państwa polityka dotycząca danych na to pozwala. Licencja i jej warunki są podane w analizie.
To zależy od zadania. Model Evaluation Sprint pokazuje, czy Państwa przykładów jest wystarczająco dużo i czy są wystarczająco dobrej jakości, zanim zapłacą Państwo za jakikolwiek trening.
Własność wag trenowanych na Państwa danych jest uzgadniana w umowie określającej zakres prac (statement of work) przed rozpoczęciem treningu. Zawsze obowiązują również warunki licencji modelu bazowego.