Adaptar — Personalização e fine-tuning
Um modelo generalista não conhece os seus produtos, os seus termos nem as suas exceções. A Onega personaliza a IA para o seu trabalho da forma mais leve que passe nos seus testes: primeiro, melhores instruções e recuperação de informação; fine-tuning quando as evidências mostram que compensa; e um modelo mais pequeno no seu próprio hardware quando o custo, a latência ou os dados o exigem.
01 — A escada
Cada degrau custa mais a construir e a manter do que o anterior, por isso só subimos quando o conjunto de avaliação mostra que o degrau anterior não é suficiente.
Prompts, esquemas de saída, exemplos e salvaguardas ajustados aos seus casos. Rápidos de alterar; sem treino.
Respostas fundamentadas nos seus documentos e registos através de embeddings, pesquisa e reordenação (reranking), com as fontes visíveis.
Modelos de pesos abertos adaptados com os seus exemplos aprovados através de métodos eficientes em parâmetros, para tom, formato, classificação ou linguagem do domínio.
Um modelo mais pequeno treinado para igualar um maior na sua tarefa, para que funcione em hardware que lhe pertence, a um custo que pode planear.
02 — Primeiro, a avaliação
Antes de qualquer personalização, construímos um conjunto de avaliação a partir dos seus próprios exemplos. Cada opção é pontuada nele: o modelo de base, as instruções ajustadas, a recuperação de informação e o modelo com fine-tuning. Vê as pontuações, as falhas e o custo antes de escolher.
03 — Os seus dados
04 — Disponibilização e soluções personalizadas
Servido pelo OneVeer
Um modelo com fine-tuning ou destilado é empacotado em formato GGUF para que o OneVeer o possa servir no seu CPU ou GPU por detrás de um alias publicado. As aplicações continuam a chamar o alias; regressar ao modelo anterior é uma alteração de configuração, não uma nova versão.
Produtos da Onega
Políticas, aliases e salvaguardas do OneVeer; categorias, regras de encaminhamento, templates e conectores do OneMail; fornecedores de modelos do OneDesk. Cada configuração é testada com os seus casos antes da entrada em produção.
Soluções que já possui
Funcionalidades de IA no seu CRM, service desk ou plataforma documental, ajustadas e avaliadas com os seus casos e, quando o permitem, encaminhadas através do OneVeer para uma única política e um único registo de auditoria.
05 — Como decorre
Um conjunto de avaliação a partir dos seus exemplos, pontuações de base para os modelos e métodos candidatos, uma revisão de dados e licenças, uma recomendação e uma proposta a preço fixo.
Instruções, recuperação de informação ou treino, conforme recomendado, no seu ambiente, pontuados na amostra reservada.
O modelo personalizado em trabalho real, com pessoas a rever os seus resultados, medido face à linha de base.
Ficha do modelo (model card), registo de dados, resultados de avaliação, conjunto de testes de regressão, configuração de disponibilização e manual de operação.
06 — Perguntas frequentes
Muitas vezes, não. Muitas tarefas resolvem-se com instruções claras, exemplos e recuperação de informação. Recomendamos fine-tuning quando o conjunto de avaliação mostra uma lacuna que estes não conseguem colmatar, ou quando um modelo ajustado mais pequeno atinge o mesmo nível a um custo inferior no seu próprio hardware.
Modelos de pesos abertos cujas licenças permitam a utilização pretendida, em dimensões adequadas ao seu hardware. Os modelos alojados por fornecedores podem ser personalizados quando o fornecedor o oferece e a sua política de dados o permite. A licença e as respetivas condições são indicadas na avaliação.
Depende da tarefa. O Model Evaluation Sprint indica-lhe se os seus exemplos são suficientes, e de qualidade suficiente, antes de pagar qualquer treino.
A titularidade dos pesos treinados com os seus dados é acordada no documento de âmbito do trabalho (statement of work) antes do início do treino. Os termos da licença do modelo de base aplicam-se sempre também.