Onega

Uyarlama — Özelleştirme ve ince ayar

İşinizi tanıyan ve verilerinizin bulunduğu yerde çalışan modeller.

Genel amaçlı bir model ürünlerinizi, terimlerinizi ya da istisnalarınızı bilmez. Onega, yapay zekâyı testlerinizden geçen en hafif yöntemle işinize uyarlar: önce daha iyi talimatlar ve bilgi erişimi, kanıtlar karşılığını verdiğini gösterdiğinde ince ayar, maliyet, gecikme ya da veriler gerektirdiğinde ise kendi donanımınızda daha küçük bir model.

Model Evaluation Sprint talep edinTüm hizmetler

01 — Basamaklar

Testlerinizden geçen en hafif yöntem.

Her basamağın geliştirilmesi ve bakımı bir öncekinden daha maliyetlidir; bu yüzden yalnızca değerlendirme seti önceki basamağın yetmediğini gösterdiğinde bir üst basamağa çıkarız.

  1. 01

    Talimatlar ve politika

    Vakalarınıza göre ayarlanan istemler, çıktı şemaları, örnekler ve koruma sınırları. Değiştirmesi hızlıdır; eğitim gerekmez.

  2. 02

    Bilgi erişimi

    Gömmeler (embeddings), arama ve yeniden sıralama aracılığıyla belgelerinize ve kayıtlarınıza dayanan, kaynakları gösterilen yanıtlar.

  3. 03

    İnce ayar

    Ton, format, sınıflandırma ya da alan diline yönelik olarak, parametre açısından verimli yöntemlerle onaylı örnekleriniz üzerinde uyarlanan açık ağırlıklı modeller.

  4. 04

    Damıtma

    Göreviniz üzerinde daha büyük bir modelle aynı düzeye ulaşacak şekilde eğitilen daha küçük bir model; böylece size ait donanımda, planlayabileceğiniz bir maliyetle çalışır.

02 — Önce değerlendirme

Değerlendirme seti olmadan hiçbir şey yayına alınmaz.

Herhangi bir özelleştirmeden önce kendi örneklerinizden bir değerlendirme seti oluştururuz. Her seçenek bu set üzerinde puanlanır: temel model, ayarlanmış talimatlar, bilgi erişimi ve ince ayar yapılmış model. Seçim yapmadan önce puanları, hataları ve maliyeti görürsünüz.

  • Gerçek ve onaylı örneklerden derlenen test vakaları; kimsenin üzerinde ayar yapmadığı ayrılmış bir test örneklemiyle (holdout)
  • İşi yapan kişilerle birlikte kararlaştırılan puanlama kuralları
  • Ortalamada kaybolmak yerine ayrı ayrı kaydedilen hata kategorileri
  • Donanımınızda ölçülen istek başına maliyet ve gecikme
  • Her model, istem ya da veri değişikliğinde regresyon testleri

03 — Verileriniz

Eğitim verileri sizin denetiminizde.

  • Eğitim, ortamınızda ya da onayladığınız altyapıda çalışır. Siz karar vermedikçe verileriniz eğitim için bir model sağlayıcısına gönderilmez.
  • Herhangi bir kişisel veri kullanılmadan önce belgelenmiş bir hukuki dayanak ve veri sahibinin onayı.
  • Görevin izin verdiği yerlerde eğitim verilerinin karartılması ya da takma adlandırılması.
  • Her veri seti, temel model ve ince ayar yapılmış model sürümü ve lisansıyla kaydedilir; OneVeer'da sunulduğunda OneVeer'ın YZ malzeme listesinde yer alır.
  • Açık ağırlıklı model lisansları, eğitim başlamadan önce amaçladığınız kullanıma göre kontrol edilir.

04 — Sunum ve özelleştirilmiş çözümler

Önce özelleştirilir, sonra politikanızın arkasında sunulur.

OneVeer ile sunulur

Donanımınızda, bir takma adın arkasında.

İnce ayar yapılmış ya da damıtılmış bir model GGUF olarak paketlenir; böylece OneVeer onu yayımlanmış bir takma adın arkasında CPU'nuzda ya da GPU'nuzda sunabilir. Uygulamalar takma adı çağırmaya devam eder; önceki modele dönmek yeni bir sürüm değil, bir yapılandırma değişikliğidir.

Onega ürünleri

Süreçlerinize göre yapılandırılır.

OneVeer politikaları, takma adları ve koruma sınırları; OneMail kategorileri, yönlendirme kuralları, şablonları ve bağlayıcıları; OneDesk model sağlayıcıları. Her yapılandırma canlıya geçmeden önce vakalarınız üzerinde test edilir.

Hâlihazırda sahip olduğunuz çözümler

Ayarlanır ve tek bir politika altında toplanır.

CRM'inizdeki, servis masanızdaki ya da doküman platformunuzdaki yapay zekâ özellikleri vakalarınız üzerinde ayarlanır ve değerlendirilir; izin verdikleri durumlarda tek bir politika ve tek bir denetim izi için OneVeer üzerinden yönlendirilir.

05 — Nasıl işler

Değerlendirme setinden sunulan bir modele.

  1. 01

    Model Evaluation Sprint · 2–3 hafta

    Örneklerinizden oluşturulan bir değerlendirme seti, aday modeller ve yöntemler için referans puanlar, bir veri ve lisans incelemesi, bir öneri ve sabit fiyatlı bir teklif.

  2. 02

    Özelleştirme · 3–5 hafta

    Önerildiği şekilde talimatlar, bilgi erişimi ya da eğitim; ortamınızda uygulanır ve ayrılmış test örneklemi (holdout) üzerinde puanlanır.

  3. 03

    Gözetim altında çalıştırma · 2–3 hafta

    Özelleştirilmiş model, çıktılarını insanların incelediği gerçek işlerde çalışır ve referans değerlere göre ölçülür.

  4. 04

    Devir teslim

    Model kartı, veri kaydı, değerlendirme sonuçları, regresyon test paketi, sunum yapılandırması ve işletim kılavuzu (runbook).

06 — SSS

Veri ve yapay zekâ ekiplerinin sorduğu sorular.

İnce ayara ihtiyacımız var mı?

Çoğu zaman hayır. Birçok görev net talimatlar, örnekler ve bilgi erişimiyle çözülür. İnce ayarı, değerlendirme seti bunların kapatamadığı bir açık gösterdiğinde ya da ince ayar yapılmış daha küçük bir model aynı çıtayı kendi donanımınızda daha düşük maliyetle karşıladığında öneririz.

Hangi modellere ince ayar yapabilirsiniz?

Lisansı amaçladığınız kullanıma izin veren ve donanımınıza uygun boyutlardaki açık ağırlıklı modeller. Barındırılan modeller, sağlayıcının bunu sunduğu ve veri politikanızın izin verdiği durumlarda özelleştirilebilir. Lisans ve koşulları değerlendirme raporunda belirtilir.

Ne kadar veriye ihtiyacımız var?

Göreve bağlıdır. Model Evaluation Sprint, herhangi bir eğitime ödeme yapmadan önce örneklerinizin yeterli olup olmadığını ve kalitesinin yeterince iyi olup olmadığını size gösterir.

İnce ayar yapılmış modelin sahibi kim olur?

Verileriniz üzerinde eğitilen ağırlıkların sahipliği, eğitim başlamadan önce iş tanımı belgesinde (statement of work) kararlaştırılır. Temel modelin lisans koşulları da her zaman geçerlidir.

Bir değerlendirme setiyle başlayın.