ERP verinizle çalışan, üretimde ayakta kalan yapay zeka.
İlgili proje: Deckent, ajan orkestrasyonu projemiz
En değerli kullanım, kurumun zaten sahip olduğu yapılandırılmış veride. Sipariş, üretim, maliyet ve satın alma verisi ERP'de düzenli biçimde durduğu için model tahmin etmek zorunda kalmıyor; sayıyı sistemden okuyup yorumluyor. Teklif hazırlama, talep sınıflandırma, satın alma karşılaştırması ve rapor yorumlama bu yüzden en hızlı sonuç veren yerler.
Yapay zeka projelerinin çoğu demo aşamasında ölür. Sebep model seçimi değil, üretim gerçekleriyle hiç karşılaşmamış olmaları: gerçek veri kirli, gerçek kullanıcı beklenmedik soru sorar, gerçek maliyet ilk faturada görünür. İşi baştan üretim kısıtlarıyla kuruyoruz.
Retrieval-Augmented Generation (RAG) ile kurumunuzun kendi dokümanları, sözleşmeleri ve bilgi tabanı üzerinde çalışan soru-cevap sistemleri kuruyoruz. Model dışarıdan bilgi uydurmaz; cevabını sizin belgelerinizden alır ve hangi kayda dayandığını gösterir.
Yapay zeka ajanları, tek seferlik bir cevap yerine çok adımlı iş akışlarını yürütür: bir talebi sınıflandırır, ilgili sistemden veriyi çeker, kuralı uygular, sonucu yazar. Ajan mimarisinde asıl mesele modelin zekâsı değil, hata durumunda ne olacağıdır. Bunu baştan tasarlıyoruz.
Doğrudan erişim yerine yetki ve güvenlik sınırları içinde çalışıyoruz: sisteme yalnızca kullanıcının ve sürecin ihtiyacı kadar veri dolaşıma giriyor. Mevcut ürününüze gömülen özelliklerde ise sağlayıcıya kilitlenmeyen bir soyutlama katmanı kullanıyoruz. Model değişse de kodunuz değişmiyor.
Probleminizi, sürecinizi ve verinizi inceliyoruz. Bu aşamanın çıktısı bir teklif değil, dürüst bir cevap: bu iş yapay zekayla çözülür mü, çözülürse hangi yaklaşımla, çözülmezse neden.
Dar kapsamlı ama uçtan uca çalışan bir sürüm. Gerçek verinizle, gerçek kullanıcılarla test edilir. Başarı kriteri baştan sayıyla tanımlanır.
Ölçeklenebilir mimari, yetkilendirme, izleme, maliyet kontrolü, güvenlik sertleştirmesi ve devreye alma. Yapay zeka sistemlerinde asıl iş burada başlar.
Kullanım verisine ve loglara bakarak doğruluk ve maliyet iyileştirmesi. Yapay zeka sistemleri kurulup bırakılmaz; ölçülür ve ayarlanır.
Süreyi en çok veri kalitesi belirliyor, model seçimi değil. Veriniz düzenli ve erişilebilirse ilk çalışan sürüm hızlı çıkıyor; dağınıksa en uzun aşama veri hazırlığı oluyor. Kapsamı netleştirdikten sonra proje takvimini ve süresini paylaşıyoruz.
Vakaların büyük çoğunluğunda RAG. Fine-tuning modele yeni bilgi öğretmez, davranış ve biçim öğretir. Bilginiz sık değişiyorsa, kaynak göstermeniz gerekiyorsa veya veri hacminiz büyükse RAG doğru cevaptır. Fine-tuning'i özel bir dil, ton veya çıktı formatı gerektiğinde ekliyoruz.
Bu sizin kararınız ve mimariyi ona göre kuruyoruz. Üç seçenek var: kurumsal API sözleşmeleriyle bulut modeli (veri eğitimde kullanılmaz), Avrupa bölgesinde barındırılan bulut, veya kendi sunucunuzda çalışan açık model. KVKK kapsamındaki veriler için üçüncü seçeneği sık kullanıyoruz. Hangi verinin nereye gittiği çalışma başında yazılı olarak netleşir.
Sistemi bu ihtimali gözeterek kuruyoruz. Cevabın kaynağı gösterilir, böylece kullanıcı doğrulayabilir; güven eşiğinin altında kalan durum insana devredilir; doğruluk düzenli değerlendirme testleriyle ölçülür. Hata payı sıfıra inmez, yönetilebilir ve ölçülebilir hâle gelir.
Tek bir modele bağlı kalmıyoruz. Mimariyi model-bağımsız kuruyoruz: sağlayıcı katmanı soyutlanır, model bir yapılandırma değeri olur. Böylece daha iyi ya da daha ucuz bir model çıktığında kod değil, tek bir satır değişir.
İki kalem var: geliştirme ve işletme. Geliştirme, kapsam netleştikten sonra belirlenen bir proje bedelidir. İşletme maliyeti kullanım başına model ücreti artı altyapıdır; beklenen kullanım hacmine göre somut bir aylık tahmin olarak çıkarılır.
Bu hizmetle ilgili notlarımız.
Kurumsal projelerin büyük çoğunluğunda doğru cevap RAG'dir. Fine-tuning modele yeni bilgi öğretmez, davranış ve biçim öğretir. Bilginiz değişiyorsa, kaynak göstermeniz gerekiyorsa veya veri hacminiz büyükse RAG kullanın; sabit bir ton, format veya alan diline ihtiyacınız varsa fine-tuning ekleyin.
Pilotlar model yetersiz olduğu için değil, üretim gereksinimleri hiç planlanmadığı için ölür. En sık altı sebep: ölçülebilir başarı kriterinin olmaması, sahipsizlik, veri güncelleme akışının kurulmaması, erişim kontrolünün sonradan düşünülmesi, maliyet sürprizi ve değerlendirme altyapısının eksikliği.
Kişisel veri içeren yapay zeka projelerinde üç mimari seçenek vardır: veriyi modele göndermeden önce maskeleme, Avrupa bölgesinde barındırılan kurumsal bulut, veya kendi altyapınızda çalışan açık model. Seçim maliyet ile risk arasında yapılır; hangi verinin nereye gittiği proje başında yazılı hale getirilmelidir.
Süreci sahada gören, sistemde karşılığını kuran danışmanlık.
Sistemlerinizin birbiriyle konuşmadığı yeri onarıyoruz.
Kısa bir tanışma görüşmesi yeterli. Kapsamı birlikte netleştiririz.