Kendi verinizle çalışan yapay zekâ entegrasyonları

Genel bir dil modeli şirketinizin ürün kataloğunu, prosedürlerini ya da sözleşmelerini bilmez. RAG (getirmeyle güçlendirilmiş üretim) mimarisinde model, soruyu cevaplamadan önce yalnızca sizin belgelerinizde arama yapar ve cevabını bu kaynaklara dayandırır. Cevabın hangi belgeden geldiği kullanıcıya gösterilebilir.

Bu sistemleri sıfırdan, belgelerinize ve yetki yapınıza göre kuruyoruz. Belgelerin bölünmesi ve dizinlenmesi, vektör veritabanı, arama ve sıralama, yetki kontrolü ve cevap kalitesinin ölçülmesi projenin parçasıdır. Bir çalışan hangi belgelere erişebiliyorsa asistan da o çalışana yalnızca onlardan cevap verir.

Çoğu kurumda en hızlı fayda, zaten kullanılan yazılımın içinde ortaya çıkar. ERP, CRM ya da size özel geliştirilmiş bir sisteme; gelen talepleri sınıflandıran, uzun kayıtları özetleyen, raporu düz bir soruyla hazırlayan özellikler ekliyoruz.

Fatura, sipariş, irsaliye ve teklif gibi belgelerden veriyi okuyup ilgili sisteme aktaran akışlar da bu kapsamdadır. Yapay zekânın emin olmadığı kayıtlar otomatik işlenmez, kontrol için bir çalışana düşer.

OpenAI (ChatGPT), Anthropic (Claude) ve Google (Gemini) modelleriyle çalışıyoruz. Her iş için doğruluk, hız ve maliyet açısından uygun modeli örnek sorular üzerinde ölçerek seçiyoruz. Sistemi tek bir sağlayıcıya bağlı kurmuyoruz; model, yapılandırma değiştirilerek değiştirilebilir.

Verinin kurum dışına çıkmaması gereken işlerde açık kaynak modelleri kendi sunucunuzda çalıştırıyoruz. Kişisel verilerin işlenmesi KVKK kapsamında proje başında planlanır.

Her süreç yapay zekâdan fayda görmez. Yapay zekâ danışmanlığında süreçlerinizi inceler, yapay zekânın gerçekten zaman kazandıracağı işleri belirler, beklenen faydayı ve maliyeti yazılı olarak ortaya koyarız. Uygun bulunan iş küçük bir deneme sürümüyle başlar; sonuç ölçüldükten sonra yaygınlaştırılır.

Aynı mimariyi kendi geliştirdiğimiz Vesta Partner’da kullanıyoruz. Vesta Partner, Instagram işletme hesaplarına gelen mesajları işletmenin ürün ve kural bilgisinden RAG ile yanıtlayan, mesajdan sipariş alan ve stoğu güncel tutan bir yapay zekâ asistanıdır. Meta’nın resmî mesajlaşma altyapısıyla çalışır, Claude ve OpenAI modelleri arasında yapılandırmayla geçiş yapabilir.