Yapay Zekâ Mühendisliği

Üretimde ayakta kalan yapay zekâ özellikleri geliştiriyorum: gerçek ürünlere bağlanan dil modelleri, şirket verisi üzerinde getirme (retrieval), araçları güvenle kullanan ajanlar ve bunların etrafındaki test, güvenlik ve izleme. Bunun yanında 2018'den beri ürünlerde tahmin, risk skorlama ve araç değerlemesi için makine öğrenmesi kullanıyorum.

1. LLM ve model entegrasyonu

Her görev için kalite, gecikme ve maliyete göre model seçimi; barındırılan API'ler (OpenAI, Claude, Gemini, Perplexity) ya da llama.cpp üzerinde kendi sunucusunda çalışan Llama; bir sağlayıcı hata verdiğinde fallback yolları ve özellik başına maliyet kontrolü. Seliee her müşterinin kendi sağlayıcı anahtarını getirmesine ya da kendi modelini bağlamasına izin verir.

2. RAG mimarisi

Kaynak belgelerin alınması ve parçalanması (chunking), getirme ve yeniden sıralama (reranking), kaynak gösteren yanıtlar ve bilgiyi güncel tutan yenileme işleri. Bu sitedeki kişisel asistan yalnızca portfolyomdan yanıt verir; Seliee'nin uygulama içi asistanı ise yalnızca açık sayfaya ve soruya uyan bilgi bölümlerini yükler.

3. Ajan tabanlı yapay zekâ

Tool calling ve orkestrasyon, modelin dışında tutulan durum (state), araç başına yetkiler ve geri alınamaz işlemler için insan onayı. Seliee'nin AI Office'inde ajanlar panelin kendi araçlarıyla senaryo yürütür; yayınlama, gönderme ve harcama her zaman onay bekler. Bir MCP sunucusu aynı araçları dış ajanlara açar.

4. Değerlendirme ve kalite

Gerçek sorulardan oluşturulan test setleri, yayından önce offline, sonra online değerlendirme, prompt ve model değişiklikleri için regresyon testleri ve baştan belirlenen başarı ölçütleri. Seliee'nin AI Visibility modülü OpenAI, Claude, Gemini ve Perplexity yanıtlarının bir siteden bahsedip bahsetmediğini ölçer.

5. Güvenlik

Prompt injection ve veri sızıntısına karşı önlemler, tenant izolasyonu, her araç çağrısında yetkilendirme ve ajan işlemleri için audit trail.

6. Gözlemlenebilirlik ve operasyon

Tracing, token tüketimi, gecikme, hata oranları ve özellik başına maliyet; Kubernetes platformlarında kullandığım Graylog ve Grafana pratiğiyle üretimde izlenir.

Ürünlerde makine öğrenmesi

TensorFlow, PyTorch ve scikit-learn ile tahmin, risk skorlama, araç değerlemesi ve NLP tabanlı çeviri; crawler'lar ve veri hatlarıyla beslenir.