İçeriğe geç
Yapay Zekâ Entegrasyonu ve Otomasyon

Yerel Yapay Zekâ Kurulumu (Şirket İçi LLM)

Açık kaynak yapay zekâ modellerini kendi sunucunuza kuruyoruz: model ve donanım seçimi, şirket verinizle çalışan asistan (RAG) ve mevcut sistemlere entegrasyon.

Yerel Yapay Zekâ Kurulumu (Şirket İçi LLM)

Müşteri verisi, sözleşmeler veya iç dokümanlar gibi dışarıya gönderilmemesi gereken bilgilerle çalışıyorsanız, yapay zekâyı bulut servisleri yerine kendi sunucunuzda çalıştırabilirsiniz. Llama, Qwen, Mistral veya Gemma gibi açık kaynak modelleri ihtiyacınıza göre seçiyor, Ollama ya da vLLM gibi araçlarla şirketinizin sunucusuna kuruyoruz. Böylece istekler şirket ağınızda işlenir; modelin hangi veriye eriştiğine siz karar verirsiniz.

Kurulumda neler var

  • Model seçimi

    Görev, dil desteği ve donanım bütçenize göre uygun açık kaynak modeli birlikte seçiyoruz.

  • Donanım ve GPU önerisi

    Kullanıcı sayısı ve beklenen yüke göre sunucu ve GPU kapasitesini yazılı olarak öneriyoruz; donanımı siz ya da tedarikçiniz satın alırsınız.

  • Kurulum ve yayına alma

    Modeli Ollama veya vLLM ile sunucunuza kuruyor, ekibinizin kullanacağı arayüzü ya da API'yi hazırlıyoruz.

  • Şirket verinizle asistan (RAG)

    Dokümanlarınızı şirket ağından çıkmadan aranabilir hale getirip yerel modele bağlıyoruz.

  • Sistem entegrasyonu

    Yerel modeli CRM, ERP veya kendi sunucunuzdaki n8n iş akışlarına bağlıyoruz.

  • Hukuki uyum ve KVKK

    Anlaşmalı hukuk firmamızla paralel çalışıyoruz: projenin hukuki ve KVKK süreçleri bu firma tarafından incelenip onaylanır. Bu hizmet pakete dahildir.

Yerel kurulum ne zaman mantıklı

  • Hassas veriyle çalışıyorsanız

    Müşteri, sağlık, finans veya hukuk verisi gibi şirket dışına gönderilmemesi gereken bilgilerle çalışan ekipler için.

  • Kapalı ağ gerekiyorsa

    İnternete açık olmayan ağlarda çalışması gereken sistemler için.

  • Kullanım yoğunsa

    Çok sayıda istekte, kullanım başına API ücreti yerine sabit sunucu maliyeti daha öngörülebilir olabilir.

  • Bulutun daha pratik olduğu durumlar

    Düşük hacimli veya çok genel görevlerde bulut modelleri daha uygun olabilir; keşifte iki seçeneği kendi örneklerinizle karşılaştırıyoruz.

Nerede çalışabilir

  • Şirket içi sunucu
  • Özel bulut (VPC)
  • Kapalı ağ
  • n8n (kendi sunucunuzda)
  • CRM / ERP
  • Doküman arşivi

Nasıl çalışıyoruz

  1. Keşif

    Ücretsiz ön görüşmede süreçlerinizi ve kullandığınız sistemleri dinliyor, yapay zekânın ilk nerede işe yarayacağını belirliyoruz.

  2. Teklif

    Kapsamı, entegrasyonları ve fiyata dahil olmayan giderleri (API, barındırma, KDV) tek tek gösteren net bir teklif sunuyoruz.

  3. Kurulum ve test

    İş akışlarını ve asistanı kuruyor, gerçek örneklerle test ediyor ve ekibinizle birlikte yayına alıyoruz.

  4. Bakım

    Yayından sonra sonuçları izliyor; model ve iş akışı güncellemelerini isteğe bağlı bakımla sürdürüyoruz.

Veri ve gizlilik

  • Kurulumdan önce veri akışını belgeliyoruz: hangi veri hangi servise gidiyor, nerede saklanıyor, kim erişiyor.
  • Modelin ihtiyaç duymadığı kişisel verileri göndermeden önce maskeliyoruz.
  • Kullanıcıya yapay zekâ ile konuştuğunu açıkça belirtiyoruz.
  • Model ve barındırma seçeneğini veri gizliliği koşullarınıza göre öneriyoruz; gerekirse modeli kendi sunucunuza kuruyoruz.
  • Hukuki ve KVKK süreçleri anlaşmalı hukuk firmamız tarafından incelenip onaylanır; bu hizmet pakete dahildir.

Sıkça Sorulan Sorular

Yerel yapay zekâ ChatGPT kadar iyi çalışır mı?

Göreve göre değişir. Özetleme, sınıflandırma ve doküman içinde arama gibi işlerde açık kaynak modeller çoğu zaman yeterli olur; çok genel veya karmaşık görevlerde büyük bulut modelleri daha güçlü olabilir. Keşif aşamasında kendi örneklerinizle test edip karşılaştırıyoruz.

Ne kadar donanım gerekir?

Seçilen modelin boyutuna, aynı anda kaç kişinin kullanacağına ve yanıt hızı beklentinize bağlıdır. İhtiyacınızı dinledikten sonra sunucu ve GPU önerisini yazılı olarak paylaşıyoruz.

Verilerimiz şirket dışına çıkar mı?

Model ve doküman arşivi sizin sunucunuzda çalıştığında istekler şirket ağınızda işlenir. Kurulumda hangi verinin modele açılacağını ve kimin erişeceğini birlikte belirliyoruz. Hukuki ve KVKK süreçleri anlaşmalı hukuk firmamız tarafından incelenip onaylanır; bu hizmet pakete dahildir.

Kurulumdan sonra bakımını yapıyor musunuz?

İsterseniz evet. Model güncellemeleri, performans takibi ve yeni entegrasyonlar isteğe bağlı bakım kapsamında planlanır.

Diğer yapay zekâ hizmetlerimiz

Projenizi konuşalım

Birkaç soruyla ihtiyacınızı netleştirelim, ekibimiz size net bir teklifle dönsün.

Codey ile teklif alın