Ollama için yerel kurulum sunucu spec’leri (2026 rehberi)

Ollama’yı yerel kurmak; test ortamı, demo hazırlama, kapalı ağda kullanım ve maliyet kontrolü açısından güçlü bir yöntemdir. Ancak performans doğrudan donanım spec’lerine ve seçtiğiniz modelin (ör. 7B, 13B) boyutuna bağlıdır. Bu rehberde, 03.11.2026 itibarıyla pratikte işinize yarayacak şekilde CPU, RAM, disk, GPU ve ağ gereksinimlerini; ayrıca hangi kurulumda hangi hedefe ulaşacağınızı net şekilde anlatacağız.

Aşağıdaki tablolar ve örnek hesaplar; “Aynı modeli kurdum ama neden yavaş?” sorusunu azaltmak için tasarlandı. Sonunda da kullanım senaryonuza göre doğrudan seçim yapabileceğiniz bir öneri listesi bulacaksınız.

1) Ollama yerel kurulumu için temel darboğazlar

Ollama’da hız; öncelikle modelin hesaplamasını kimin yaptığına (CPU mu GPU mu), ardından RAM’in yeterliliğine ve diskin okuma hızına bağlıdır.

CPU + RAM dengesi neden kritik?

• Ollama, modele ait ağırlıkları (weights) belleğe alır. RAM yetersizse ya model sığmaz ya da çok sık sayfalama (swap) olur.
• Swap çalıştığında performans birkaç kat düşer. Bu nedenle hedef, “RAM’i taşmadan” çalışmaktır.

Disk boyutu ve disk hızı

• İlk çalıştırmada model dosyaları indirilir. Model boyutu arttıkça gereken alan büyür.
• Ayrıca Ollama, katmanlar ve önbellek (cache) tutar. Bu alan “kurulumdan sonra da” büyüyebilir.
• SSD (NVMe) kullanımı, ilk indirme/aktarımı ve bazı yükleme aşamalarını belirgin hızlandırır.

Ağ gereksinimi

• Ollama yerelde çalışır; fakat model indirme ve güncelleme için dışa erişim (ya da yerel mirror) gerekebilir.
• Kurulum sonrası üretim kullanımı için ağ şartı düşer, ama “ilk kurulum” için internet hızını hesaba katın.

2) Model boyutlarına göre önerilen minimum spec’ler

Aşağıdaki değerler, 7B ve 13B sınıfı popüler LLM’lerde yerel kullanım için pratik eşikler olarak hazırlanmıştır. Rakamlar “her model için birebir aynı olur” şeklinde değil; doğrudan hedef performans yaklaşımıdır.

Not: Ollama ile kullanılan modelin quantization seviyesi (örn. Q4/Q5/Q8) bellek ihtiyacını ciddi etkiler. Aynı parametreli modelde bile quant’a göre RAM gereksinimi değişir.

Hız hedefi tanımları

• “Akıcı”: sohbet/sorgularda belirgin gecikme olmadan kullanım
• “Kullanılabilir”: deneme ve hafif iş yükü
• “Yavaş ama çalışır”: doğrulama/pilot amaçlı

Önerilen donanım tablosu

Bu tabloda kritik noktalar: - 13B tarafında CPU ile çalıştırmak mümkün olsa da, akıcılık hedefinde RAM ve/veya GPU belirleyici olur. - SSD’nin 200-500 GB aralığında tutulması pratikte iyi bir güvenlik payı sağlar. Birden fazla model indirirseniz alan hızla büyür.

3) CPU/RAM spec’i nasıl doğru seçilir? (quantization etkisi)

Quantization (ör. Q4, Q5, Q8), model ağırlıklarını farklı hassasiyetle saklar. Bu da: - RAM kullanımını - hız/işlem maliyetini - çıktı kalitesini etkiler.

Pratik seçim kuralı (net)

• “CPU sadece olsun, GPU istemiyorum” diyorsanız 7B için 16-24 GB RAM, 13B için 32-48 GB RAM çizgisi hedefleyin.
• “Akıcı olsun” diyorsanız, 13B’de CPU tek başına çoğu sistemde yetersiz kalır; GPU’lu kurulum daha sürdürülebilir olur.

RAM’i fazla kurmamak için kontrol listesi

Kurulumdan önce şu 3 soruyu yanıtlayın: 1. Kaç model kullanacağım? (Tek model mi, 3-5 model mi?) 2. Model quant seviyem ne? (Q4/Q5/Q8) 3. Aynı anda kaç istek (concurrent) bekliyorum?

Bunlara göre disk ve RAM planı değişir.

4) GPU varsa nasıl plan yapılır? (CUDA değilse bile yaklaşım aynı)

GPU kullanımı, yerel LLM’de “gecikme”yi ciddi düşürür. Ollama’nın GPU hızlanması; sürücüler, GPU belleği (VRAM) ve modelin uygun quant’ı ile doğrudan ilişkilidir.

GPU seçerken net ölçütler

• VRAM (ör. 8 GB, 12 GB, 16 GB): Modelin çalışacağı quant seviyesini belirler.
• Sistem RAM: GPU olmayan ya da kısmi yüklenen senaryolarda yine önem kazanır.

CPU + GPU birlikteyken beklenen fayda

• Daha düşük “time-to-first-token” (ilk token süresi)
• Daha stabil hız (özellikle çoklu sohbetlerde)

Eğer GPU’nuz VRAM açısından sınırdaysa, Q4 quant genellikle daha güvenli bir başlangıçtır.

5) Disk (SSD/NVMe) ve depolama planı

Ollama’nın disk ihtiyacını sadece “model boyutu” sanmak yaygın bir hatadır. Ayrıca cache ve birden fazla sürüm birikir.

Minimum disk planı

• Tek 7B modeli + temel kullanım: 200-300 GB SSD
• Birden fazla model (2-4 adet) + güncelleme: 400-600 GB SSD
• 13B ve üstü (özellikle Q5/Q8): 500+ GB SSD

Dosya sistemi ve performans notu

• NVMe SSD, model indirme sonrası ilk yükleme ve önbellek işlemlerinde avantaj sağlar.
• Disk doluluğu %80’i geçmeden plan yapmak, beklenmeyen yavaşlama riskini azaltır.

6) Ağ ve ilk kurulum akışı: hız farkını ne belirler?

İlk model indirme aşamasında ağ belirleyicidir. Yerel kurulumlar iki şekilde ilerler:

Senaryo A: Doğrudan internetten indirme

• İndirme hızınız toplam kurulum süresini belirler.
• Aynı anda çok sayıda model indirmeniz, bant genişliğini böler.

Senaryo B: Kurulumdan sonra kapalı ağ (offline) kullanım

• Modeli önceden indirip yerel makineye taşıyabilirsiniz.
• Bu yaklaşımda “sunucu spec”ten bağımsız olarak bant genişliği sorunu ortadan kalkar; fakat disk kapasitesi önem kazanır.

7) Senaryonuza göre net donanım önerileri

Aşağıdaki liste, belirli kullanım hedeflerine göre “bu spec’le başlamalısınız” şeklinde yazıldı.

Eğitim/deneme (tek kişi, tek model)

• 7B: 8 çekirdek CPU + 16 GB RAM + 200 GB SSD
• GPU yoksa Q4/Q5 ile başlayın

Günlük pratik (akıcı sohbet, birden fazla oturum)

• 7B (akıcı): 8-12 çekirdek CPU + 24-32 GB RAM + 300 GB SSD
• Mümkünse GPU eklemek token hızını belirgin artırır

Geliştirme/prototip (13B, daha uzun cevaplar)

• CPU ağırlıklı: 12 çekirdek+ + 48 GB RAM + 500 GB SSD
• GPU’lu hedef: VRAM kapasitesine göre Q4 ile başlayın (VRAM sınırı yoksa akıcılık daha yüksek)

Çoklu kullanıcı veya eş zamanlı istekler

• Tek kullanıcılı sistem spec’ini aynen çoğaltmayın; RAM ve CPU çekirdekleri eş zamanlılıkta daha hızlı tükenir.
• Eş zamanlı iş yükünde “akıcı” hedef için 7B ile başlayıp sonra ölçeklemek daha kontrollüdür.

8) Operasyonel kontrol: performans düşüşünü hangi parametre açıklar?

Yerel kurulumlarda zamanla yavaşlama yaşanabilir. Bunun en yaygın nedenleri:

1) RAM sınırına yaklaşma

• Belirti: Yanıt gecikmesi giderek artar.
• Çözüm: Daha düşük quant, daha fazla RAM veya gereksiz süreçleri kapatma.

2) Disk doluluğu

• Belirti: İndirme/yükleme aşamalarında takılma.
• Çözüm: Diskte boş alanı %20’nin altında bırakmamak.

3) Çoklu model yükleme

• Belirti: Aynı anda birden fazla model aktifse hız düşer.
• Çözüm: Çalışan model sayısını sınırla, görev bazlı model seç.

4) GPU/driver uyumsuzluğu

• Belirti: Beklenen hızlanma hiç gelmez.
• Çözüm: GPU hızlandırma yolunu doğrula; sürücü ve çalışma mantığını kontrol et.

Sonuç: “Doğru spec”i hedefe göre seçin

Ollama yerel kurulumunda doğru sunucu seçimi, model sınıfı (7B/13B), quantization tercihi ve eş zamanlı kullanım hedefiyle netleşir. Eğer tek kişiyle 7B deneyecekseniz 16-24 GB RAM + SSD dengesi yeterli olur; 13B tarafında ise “akıcı kullanım” için 48 GB+ RAM ve çoğu senaryoda GPU çok daha rasyonel bir tercihtir. Hemen aksiyon olarak: hedefinizi (7B mi 13B mi, Q4 mü Q5 mi) yazın, ardından bu rehberdeki tabloya göre bir ilk spec belirleyin; ilk kurulumdan sonra RAM kullanımını ve gecikmeyi izleyip sadece tek parametreyle iyileştirme yapın.