Neden yerelde çalıştırmalı?
- Gizlilik: Verileriniz bilgisayarınızdan çıkmaz.
- Maliyet: Abonelik veya kullanım ücreti yoktur.
- Çevrimdışı kullanım: İnternet olmadan çalışır.
Nasıl başlanır?
- Ollama veya LM Studio'yu resmî sitesinden indirin.
- Bilgisayarınızın belleğine uygun küçük bir model seçin (ör. 4–8 milyar parametreli).
- Modeli indirip sohbet etmeye başlayın.
Donanım
Genel bir kural olarak model büyüdükçe daha fazla bellek (RAM veya ekran kartı belleği) gerekir. Apple Silicon Mac'ler birleşik belleği sayesinde orta boy modelleri iyi çalıştırır. Yerel modeller, en büyük bulut modellerinin yeteneklerine her zaman ulaşamaz.