Ollama

Dil modellerini bilgisayarda çalıştırmaya ve yerel API üzerinden kullanmaya yönelik araç.

Ollama, desteklenen modelleri indirip komut satırında veya yerel API üzerinden çalıştırır. Hız ve kullanılabilecek model boyutu, bilgisayarın belleği ve donanımına göre değişir.

Ollama sitesinde dokümantasyon, kurulum ve indirme ve fiyat ve planlar için ayrı sayfalar bulunur.

Yerel model seçerken donanım, model boyutu ve görev gereksinimleri birlikte değerlendirilir. Model kitaplığında indirme ve sürüm bilgileri bulunur. Uyumlu uygulamalar yerel API üzerinden bağlanabilir.