LLM Başlatıcı | Documentation

📄️ Genel Bakış

LLM Başlatıcı, Cordatus'un bir modeli servise almak için kullandığınız bölümüdür. *"Bu modeli

Kendi donanımınızda yaklaşık 10 dakikada servis veren bir model elde edin. Bu sayfa kısa

AI Başlatma, çalışan bir modele giden tek diyaloglu yoldur. Bir Hugging Face repo kimliği

Bu rehber, tam başlatma sihirbazını anlatır: imajı, GPU'ları, bayrakları ve servis katmanını kendiniz

LLM Başlatıcı → Konteynerler, başlattığınız her şeyin yaşadığı yerdir: çalışan ve durdurulmuş

LLM Başlatıcı → Ortamlar, popüler derin öğrenme ve makine öğrenmesi çatılarını kullanıma hazır

LLM Başlatıcı → LLM Modelleri model kataloğudur. Dört kaynağı bir araya getirir — Hugging Face,

Kullanıcı Modelleri, LLM Modelleri sayfasının dördüncü sekmesidir: kendi cihazlarınızda

Servis katmanı, modellerinizin önünde duran iki servisten oluşur:

Bir Sparkrun cluster'ı, Cordatus'un çok düğümlü bir çıkarım iş yükünü yerleştirebileceği bir ya

LLM Başlatıcı → Jetson AI Lab, NVIDIA'nın Jetson AI Lab kataloğunu Cordatus içinde yansıtır;

VRAM Hesaplayıcı, herhangi bir şey dağıtmadan önce tek bir soruyu yanıtlar: *bu model, bu

Özel Registry, özel konteyner imajlarınız için kendi bulut depolamanızdır. Bir imajı bir kez

NVIDIA AI Dynamo, büyük dil modelleri için dağıtık bir çalışma zamanıdır: ön dolgu (istemi okuma) ve

NVIDIA VSS tek bir konteyner değil, bir blueprint'tir: dört model servisini yöneten bir video alma