LLM Launcher | Documentation

📄️ Overzicht

LLM Launcher is het deel van Cordatus waarmee u een model in gebruik neemt. Het dekt alles tussen

Krijg in ongeveer 10 minuten een model draaiend op uw eigen hardware. Deze pagina is de korte

AI-start is de weg naar een draaiend model in één dialoogvenster. U geeft een Hugging

Deze handleiding behandelt de volledige startwizard: de route die u neemt wanneer u de image, de

LLM Launcher → Containers is de plek waar alles wat u hebt gestart samenkomt: draaiende en

LLM Launcher → Omgevingen biedt populaire deep learning- en machine learning-frameworks als

LLM Launcher → LLM-modellen is de modelcatalogus. Hij brengt vier bronnen samen — Hugging Face,

Gebruikersmodellen is het vierde tabblad van de pagina LLM-modellen: de modellen die

De serveerlaag bestaat uit de twee diensten die vóór uw modellen staan:

Een Sparkrun-cluster is een of meer NVIDIA DGX Spark-apparaten waarop Cordatus een workload

LLM Launcher → Jetson AI Lab spiegelt NVIDIA's Jetson AI Lab-catalogus binnen Cordatus, zodat u

De VRAM-calculator beantwoordt één vraag voordat u iets uitrolt: *past dit model, met deze

De Privéregistry is uw eigen cloudopslag voor aangepaste container-images. Push een image één

NVIDIA AI Dynamo is een gedistribueerde runtime voor grote taalmodellen: prefill (het lezen van de

NVIDIA VSS is een blueprint, geen enkele container: een video-ingestie-engine die vier