Ga naar hoofdinhoud

Jetson AI Lab

LLM Launcher → Jetson AI Lab spiegelt NVIDIA's Jetson AI Lab-catalogus binnen Cordatus, zodat u de nieuwste generatieve AI-modellen op uw Jetson-apparaten kunt draaien zonder een gepubliceerd recept met de hand naar een containerstart te vertalen.

De catalogus filteren op apparaat, het expresspaneel dat het recept bepaalt, en Starten dat uitkomt bij de draaiende container

 


De catalogus

De pagina laadt de modellijst van Jetson AI Lab. Er zijn twee weergaven:

  • Kaarten — gegroepeerd per familie, met de secties Uitgelicht en Nieuwe releases.
  • Tabel — dezelfde modellen, sorteerbaar.

Filters:

FilterEffect
Alle apparatenBeperk tot een van uw Jetson-modules.
Alle modellenBeperk tot één modelfamilie.
Meer filtersEngine, Kwantisatie en Toepassing.
ZoekenOp naam, familie of grootte.

De resultaatkop vertelt waar u naar kijkt — bijvoorbeeld "{n} model(len) die overeenkomen met "qwen" op Orin Nano".

notitie

Is Jetson AI Lab onbereikbaar, dan toont Cordatus de laatst gecachete catalogus en zegt dat erbij, met een knop Opnieuw proberen, in plaats van een lege pagina te tonen.


Een model uitvoeren

Uitvoeren bij een model opent het startdialoogvenster in express-modus: één paneel in plaats van de volledige wizard.

Stap 1 — kies een apparaat

Alleen Jetson-apparaten worden getoond, elk met een markering Online / Offline.

Hebt u er geen:

Dit model draait alleen op Jetson-hardware. Geen van uw verbonden apparaten voldoet — voeg een Jetson-apparaat toe of breng een offline apparaat online om verder te gaan.

Apparaat toevoegen en Opnieuw scannen staan op hetzelfde scherm.

Stap 2 — Cordatus bepaalt het recept

Het paneel meldt wat het doet: "De container-image, het model en de engine-argumenten worden uit het Jetson AI Lab-recept bepaald…", en toont daarna het resultaat:

  • Apparaat
  • Image — de voor dit apparaat gekozen container-image, en hoeveel er beschikbaar waren.
  • Model — het model dat het recept noemt.
  • Configuratie — hoeveel engine-argumenten en omgevingsvariabelen uit het recept komen.

Is het model afgeschermd op Hugging Face, dan vraagt het paneel om een token — Een opgeslagen token gebruiken of Plak in plaats daarvan een token.

Stap 3 — Starten

Starten start het en brengt u naar uw containers.


Het oorspronkelijke recept bekijken

Het Jetson AI Lab-recept weergeven toont wat Jetson AI Lab publiceert, ongewijzigd, met een knop Kopiëren.

Dit is wat Jetson AI Lab publiceert, ongewijzigd. Cordatus bouwt de container hieruit — docker-vlaggen komen in plaats daarvan uit uw applicatie, en de modelverwijzing loopt via de modelselectie.


Wanneer express het niet kan afmaken

Cordatus is bewust streng over image-compatibiliteit: een image die voor een nieuwere JetPack is gebouwd, wordt nooit aan een ouder apparaat aangeboden. Betekent dat dat de start niet kan worden voorbereid, dan legt het paneel precies uit welke helft ontbreekt in plaats van stilletjes te falen.

MeldingWat het betekent
"Er is geen geschikt recept beschikbaar voor dit apparaat."Jetson AI Lab publiceert geen configuratie voor dit apparaat met deze engine.
"De Jetson AI Lab-catalogus publiceert dit model op deze engine alleen voor X, en dat recept kan hier niet worden hergebruikt"Een andere GPU-architectuur betekent andere container-images en kwantisatieformaten.
"Er is geen container-image beschikbaar voor dit apparaat"Aan het recept zelf mankeert niets — wat ontbreekt is een image die Cordatus aan dit apparaat kan aanbieden. De JetPack van het apparaat upgraden lost dit meestal op.
"Het recept is toegepast, maar er ontbreekt nog iets"Het recept is bepaald, maar een vereiste waarde is niet ingesteld.

In alle gevallen kunt u handmatig verder: Openen in de volledige editor houdt uw apparaat geselecteerd en het model gekozen, en laat u de image zelf kiezen. Zie de Starthandleiding.


Na de start

De containers verschijnen net als elke andere uitrol op de pagina Containers, en Naar de applicatie brengt u naar de applicatie waaruit ze zijn gestart.