NVIDIA VSS (Video Search & Summarization)
NVIDIA VSS is een blueprint, geen enkele container: een video-ingestie-engine die vier modelservices aanstuurt. Cordatus start ze allemaal als één uitrol en laat elke service een nieuwe container zijn, een container die u al draait, of een extern endpoint.
LLM-Launcher/vss-launch.mp4 — Applicaties → NVIDIA VSS → apparaat en versie → de genummerde
servicerail, de bron van elke service instellen → Controleren en starten → de resulterende
containergroep.
De vijf services
| # | Service | Wat het doet |
|---|---|---|
| 1 | VSS | De blueprint-engine zelf — neemt video op, stuurt de andere vier services aan en bedient de interface. |
| 2 | VLM | Vision-language model dat videofragmenten van bijschriften voorziet. Heeft een model en een GPU nodig. |
| 3 | LLM | Vat bijschriften samen en beantwoordt vragen. Een extern endpoint volstaat hier. |
| 4 | Embed | Zet bijschriften om in vectoren voor retrieval. Klein model, kleine GPU-voetafdruk. |
| 5 | Rerank | Herordent opgehaalde passages voordat de LLM antwoordt. Optioneel, maar het verbetert het beantwoorden van vragen. |
Starten
Stap 1 en 2 zijn hetzelfde als bij elke applicatie — zie de Starthandleiding:
- Apparaat selecteren
- Versie selecteren — de versie die u hier kiest, legt de image van de blueprint-engine vast.
- Geavanceerde configuratie
De servicerail
De rail van de derde stap is genummerd: één item per service, daarna Controleren en starten onder een kop Voltooien. De volgorde doet ertoe en maakt deel uit van hoe de pijplijn wordt beschreven, dus elk item draagt zijn nummer in plaats van een icoon.
Elk item toont:
- waar de service op dit moment naartoe verwijst — een nieuwe container, een bestaande, of een URL;
- een label met de modus;
- een vinkje als hij compleet is, of een waarschuwing als dat niet zo is.
Onderaan de rail benoemt de gereedheidskaart het eerste dat elke service mist (bijvoorbeeld "VLM · model ontbreekt"), en de kop wordt Los 2 services op zolang er iets openstaat.
Eén service configureren
Elk servicepaneel begint met Waar deze service vandaan komt:
| Modus | Betekenis |
|---|---|
| Nieuwe aanmaken | Een verse container op het geselecteerde apparaat. |
| Bestaande toewijzen | Hergebruik een container die daar al draait. Alleen containers die daadwerkelijk een model bedienen, kunnen die rol vervullen. |
| Extern endpoint | Een OpenAI-compatibele URL, met Verbinding testen en een optioneel Toegangstoken. |
Niet elke modus is voor elke service beschikbaar — de VSS-engine zelf wordt altijd aangemaakt.
Staat een service op Nieuwe aanmaken, dan is het paneel eronder de gewone configuratierail voor die container: Model, Rekenkracht, Overschrijvingen, precies zoals beschreven in de Starthandleiding. De engine-image ligt vast door Versie selecteren en wordt als zodanig gelabeld.
Kan niets op het apparaat een rol vervullen:
Niets op {device} bedient deze rol nog. Maak een nieuwe aan of richt de service op een extern endpoint.
Gebeurtenisbeoordelaar
De VSS-service heeft een extra schakelaar Gebeurtenisbeoordelaar, die de component voor gebeurtenisbeoordeling aan de uitrol toevoegt.
Bepaalde services
Boven de rail toont Bepaalde services wat elk van de vijf daadwerkelijk zal zijn zodra dit scherm klaar is — nieuwe containers, containers die al op het apparaat draaien en externe endpoints — zodat de hele pijplijn in één oogopslag te lezen is voordat u zich vastlegt.
Controleren en starten
Het controlepaneel voor VSS toont de bepaalde servicekaart in plaats van één opdracht, omdat de uitrol uit meerdere containers bestaat in plaats van één. Daaronder somt Aan te maken containers elke container op die de start aanmaakt, met image en model; services die op Bestaande toewijzen of Extern endpoint staan, staan er niet bij, omdat daarvoor niets nieuws wordt aangemaakt.
Blokkades verschijnen eerst en elke blokkade is een knop die naar de service springt die aandacht nodig heeft.
Na de start
Alle vijf de services vormen één containergroep op de pagina Containers. Open de groep om bij de logs, parameters en poorten van elke service te komen.
De VSS-container bedient de interface — gebruik het tabblad Poorten daarvan voor het lokale adres, of genereer daar een openbare URL.