Gebruikersmodellen
Gebruikersmodellen is het vierde tabblad van de pagina LLM-modellen: de modellen die al op uw eigen apparaten staan en bij Cordatus zijn geregistreerd, zodat u ze kunt starten zonder ze opnieuw te downloaden — of ze kunt overzetten naar een ander apparaat dat ze nodig heeft.
1. Configureer de modelpaden op het apparaat
Cordatus kijkt alleen waar u het zegt. Modelpaden gelden per apparaat.
- Ga naar Apparaten en open het apparaat.
- Open het tabblad Modellen.
- Voeg onder Opslagpaden een pad toe voor elke bron die u gebruikt:
- HuggingFace-cachepad
- Ollama-modelpad
- NVIDIA NIM-cachepad
- Aangepaste paden voor al het overige
- Gedownloade modellen toont daarna wat er onder elk pad is gevonden, met per model een knop Uitrollen en een actie Modellen vernieuwen.
Een pad verwijderen haalt het alleen uit de instellingen — uw modelbestanden worden niet verwijderd.
Zolang er geen pad is geconfigureerd, meldt die bron "Geen HuggingFace-pad geconfigureerd" (en hetzelfde voor Ollama en NIM) in plaats van een lege modellijst, zodat u "daar staat niets" kunt onderscheiden van "er is nergens om te kijken".
Modeloverdracht heeft ook een pad op het doelapparaat nodig. Ontbreekt dat, dan krijgt u: "Het {type}-modelpad is niet geconfigureerd op het doelapparaat. Configureer het onder Apparaatinstellingen → Modelpaden voordat u overzet."
2. Importeer de modellen in uw bibliotheek
Er zijn twee manieren, beide via LLM-modellen → Gebruikersmodellen.
Modellen op uw apparaten verkennen (scannen)
- Klik op Modellen op uw apparaten verkennen.
- Kies een verbonden apparaat — "Kies een verbonden apparaat om te ontdekken welke modellen het al bevat."
- Beginnen met scannen. Cordatus vraagt het apparaat om zijn HuggingFace-, Ollama- en NVIDIA NIM-modelmappen en leest die daarna stuk voor stuk.
- Het resultaat toont elk gevonden model met grootte en type. Modellen die al in uw bibliotheek staan zijn gemarkeerd als Toegevoegd, de rest als Nieuw. Mapgroottes worden gaandeweg berekend.
- Kies Doel-engines voor de modellen die u importeert.
- {n} model(len) toevoegen importeert ze.
Opnieuw scannen leest het apparaat opnieuw en ruimt op wat het niet langer bevat.
GGUF-gewichten draaien alleen op llama.cpp; het dialoogvenster vermeldt dat terwijl u doel-engines kiest.
Handmatig een model toevoegen
Voor een model in een pad dat de scan niet dekt:
- Handmatig een model toevoegen (of Aangepast model toevoegen).
- Apparaat selecteren — een verbonden apparaat.
- Modelpad — blader naar de map.
- Modelnaam — standaard afgeleid van het pad, aanpasbaar.
- Engine selecteren — voor welke inferentie-engine(s) dit model bedoeld is.
- Bij Ollama-modellen detecteert Cordatus de tag en vraagt welke moet worden gebruikt ("Selecteer de modeltag (bijv. 1b, 4b, latest)").
- Model opslaan.
3. De lijst Gebruikersmodellen
Elk item toont:
| Veld | Betekenis |
|---|---|
| Model | De naam. |
| Apparaat | Op welk apparaat het staat. |
| Pad | Waar op dat apparaat. |
| Grootte | De grootte op schijf. |
| Parameters | Het aantal parameters, indien bekend. |
| Kwantisatie | De kwantisatie, indien bekend. |
| Aangemaakt | Wanneer het is geregistreerd. |
Filter de lijst met Filteren op engine en selecteer meerdere rijen voor Geselecteerde verwijderen.
Een model bewerken
Bewerken opent Modelmetadata bijwerken voor alle engines:
- Modelnaam — ligt vast; de naam kan niet worden gewijzigd.
- Modelgrootte, Parameters (formaat:
7B,500M,1.5B), Kwantisatie (met de bitbreedte erbij).
Het dialoogvenster vermeldt op hoeveel engine-registraties de wijziging wordt toegepast.
4. Een item uit Gebruikersmodellen starten
Twee knoppen per rij:
- AI-start — "Plan de engine, image, GPU's en vlaggen voor dit model op dit apparaat." Omdat het apparaat al bekend is, plant AI-start rechtstreeks voor dat apparaat.
- Handmatig → Handmatig uitvoeren met… — opent de startwizard met het model al geselecteerd.
Binnen de wizard is Gebruikersmodellen ook een van de drie modelbronnen in het paneel Model, met per model een status:
- Volledig – Klaar voor gebruik
- Onvolledig – Overdracht kan worden hervat
- Overdracht vereist
5. Modeloverdracht tussen apparaten
Selecteert u een model dat op een ander apparaat staat dan waarop u uitrolt, dan biedt Cordatus aan het over te zetten.
| Dialoogvenster | Wanneer |
|---|---|
| Modeloverdracht vereist | Normale situatie. Toont de modelgrootte en het bronpad. |
| Modeloverdracht hervatten | Een eerdere poging is niet afgemaakt. Toont hoeveel er al staat en hoeveel bestanden ontbreken of half zijn. |
| Beschadigde bestanden gevonden | De checksumcontrole is mislukt; de betrokken bestanden worden opnieuw gedownload. |
Tijdens de overdracht ziet u het totale percentage, het aantal gedownloade bytes van het totaal, het aantal voltooide bestanden van het totaal en een voortgangsbalk per bestand dat op dat moment binnen komt. Overdracht annuleren stopt hem; de halve download kan later worden hervat.
Alleen API gebruiken slaat de overdracht helemaal over wanneer het model via een API bereikbaar is in plaats van te worden gekopieerd.
Als de overdracht klaar is, wordt de volumekoppeling voor het model automatisch geconfigureerd voor de engine die u start.
Overdrachten lopen van apparaat naar apparaat over uw eigen netwerk, niet via uw browser. U mag het dialoogvenster sluiten; de start wacht tot de overdracht klaar is.
Aanbevolen werkwijze
- Registreer dezelfde drie paden op elk apparaat waarop u uitrolt. Dat is wat overdracht, scannen en de detectie "staat al op het apparaat" laat werken.
- Houd het aantal parameters en de kwantisatie ingevuld — de GPU-adviseur en de VRAM-berekeningen gebruiken die.
- Gebruik Opnieuw scannen nadat u modellen op het apparaat hebt verwijderd, zodat de bibliotheek geen items bewaart voor gewichten die er niet meer zijn.
- Geef de voorkeur aan AI-start vanaf een rij in Gebruikersmodellen: het model staat lokaal, dus het plan wordt gemaakt op basis van de echte bestanden in plaats van Hugging Face-metadata.