Konteynerler
LLM Başlatıcı → Konteynerler, başlattığınız her şeyin yaşadığı yerdir: çalışan ve durdurulmuş konteynerler, dağıtıldıkları gibi gruplanmış hâlde, artı hiç konteyner olmayan Sparkrun iş yükleri.
İki sekme
| Sekme | İçerik |
|---|---|
| Konteynerler | Cihazlarınızdaki Docker konteynerleri, gruplanmış hâlde. |
| Sparkrun İş Yükleri | DGX Spark cluster'larına yerleştirilmiş çok düğümlü çıkarım çalıştırmaları. Bkz. Sparkrun Cluster'ları. |
Aynı iki sekme, bir uygulamanın kendi Konteynerler sekmesinde de o uygulamayla sınırlı olarak görünür.
Konteyner tablosu
Birlikte dağıtılan konteynerler tek bir grup satırı olarak gösterilir. Open WebUI'si ve LiteLLM gateway'iyle birlikte bir motor bir gruptur; bir VSS hattı da öyle.
- Durum kolonu tek bir konteyner için tek bir rozet gösterir. Grup için Çoklu gösterir — üzerine gelin, her alt konteynerin durumunu ve alt konteyner başına bir başlat/durdur düğmesini görün.
- Çalışan sayısı, grubun kaç konteynerinin ayakta olduğunu gösterir.
- Gruptaki bir cihaz bağlı değilse bir uyarı üçgeni belirir: "Cihaz(lar) şu anda Cordatus'a bağlı değil. Tam işlevsellik için cihazların bağlı olması gerekir."
Konteyner durumları
| Durum | Anlamı |
|---|---|
| çalışıyor | Ayakta ve servis veriyor. |
| exited | Durdurulmuş. |
| Hazırlanıyor | Cihaz konteyneri kuruyor. |
| Model Hazırlanıyor | Ağırlıklar hâlâ çekiliyor ya da yerleştiriliyor. |
| İndiriliyor | İmaj çekiliyor. Bitene kadar konteyner bilgileri kullanılamaz. |
| Çoklu | Grup satırı — alt konteynerler farklı durumlarda. |
Kolonları Özelleştir
Alt başlıktaki kolon simgesi, her kolonu sürükleyerek yeniden sıralayabileceğiniz ve tıklayarak gösterip gizleyebileceğiniz bir panel açar; Tümünü Seç ve Sıfırla vardır. Düzeniniz kullanıcı bazında hatırlanır.
Arama ve seçim
- Alt başlıktaki arama tablo genelinde filtreler.
- Satır onay kutuları konteyner seçer; bir seçim yapıldığında başlıkta Seçilenleri Sil belirir.
Satır aksiyonları
| Aksiyon | Ne yapar |
|---|---|
| Aç | Gruptaki her konteyneri içeren grup panelini açar. |
| Çoğalt | Bu konteynerin yapılandırması önceden doldurulmuş yeni bir başlatma başlatır; tek bir şeyi değiştirip yeniden başlatabilirsiniz. |
| Başlat | Gruptaki durdurulmuş her konteyneri başlatır. |
| Durdur | Gruptaki çalışan her konteyneri durdurur. |
| Sil | Konteynerleri kaldırır. |
Pasif düğmeler sessizce hiçbir şey yapmak yerine nedenini söyler — "Konteyner(ler) zaten durdurulmuş", "Tüm konteyner(ler) zaten çalışıyor", "Cihaz bağlantısı kullanılamıyor", "Çoğaltma izniniz yok".
Bir konteyneri çoğaltmak
Çoğalt, konteyneri kopyalamaz — başlatma sihirbazını, orijinalin oluşturulduğu her şey önceden doldurulmuş hâlde açar: aynı cihaz, imaj, model, GPU seçimi, ana makine sınırları ve geçersiz kılmalar. Ortamı Başlat'a basana kadar hiçbir şey başlamaz.
Tek bir şeyi değiştirip yeniden çalıştırmak için kullanın — farklı bir nicemleme, daha uzun bir bağlam, başka bir GPU dağılımı — sihirbazı baştan sona ikinci kez gezmeden. Kopyaya kendi Ortam Adı'nı verin ya da boş bırakın, Cordatus üretir; böylece ikisi bu sayfada kolayca ayırt edilir.
Silme
Silme, onay alanına DELETE yazmanızı ister — başka hiçbir şey kabul edilmez.
Konteynerlerin volume'ları varsa Cordatus önce bunları listeler ve Yolları Göster ile Volume Silmeyi Atla seçeneklerini sunar:
Bu dosyaların kaldırılması istenmeyen ya da kararsız sistem davranışına yol açabilir. Emin değilseniz volume'ları atlayın.
Bir grubun içi
Aç, gruptaki her konteyneri gösterir; büyük gruplar için bir arama kutusu ve her konteyner için şunlar bulunur:
- aynı dürüst pasif durumlarıyla başlat / durdur / sil kontrolleri;
- detay panelini açan Konteyner Bilgileri;
- adreslerinde bir Özel / Genel işareti;
- başka bir gruptan ödünç alınan konteynerlerde bir Atanmış işareti — bunlar buradan silinemez ("Bu konteyner başka bir konteyner grubundan atanmış").
Panel Tam ekran'a genişletilebilir.
Detay paneli
Üç sekme:
Loglar
Konteynerin canlı çıktısı, akış hâlinde. Kopyala, görünen logu panonuza alır.
Parametreler
Konteynerin oluşturulduğu her yapılandırma değeri — imaj, komut, seçenekler, ortam değişkenleri, motor bayrakları, volume'lar.
Portlar
Açılan her port; şunlarla birlikte:
- Yerel ve Genel adresler;
- Kopyala ve Aç;
- Herkese erişilebilir yap → URL Üret, o port için bir genel URL oluşturur.
Cordatus bir alt alan adı sorar: kendiniz yazın (küçük harf, 4–63 karakter, harf, rakam ve
tire) ya da Random'a basıp üretmesini isteyin. Sonuç şuna benzer:
https://<altalan>.tunnel.cordata.ai; - var olan bir URL için Yeniden üret — aynı alt alan adını mı koruyacağını yoksa yenisini mi üreteceğini sorar — ve URL'yi geri çekmek için Genel URL'yi kapat;
- yeni bir şey yayımlamak için Başka bir port aç / Port ekle;
- URL'nin tanınabilir olması için Uygulama adı.
API Kullanım Örnekleri
Çalışan bir motor için API Kullanım Örnekleri, onu çağırmak üzere kopyala-yapıştır hazır parçacıklar gösterir:
- bir hızlı kullanım çağrısı;
- bir OpenAI uyumlu istemci örneği;
- etkileşimli arayüzü açmak için WebUI ile aç.
Uç nokta kimlik doğrulaması gerektirmiyorsa anahtarı boş dize olarak ayarlayın.
Konteyner çalışmıyorken düğme pasiftir ("API kullanımını görmek için konteynerin çalışıyor olması gerekir").
Sparkrun İş Yükleri
İkinci sekme çok düğümlü çalıştırmaları listeler:
| Kolon | Anlamı |
|---|---|
| İş Yükü | Tarif adı, altında TP=. |
| Durum | Canlı, başlatılıyor, durduruldu, başarısız. |
| Çok Düğümlü | Birden fazla düğüme yayılıp yayılmadığı. |
| Model | Sunulan model adı. |
| Endpoint | Sunum portu. (varsayılan), portun motor varsayılanına düştüğü ve hiç bildirilmediği anlamına gelir. |
Aksiyonlar: İş Yükünü Başlat, İş Yükünü Durdur, Başlatmayı İptal Et, İş Yükünü Sil (DELETE yazarak) ve İş Yükü Detayları.
Detay panelinde Genel Bakış, Loglar (düğüm başına bir okuyucu, her satır geldiği düğümle etiketli), Portlar, Erişim Adresleri, Motor Argümanları, Ortam Değişkenleri (değerler maskeli) ve Tarif YAML'ı bulunur.
Hiç başlatmadıysanız sekme nasıl yapılacağını açıklar: bir uygulamada Sparkrun'ı Başlat'ı kullanın.
Bağlı olmayan cihazlar
Çevrimdışı bir cihazdaki konteynerler son bilinen durumlarıyla listelenmeye devam eder ve üzerlerinde her aksiyon pasiftir. Cihaz yeniden bağlanır bağlanmaz tekrar kontrol edilebilir hâle gelirler.
Sistem konteynerleri
Bazı konteynerler Cordatus'un kendi çalışması için gerekli olarak işaretlenir. Var olduklarını bilmeniz için gösterilirler ve gelişigüzel silinmeye karşı korunurlar.