Konteynerler
LLM Başlatıcı → Konteynerler, başlattığınız her şeyin yaşadığı yerdir: çalışan ve durdurulmuş konteynerler, dağıtıldıkları gibi gruplanmış hâlde, artı hiç konteyner olmayan Sparkrun iş yükleri.
İki sekme
| Sekme | İçerik |
|---|---|
| Konteynerler | Cihazlarınızdaki Docker konteynerleri, gruplanmış hâlde. |
| Sparkrun İş Yükleri | DGX Spark cluster'larına yerleştirilmiş çok düğümlü çıkarım çalıştırmaları. Bkz. Sparkrun Cluster'ları. |
Aynı iki sekme, bir uygulamanın kendi Konteynerler sekmesinde de o uygulamayla sınırlı olarak görünür.
Konteyner tablosu
Birlikte dağıtılan konteynerler tek bir grup satırı olarak gösterilir. Open WebUI'si ve LiteLLM gateway'iyle birlikte bir motor bir gruptur; bir VSS hattı da öyle.
- Durum kolonu tek bir konteyner için tek bir rozet gösterir. Grup için Çoklu gösterir — üzerine gelin, her alt konteynerin durumunu ve alt konteyner başına bir başlat/durdur düğmesini görün.
- Çalışan sayısı, grubun kaç konteynerinin ayakta olduğunu gösterir.
- Gruptaki bir cihaz bağlı değilse bir uyarı üçgeni belirir: "Cihaz(lar) şu anda Cordatus'a bağlı değil. Tam işlevsellik için cihazların bağlı olması gerekir."
Konteyner durumları
| Durum | Anlamı |
|---|---|
| çalışıyor | Ayakta ve servis veriyor. |
| exited | Durdurulmuş. |
| Hazırlanıyor | Cihaz konteyneri kuruyor. |
| Model Hazırlanıyor | Ağırlıklar hâlâ çekiliyor ya da yerleştiriliyor. |
| İndiriliyor | İmaj çekiliyor. Bitene kadar konteyner bilgileri kullanılamaz. |
| Çoklu | Grup satırı — alt konteynerler farklı durumlarda. |
Kolonları Özelleştir
Alt başlıktaki kolon simgesi, her kolonu sürükleyerek yeniden sıralayabileceğiniz ve tıklayarak gösterip gizleyebileceğiniz bir panel açar; Tümünü Seç ve Sıfırla vardır. Düzeniniz kullanıcı bazında hatırlanır.
Arama ve seçim
- Alt başlıktaki arama tablo genelinde filtreler.
- Satır onay kutuları konteyner seçer; bir seçim yapıldığında başlıkta Seçilenleri Sil belirir.
Satır aksiyonları
| Aksiyon | Ne yapar |
|---|---|
| Aç | Gruptaki her konteyneri içeren grup panelini açar. |
| Çoğalt | Bu konteynerin yapılandırması önceden doldurulmuş yeni bir başlatma başlatır; tek bir şeyi değiştirip yeniden başlatabilirsiniz. |
| Başlat | Gruptaki durdurulmuş her konteyneri başlatır. |
| Durdur | Gruptaki çalışan her konteyneri durdurur. |
| Sil | Konteynerleri kaldırır. |
Pasif düğmeler sessizce hiçbir şey yapmak yerine nedenini söyler — "Konteyner(ler) zaten durdurulmuş", "Tüm konteyner(ler) zaten çalışıyor", "Cihaz bağlantısı kullanılamıyor", "Çoğaltma izniniz yok".
Bir konteyneri çoğaltmak
Çoğalt, konteyneri kopyalamaz — başlatma sihirbazını, orijinalin oluşturulduğu her şey önceden doldurulmuş hâlde açar: aynı cihaz, imaj, model, GPU seçimi, ana makine sınırları ve geçersiz kılmalar. Ortamı Başlat'a basana kadar hiçbir şey başlamaz.
Tek bir şeyi değiştirip yeniden çalıştırmak için kullanın — farklı bir nicemleme, daha uzun bir bağlam, başka bir GPU dağılımı — sihirbazı baştan sona ikinci kez gezmeden. Kopyaya kendi Ortam Adı'nı verin ya da boş bırakın, Cordatus üretir; böylece ikisi bu sayfada kolayca ayırt edilir.
Silme
Silme, onay alanına DELETE yazmanızı ister — başka hiçbir şey kabul edilmez.
Konteynerlerin volume'ları varsa Cordatus önce bunları listeler ve Yolları Göster ile Volume Silmeyi Atla seçeneklerini sunar:
Bu dosyaların kaldırılması istenmeyen ya da kararsız sistem davranışına yol açabilir. Emin değilseniz volume'ları atlayın.