Ana içeriğe geç

Ortamlar

LLM Başlatıcı → Ortamlar, popüler derin öğrenme ve makine öğrenmesi çatılarını kullanıma hazır konteynerler olarak sunar; sizin tarafınızda hiçbir kurulum gerekmez. Hem NVIDIA NGC konteynerleri hem de Cordatus konteynerleri, kaydettiğiniz donanıma göre optimize edilmiş hâlde bulunur.

Bir ortam, bir çıkarım motoru değil, bir geliştirme imajıdır — PyTorch, TensorFlow, CUDA, TensorRT ve benzerleri. Model seçimi adımı hariç, uygulamalarla aynı başlatma akışını kullanır.

Kataloğu gezmek, sihirbazın baştan sona işletilmesi ve başlatma sonrası notebook adresi

 

Ortamlar sayfası​

İki bölüm vardır:

  • En Popüler — en çok kullanılan ortamların ‹ › gezinmeli ve slayt göstergeli bir kaydırıcısı. Sayı başlığın yanında görünür.
  • Tüm Ortamlar — geri kalanı, ızgara olarak; Tümünü Görüntüle tam listeyi açar.

Her kart ortamın logosunu, adını, kısa açıklamasını ve en fazla üç etiketini gösterir (gerisi +{n} arkasında). Bir etikete tıklamak ona göre filtreler; karta ya da Ortamları Listele'ye tıklamak sürümlerini açar.

Sayfa başlığının yanındaki yenileme simgesi kataloğu yeniden yükler.

Desteklenen ortamlar​

Cordatus şu anda diğerlerinin yanı sıra şunları sunar:

  • Python
  • OpenCV
  • PyTorch
  • TensorFlow
  • ONNX
  • TensorRT
  • Torchvision
  • Caffe
  • Chainer
  • CUDA
  • cuDNN
  • DALI
  • DLib
  • MS CNTK
  • MXNet
uyarı

NVIDIA Jetson platformunda model eğitmek aşırı ısınmaya yol açabilir ve Jetson modülüne zarar verebilir. Model eğitimi için NVIDIA RTX iş istasyonlarını kullanın.

Sürüm seçimi​

Ortamları Listele o ortamın sürüm listesini açar. Sayfa şunları sunar:

  • arama;
  • Cihaz türüne göre filtrele — Sunucu - İş İstasyonu, Jetson, DGX Spark;
  • Jetson için ek bir Jetson grubu seçin… filtresi;
  • kaldırılabilir filtre çipleri ve Tümünü Temizle.

Bazı ortamlar farklı donanımlar için farklı sürümler yayımlar — örneğin NVIDIA Jetson cihazları için L4T yapıları. Yalnızca cihazınızın çalıştırabilecekleri sunulur.

Detayları Görüntüle ortamı açar; bir uygulamayla aynı dört sekmeyle: README/Açıklama, Sürümler, Konteynerler ve (motorlar için) Modeller. Her sekmenin ne içerdiği için Başlatma Rehberi'ne bakın.

Bir ortam başlatmak​

Tek Cihazda Ortam Başlat başlatma sihirbazını açar:

  1. Cihaz Seç — bağlı bir cihaz.
  2. Sürüm Seç — uyumlu bir imaj; İndirildi ya da İndirilecek olarak işaretli.
  3. Gelişmiş Yapılandırma — ray.

Bir geliştirme ortamının modeli olmadığı için ray, motorlardakine göre daha kısadır. Yapılandıracaklarınız:

Ortam Adı​

Konteyner için özel bir ad. Boş bırakılırsa Cordatus bir tane üretir.

İşlem​

  • GPU'lar — tek tek GPU seçin ya da Tümünü kullan'ı açın. En az bir tane gereklidir. Çok GPU'lu bir cihazda işleri ortam bazında böyle ayırırsınız.
  • Ana makine sınırları — Otomatik, Host Reserved CPU ve RAM'i sistem için ayırır; Özel, sınırları kendiniz belirlemenizi sağlar.
ipucu

Cordatus'un otomatik olarak belirlediği Host Reserved değerlerini koruyun. Konteyner meşgulken cihazı yanıt verebilir tutan şey odur.

Geçersiz Kılmalar​

Bir uygulamadakiyle aynı sekmeler; ama yalnızca bu imajın karşılığı olanlar görünür — düz bir ortamda genellikle sadece Konteyner ve Not defteri vardır:

  • Konteyner — docker run seçenekleri: --volume, --network, --env, --restart, --device ve diğerleri; komut satırı yerine bir form üzerinden.
    • Portlar — Cordatus boş bir port önerir ve zaten kullanımda olan bir port için uyarır.
    • Volume'lar — cihazın gerçek diskleri üzerinde çalışan, gezinebileceğiniz, klasör oluşturabileceğiniz ve konteynere bağlayabileceğiniz yerleşik bir dosya gezgini.
  • Ortam — token kasanızdan alınan değerler dâhil ortam değişkenleri.
  • Motor bayrakları — imaj yayımlıyorsa.
  • Not defteri — Jupyter.

İmajın sabitlediği satırlar kilitle gösterilir ve kaldırılamaz.

Not defteri (Jupyter)​

Jupyter aynı konteynerin içinde çalışır, bu yüzden not defterleri bağlı klasörleri ve GPU'ları paylaşır.

Not defterleri nasıl korunuyor üç kip sunar:

KipAnlamı
ŞifreSizin yazdığınız bir Jupyter şifresi. Not defteri açılırken tarayıcı başına bir kez sorulur.
BelirteçSizin için üretilen bir Erişim belirteci; yeniden üretme ve kopyalama düğmeleriyle. Başlatmadan sonra ortamın Portlar sekmesinde yeniden görünür.
Kimlik doğrulaması yokHiç doğrulama yok. Panel Korunmuyor durumuna geçer.
uyarı

Korunmayan bir not defteri, ana makineye o porttan erişebilen herkese kabuk yetkili bir not defteri verir. Yalnızca yalıtılmış bir ağda kullanın.

İncele ve başlat​

Son bölme özeti, çalışacak tam komutu ve oluşturulacak her konteyneri gösterir — ardından Ortamı Başlat.

Başladıktan sonra​

  1. İmaj cihazda henüz yoksa Cordatus önce sorar — "Environment is not exist. Would you like to download the environment to {device}?" — ve Download Now indirmeyi başlatır; konteyner İndiriliyor olarak görünür.
  2. Not defteri açıksa Jupyter Token penceresi belirteci bir kez gösterir ve panoya kopyalar. Kapatmadan önce kaydedin: bir daha gösterilmez.
  3. Konteyner Konteynerler sayfasında belirir.
  4. Yerel adres, not defteri URL'si ve varsa genel URL için detay panelini → Portlar sekmesini açın.

Kendi imajınızdan başlatmak​

Bir ortam, kendi yüklediğiniz bir etiketten yola çıkarak Özel Registry'den de başlatılabilir. Bu yolda sürüm adımı atlanır — etiketin kendisi zaten sürümdür.