Jetson AI Lab
LLM Başlatıcı → Jetson AI Lab, NVIDIA'nın Jetson AI Lab kataloğunu Cordatus içinde yansıtır; böylece yayımlanmış bir tarifi elle konteyner başlatmasına çevirmeden en yeni üretken yapay zekâ modellerini Jetson cihazlarınızda çalıştırabilirsiniz.
Katalog
Sayfa model listesini Jetson AI Lab'den yükler. İki görünüm vardır:
- Kartlar — aileye göre gruplanmış, Öne Çıkan ve Yeni Sürümler bölümleriyle.
- Tablo — aynı modeller, sıralanabilir hâlde.
Filtreler:
| Filtre | Etkisi |
|---|---|
| Tüm Cihazlar | Jetson modüllerinizden birine daraltır. |
| Tüm Modeller | Tek bir model ailesine daraltır. |
| Daha fazla filtre | Motor, Nicemleme ve Kullanım senaryosu. |
| Ara | Ada, aileye ya da boyuta göre. |
Sonuç başlığı neye baktığınızı söyler — örneğin "Orin Nano üzerinde "qwen" ile eşleşen {n} model".
Jetson AI Lab'e ulaşılamıyorsa Cordatus boş bir sayfa göstermek yerine son önbelleğe alınmış kataloğu gösterir, bunu açıkça söyler ve bir Tekrar Dene düğmesi sunar.
Bir modeli çalıştırmak
Bir modeldeki Çalıştır, başlatma diyalogunu express modda açar: tam sihirbaz yerine tek bir panel.
Adım 1 — cihaz seçin
Yalnızca Jetson cihazları listelenir; her biri Çevrimiçi / Çevrimdışı işaretiyle.
Hiç yoksa:
Bu model yalnızca Jetson donanımında çalışır. Bağlı cihazlarınızın hiçbiri uymuyor — devam etmek için bir Jetson cihazı ekleyin ya da çevrimdışı olan birini çevrimiçi yapın.
Cihaz ekle ve Yeniden tara aynı ekrandadır.
Adım 2 — Cordatus tarifi çözer
Panel ne yaptığını bildirir: "Konteyner imajı, model ve motor argümanları Jetson AI Lab tarifinden çözümleniyor…", sonra sonucu gösterir:
- Cihaz
- İmaj — bu cihaz için seçilen konteyner imajı ve kaç tanesinin mevcut olduğu.
- Model — tarifin belirttiği model.
- Yapılandırma — tariften kaç motor argümanı ve ortam değişkeni geldiği.
Model Hugging Face'te kapılıysa panel bir token ister — Kayıtlı bir token kullan ya da Bunun yerine bir token yapıştırın.
Adım 3 — Başlat
Başlat çalıştırır ve sizi konteynerlerinize götürür.
Özgün tarifi görmek
Jetson AI Lab tarifini göster, Jetson AI Lab'in yayımladığını olduğu gibi, bir Kopyala düğmesiyle birlikte gösterir.
Bu, Jetson AI Lab'in yayımladığıdır, değiştirilmemiştir. Cordatus konteyneri bundan kurar — docker düzeyindeki bayraklar bunun yerine sizin uygulamanızdan gelir ve model referansı model seçiminden geçirilir.
Express tamamlanamadığında
Cordatus imaj uyumluluğu konusunda bilinçli olarak katıdır: daha yeni bir JetPack için üretilmiş bir imaj hiçbir zaman daha eski bir cihaza sunulmaz. Bu, başlatmanın hazırlanamaması anlamına geldiğinde panel sessizce başarısız olmak yerine hangi yarının eksik olduğunu tam olarak açıklar.
| Mesaj | Anlamı |
|---|---|
| "Bu cihaz için uygun bir tarif yok." | Jetson AI Lab bu cihaz ve bu motor için bir yapılandırma yayımlamıyor. |
| "Jetson AI Lab kataloğu bu modeli bu motorda yalnızca X için yayımlıyor ve o tarif burada yeniden kullanılamaz" | Farklı bir GPU mimarisi, farklı konteyner imajları ve nicemleme biçimleri demektir. |
| "Bu cihaz için konteyner imajı yok" | Tarifin kendisiyle bir sorun yok — eksik olan, Cordatus'un bu cihaza sunabileceği bir imaj. Genellikle cihazın JetPack'ini yükseltmek bunu çözer. |
| "Tarif uygulandı ama hâlâ bir şey eksik" | Tarif çözüldü ama gerekli bir değer ayarlanmamış. |
Her durumda elle devam edebilirsiniz: Tam editörde aç, cihazınızı seçili ve modeli belirlenmiş hâlde tutar ve imajı kendiniz seçmenize izin verir. Bkz. Başlatma Rehberi.
Başladıktan sonra
Konteynerler diğer tüm dağıtımlar gibi Konteynerler sayfasında görünür ve Uygulamaya Git sizi başlatıldıkları uygulamaya götürür.