GPU, Linux için Windows Alt Sistemi içinde ML eğitimini hızlandırdı
Linux için Windows Alt Sistemi (WSL), Windows kullanıcılarının yerel, değiştirilmemiş Linux komut satırı araçlarını doğrudan Windows'ta çalıştırmasını sağlar. WSL kullanımı, 4 yıl önce Microsoft Build 2016'da ilk duyurulduktan bu yana çok büyüdü ve şimdi aylık 3,5 milyondan fazla aktif cihazda çalışıyor!
WSL'ye GPU işlem desteği eklemek, ilk sürümden bu yana en çok istenen 1 numaralı özelliğimiz oldu. Son birkaç yıldır WSL, Sanallaştırma, DirectX, Windows Driver, Windows AI ekipleri ve silikon iş ortaklarımız bu özelliği sunmak için çok çalışıyor. Microsoft Build 2020'de, tüm bu çalışmaların sonuçlarının yakında Windows Insider'lara bir önizleme olarak geleceğini duyurmuştuk.
Bugün, GPU hesaplamasının önizlemesinin WSL 2'de Windows Insider'lara (Build 20150 veya üstü) sunulduğunu bildirmenin heyecanını yaşıyoruz! Bu önizleme başlangıçta yapay zeka (AI) ve makine öğrenimi (ML) iş akışlarını destekleyerek hem profesyonellerin hem de öğrencilerin Windows ekosistemindeki GPU'ların genişliğinde ML eğitim iş yüklerini çalıştırmalarını sağlayacaktır.
Desteklenen senaryolar ve önizlemeye başlamak için sisteminizin nasıl kurula yönelik olduğu hakkında daha fazla ayrıntı için okumaya devam edin.
NVIDIA CUDA desteğiyle profesyonellere olanak sağlama
Profesyonel veri bilimcileri yerel makinelerini iç döngü geliştirme ve deneme için kullanırlar. Bu kullanıcılar, belirli doğruluk kriterleri karşılanana kadar parametreleri ve mimarileri değiştirerek küçük eğitim verileri üzerinde farklı eğitim algoritmaları denerler. Umut verici bir yapılandırma bulunduğunda, daha büyük veri kümeleri üzerinde tam ölçekli eğitim için tüm iş yükünü barındırılan bir ortama itmek yaygındır.
Yerel cihazdaki bu iç döngü geliştirmesinin içinde, bu kullanıcıların günlük iş akışlarında yararlandığı popüler Linux tabanlı araçlar, kitaplıklar ve çerçeveler vardır. Eğitim ML modelleri, küçük veri kümeleri kullanırken bile zaman alan bir hesaplama görevidir. Eğitimi hızlandırmak için, bu araçların çoğu NVIDIA'nın CUDA'sını GPU donanım hızlandırma için optimize edilmiş yol olarak kullanır ve veri bilimcilerinin NVIDIA GPU'larda eğitim komut dosyalarını donanım hızlandırmalarını sağlar.
NVIDIA CUDA desteği yıllardır Windows'ta bulunmaktadır. Ancak, yalnızca yerel bir Linux ortamında çalışan çeşitli CUDA işlem uygulamaları vardır. Profesyonel veri bilimcileriyle bulundukları yerde buluşmayı desteklemek için WSL 2'de CUDA'ya destek ekliyoruz.
Bugün, NVIDIA ile ortaklaşa olarak, WSL 2 için CUDA'nın ilk önizlemesini yayınlıyoruz. Bu önizleme, PyTorch ve TensorFlow dahil olmak üzere mevcut ML araçları, kitaplıkları ve popüler çerçeveler için destek içerir. Yerel bir Linux ortamında kullanılabilen tüm Docker ve NVIDIA Container Toolkit desteğinin yanı sıra, Linux'ta çalışacak şekilde oluşturulmuş kapsayıcılı GPU iş yüklerinin WSL 2'de olduğu gibi çalışmasına izin verir.
"Hızlandırılmış bilgi işlem modern yapay zeka ve veri bilimi için gereklidir, kullanıcılar ise işlerinin onları götürdüğü her yerde bu gücü kullanma esnekliğini isterler. Linux 2 için Windows Alt Sisteminin Genel Önizlemesinde NVIDIA GPU'larda CUDA ile, kanıtlanmış, hızlandırılmış yeni bir iş yükü sınıfı Windows kullanıcıları tarafından kullanılabilir." – Chris Lamb, Bilgi İşlem Yazılım Platformları Başkan Yardımcısı, NVIDIA
DirectML ile öğrencileri ve yeni başlayanları güçlendirme
Son birkaç yıldır, yapay zeka ve ML'de tanıtım kursuna artan bir talep var ve çevrimiçi öğrenme platformları işgücünü ve öğrencileri eğitmede kilit bir rol oynuyor. Bu kurslar, mevcut yazılım mühendislerini ve öğrencileri ortak model mimarileriyle çalışarak yeni becerilerinin temelini oluşturmaları için güçlendirir.
Bu kullanıcıların sahip olduğu Windows cihazlarının öğrenmelerini tam olarak destekleyebildiğinden emin olmak istiyoruz. Bu, Windows donanımının genişliği, AMD, Intel ve NVIDIA GPU'lar arasında DirectML. DirectML API, herhangi bir DirectX 12 tabanlı GPU'da makine öğrenimi modelleri için hızlandırılmış çıkarım sağlar ve eğitime destek olmak için yeteneklerini genişletiyoruz. Ayrıca, DirectML'yi Windows'ta donanım hızlandırma arka ucu olarak otomatik olarak kullanabilmeleri için popüler makine öğrenimi araçları, kitaplıkları ve çerçeveleriyle tümleştirmeyi amaçlıyoruz.
Bununla birlikte, bu kullanıcıların yararlandığı bazı araçların bir Linux ortamında en iyi şekilde çalıştığını anlıyoruz. Bu nedenle, DirectML'nin WSL'de de iyi çalışmasını sağlamak için yatırım yapıyoruz. Bunu yaparak amacımız, öğrencileri ve yeni başlayanları kendileri için çalışan ortamda, zaten sahip oldukları donanımda öğrenmeleri için tamamen güçlendirmektir.
Bugün, bu gelecekteki profesyonellerin, DirectML arka ucuna sahip bir TensorFlow önizleme paketi yayınlayarak Windows ekosistemindeki donanımın genişliğini kullanmalarını sağlamak için ilk adımı atıyoruz. Öğrenciler ve yeni başlayanlar, gelecekleri için temel oluşturmaya başlamak için TensorFlow öğretici modelleri veya örneklerimizle başlayabilirler. Buna paralel olarak, TensorFlow topluluğuyla RFC süreciyle de etkileşime geçiyoruz. Önümüzdeki aylarda DirectML ile çalışan TensorFlow kod tabanının uzantısını açmayı planlıyoruz. Ayrıca toplulukla etkileşime devam edeceğiz ve değişikliklerimizi geliştikçe TensorFlow'a yayınlamak için en iyi yolu belirleyeceğiz.
"Bu yeni yetenekler üzerinde Microsoft ile birlikte çalışmaktan ve hem öğrencileri hem de yeni başlayanları mevcut AMD donanımlarını kullanmaları ve makine öğrenimi becerilerini genişletmeleri için güçlendirmekten heyecan duyuyoruz." - Andrej Zdravkovic, Yazılım Geliştirme Kıdemli Başkan Yardımcısı, AMD
Bu DirectML TensorFlow paketinin Windows'ta ve WSL içinde çalışmasını sağlayan önizleme sürücülerini yayınlayan AMD, Intelve NVIDIA'nın sıkı çalışması olmadan bu önizlemeyi etkinleştirmek mümkün olmazdı.
“Through working with Microsoft we’re excited that millions of students, researchers and experimenters can now train models leveraging Intel’s GPU hardware acceleration on hundreds of millions of PCs in the world.” – Lisa Pearce, VP Graphics SW Engineering, Intel