Instalace CUDA na Windows nemusí být obtížná, pokud víte, kde hledat a jaké verze používat. Tato praktická příručka vás provede vším, co potřebujete k uvedení této sady nástrojů do provozu, včetně správných ovladačů a ověřovacích nástrojů, a to jak v nativním Windows, tak i pomocí WSL. Cílem je, aby vaše grafická karta skutečně zrychlila vaše úlohy bez jakýchkoli překvapení ohledně kompatibility.
Kromě základní instalace se budu zabývat reálnými scénáři a speciálními požadavky (například ML.NET Model Builder se staršími závislostmi), alternativními metodami instalace pomocí Conda a Pip, integrací s Visual Studiem a klasickými testy deviceQuery a bandwidthTest. Naučíte se také, jak diagnostikovat běžné problémy s ovladači , detekci GPU a neshody verzí CUDA, které často brzdí instalaci hned napoprvé.
Co je CUDA a proč je důležitá ve Windows?
CUDA je platforma a programovací model společnosti NVIDIA pro paralelní výpočty, který umožňuje přesunout nejnáročnější části vašich aplikací na GPU. CPU zpracovává sekvenční úlohy, zatímco GPU se stará o ty masivně paralelní , přičemž každá z nich má svou vlastní vyhrazenou paměť, což zabraňuje úzkým hrdlům a umožňuje simultánní práci.
GPU s podporou CUDA mají stovky nebo tisíce jader, která běží desítky tisíc vláken. Knihovny jako cuBLAS, cuDNN a NVCC doplňují sadu a umožňují vám kompilovat, ladit a profilovat software akcelerovaný GPU ve Windows.
Systémové požadavky a kompatibilita ve Windows
Nejprve je třeba ověřit, zda je systém kompatibilní s požadovanou sadou nástrojů. Na současných systémech Windows podporuje CUDA 13.0 U1 : Windows 11 24H2, 23H2, 22H2-SV2; Windows 10 22H2; Windows Server 2022 a 2025.
Podporované kompilátory a IDE: Visual Studio 2022 17.x (MSVC 193x) s C++11/14/17/20 a Visual Studio 2019 16.x (MSVC 192x) s C++11/14/17. Podpora pro VS2017 byla odebrána v CUDA 13.0 a pro VS2015 je od CUDA 11.1 zastaralá, proto upravte své projekty odpovídajícím způsobem.
Důležitá poznámka k 32bitovým systémům: Od verze CUDA 12.0 již neexistuje 32bitový toolchain (nativní ani multiplatformní). Ovladače budou i nadále spouštět 32bitové binární soubory na GeForce až do architektury Ada ; Hopper již 32bitové systémy nepodporuje.
Doporučený hardware: Grafická karta NVIDIA s výpočetními možnostmi vhodná pro vaši verzi (3.0 nebo vyšší pro obecné použití; viz oficiální seznam), dostatek paměti a v některých specifických případech i náročnější požadavky. Tvůrce modelů (gradace obrázků) vyžaduje alespoň 6 GB vyhrazené paměti VRAM , zatímco základní použití vyžaduje minimálně 4 GB.
Zkontrolujte, zda máte kompatibilní grafickou kartu a jakou verzi máte.
Chcete-li zkontrolovat model grafické karty ve Windows: Nastavení > Systém > Zobrazení > Upřesnit nastavení. Zde uvidíte značku a model v části Informace o zobrazení , což je velmi užitečné pro ověření kompatibility.
Můžete také použít Správce úloh, přejít na kartu Výkon a vybrat panel GPU pro zobrazení podrobností. Pokud tam není, otevřete Správce zařízení a podívejte se do části Grafické adaptéry; pokud ovladač NVIDIA chybí, nainstalujte jej.
Chcete-li zkontrolovat instalaci CUDA, otevřete PowerShell nebo CMD a spusťte nvcc --version o nvcc -V. Toto vrátí verzi kompilátoru NVCC nainstalováno; pokud nereaguje, cesta k souboru nástrojů PATH není nakonfigurována nebo nebyla správně nainstalována.
Pokud potřebujete aktualizovat ovladače, GeForce Experience vám navrhne nejnovější verze, nebo si je můžete stáhnout z oficiálních webových stránek ovladačů NVIDIA. Aktualizovaný ovladač obvykle řeší nekompatibility nástrojů a problémy s detekcí.
Stáhněte si NVIDIA CUDA Toolkit: Formáty a integrita
Přejděte na oficiální stránku NVIDIA pro stahování CUDA a vyberte Windows. Můžete si vybrat buď síťový instalační program (minimální stažení následované balíčky na vyžádání), nebo plný instalační program (vše zahrnuto). Plný instalační program je ideální pro offline systémy nebo podniková nasazení.
Po stažení je vhodné ověřit publikovaný kontrolní součet MD5, abyste se ujistili, že soubor není poškozen. Pokud se hash neshoduje, stáhněte si instalační program znovu, abyste se vyhnuli budoucím problémům.
Od verze CUDA 13 již ovladač NVIDIA není součástí sady Toolkit. Nainstalujte ovladač samostatně ze stránky s ovladači NVIDIA a poté nainstalujte sadu Toolkit; vyhněte se kombinaci nekompatibilních verzí.
Instalace ve Windows: grafický, tichý a extrakční režim
Grafická instalace: Spusťte instalační program a postupujte podle kroků. Vyberte umístění, přijměte licenci a vyberte komponenty, jako například Toolkit, Nsight Compute/Systems a příklady.
Tichá instalace: Instalační program můžete spustit pomocí -s pro tichý režim a přidejte parametry pro konkrétní podbalíčky. Pokud nechcete automatický restart, přidejte -n a restart na konci zvládnete vy.
Ruční extrakce: K rozbalení celého balíčku a kontrole jeho obsahu můžete použít program 7-Zip/WinZip. Sada nástrojů se nachází ve složce CUDAToolkit a integrace s Visual Studiem je v odpovídajícím adresáři; soubory .dll a .nvi, které vidíte v kořenovém adresáři instalačního programu, nejsou instalační soubory.
Výchozí cesta k sadě nástrojů: C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v13.0. Při instalaci podbalíčků Můžete si vybrat jen to, co potřebujete (např. nvcc_13.0 pro kompilátor, cudart_13.0 pro běhové prostředí, cublas_13.0/cublas_dev_13.0, cufft_13.0, curand_13.0, cusolver_13.0, cusparse_13.0, nsight_compute_13.0, nsight_systems_13.0, nvrtc_13.0, nvdisasm_13.0, nvprune_13.0, opencl_13.0, sanitizer_13.0, thrust_13.0, Atd.). Tímto způsobem zkrátíte prostor a dobu instalace.
Odinstalace: Všechny podbalíčky lze odebrat z Ovládacích panelů > Programy a funkce. Užitečné, pokud chcete znovu nainstalovat čistou verzi nebo přepnout větve bez zanechání stop.
Modely ovladačů ve Windows: WDDM vs. TCC
V systému Windows 10 a novějších verzích může ovladač NVIDIA fungovat ve dvou režimech: WDDM (pro zobrazovací zařízení) a TCC (pro výpočetní grafické karty, jako je Tesla nebo některé Titany). Režim můžete zkontrolovat a změnit pomocí nvidia-smi na podporovaných kartách; většina moderních karet GeForce používá WDDM ve výchozím nastavení.
Ověřte instalaci: nvcc, ukázky a testy
Zkontrolujte verzi NVCC pomocí nvcc -VPokud příkaz funguje, PATH a základní instalace je na místě.
Naklonujte vzorky CUDA z GitHubu na adrese nvidia/cuda-samples, zkompilujte je a spusťte deviceQueryMělo by detekovat vaše zařízení a vrátit test prošel; pokud ne, zkontrolujte ovladač a hardware.
Také běží bandwidthTest ověřit šířku pásma hostitelského zařízení. Pokud testy proběhnou úspěšně, komunikace CPU-GPU je v pořádku. Jakékoli chyby zde obvykle poukazují na ovladače nebo instalaci sady nástrojů.
Integrace s Visual Studiem a projektovou infrastrukturou
Vaše ukázky a projekty lze kompilovat pomocí řešení VS 2019/2022. Šablony NVIDIA konfigurují projekt C++ s úpravami sestavení CUDA pro vaši verzi (např. CUDA 13.0 Runtime).
Soubory .props sady nástrojů: VS 2019 obsahuje rekvizity v C:\Program Files (x86)\Microsoft Visual Studio\2019\Professional\MSBuild\Microsoft\VC\v160\BuildCustomizations a VS 2022 v C:\Program Files\Microsoft Visual Studio\2022\Professional\MSBuild\Microsoft\VC\v170\BuildCustomizationsTyto trasy umožňují VS najít pravidla a vlastnosti z CUDA.
V nových projektech vytvořte z NVIDIA Templates > CUDA pro nainstalovanou verzi. V existujících projektech přejděte na Závislosti sestavení > Úpravy sestavení a označte svou verzi CUDA nebo ukažte na $(CUDA_PATH) pokud chcete vždy používat ten nejnovější nainstalovaný.
Po instalaci nebo odinstalaci sad nástrojů ověřte, že $(CUDA_PATH) ukazuje na správnou složku. Přístup Proměnné prostředí v Vlastnosti systému zkontrolujte a v případě potřeby upravte hodnotu.
Soubory obsahující kód CUDA musí být označeny jako typ CUDA C/C++. Můžete je přidat v aplikaci Visual Studio v nabídce Přidat novou položku > NVIDIA CUDA 13.0 > Kód CUDA C/C++.
Instalace CUDA s Condou a Pipem
Conda: NVIDIA publikuje balíčky na svém kanálu Anaconda ( anaconda.org/nvidia ) pro instalaci plné sady nástrojů nebo konkrétních starších verzí. Chcete-li nainstalovat starší verzi, přidejte do instalačního příkazu značku `release` a Conda vyřeší závislosti.
pip: NVIDIA poskytuje Wheels pro instalaci komponent CUDA primárně orientovaných na běhové prostředí Pythonu. První instalace nvidia-pyindex a ujistěte se, že máte aktualizované pip a setuptools. Můžete do svého requirements.txt Pokud preferujete.
Metabalíčky ve Windows pro CUDA 12 (cu12), které stahují z nejnovější dostupné verze: mimo jiné, nvidia-cublas-cu12, nvidia-cuda-cccl-cu12, nvidia-cuda-cupti-cu12, nvidia-cuda-nvcc-cu12, nvidia-cuda-nvrtc-cu12, nvidia-cuda-opencl-cu12, nvidia-cuda-runtime-cu12, nvidia-cuda-sanitizer-api-cu12, nvidia-cufft-cu12, nvidia-curand-cu12, nvidia-cusolver-cu12, nvidia-cusparse-cu12, nvidia-npp-cu12, nvidia-nvfatbin-cu12, nvidia-nvjitlink-cu12, nvidia-nvjpeg-cu12, nvidia-nvml-dev-cu12, nvidia-nvtx-cu12.
Tyto metabalíčky instalují specifické verzované balíčky, například s příponou cu129: nvidia-cublas-cu129, nvidia-cuda-cccl-cu129, nvidia-cuda-cupti-cu129, nvidia-cuda-nvcc-cu129, nvidia-cuda-nvrtc-cu129, nvidia-cuda-opencl-cu129, nvidia-cuda-runtime-cu129, nvidia-cuda-sanitizer-api-cu129, nvidia-cufft-cu129, nvidia-curand-cu129, nvidia-cusolver-cu129, nvidia-cusparse-cu129, nvidia-npp-cu129, nvidia-nvfatbin-cu129, nvidia-nvjitlink-cu129, nvidia-nvjpeg-cu129, nvidia-nvml-dev-cu129, nvidia-nvtx-cu129Nezapomeňte, že CUDA Wheels neobsahují vývojářské nástroje, pouze běhové prostředí.
Použití pip znamená, že prostředí CUDA je propojeno s vaším prostředím Pythonu. Pokud plánujete kompilaci nebo spuštění mimo toto prostředí, nainstalujte také Toolkit na systémové úrovni , abyste se vyhnuli nekonzistencím v cestách.
CUDA na WSL: Windows 11 a Windows 10 21H2
Systémy Windows 11 a Windows 10 21H2 (a novější) umožňují spouštět frameworky a knihovny strojového učení s akcelerací CUDA v rámci WSL. Patří sem PyTorch, TensorFlow, Docker a NVIDIA Container Toolkit, stejně jako byste používali nativní Linux.
Krok 1: Nainstalujte ovladač NVIDIA CUDA pro WSL z oficiálních webových stránek. Tento ovladač je speciálně navržen pro zpřístupnění GPU v rámci linuxových distribucí používajících WSL.
Krok 2: Povolte WSL a přidejte distribuci založenou na glibc (Ubuntu/Debian). Aktualizujte jádro z Windows Update a ověřte, zda je 5.10.43.3 nebo vyšší běh wsl cat /proc/version v PowerShellu.
Krok 3: Postupujte podle návodu NVIDIA CUDA in WSL a nainstalujte sadu nástrojů do vaší linuxové distribuce a/nebo nakonfigurujte NVIDIA Docker. Budete moci používat standardní linuxové pracovní postupy s akcelerací a dokonale izolovat prostředí od hostitelského systému Windows.
Reálný scénář: kombinovaný notebook s procesory AMD + NVIDIA a chyby s verzí 12.8/11.8
Předpokládejme Lenovo Ideapad 5 Pro s procesory AMD Ryzen, integrovanou grafickou kartou AMD Radeon a decentralizovanou grafickou kartou NVIDIA GeForce GTX. Při spuštění nvidia-smi objeví Driver 526.56 a CUDA verze 12.0, ale pokus o instalaci CUDA 12.8 nebo 11.8 se zdá být nefunkční.
Klíče k pochopení: řádek CUDA Version nvidia-smi označuje maximální verzi běhového prostředí CUDA podporovanou vaším ovladačem, nikoli nainstalovanou sadou nástrojů. Ovladač 526.56 Podporuje CUDA 12.0 a 11.8, ale ne 12.8, která vyžaduje mnohem novější ovladač (větev 55x/56x). Aktualizujte na novější ovladač (Studio nebo Game Ready DCH) z webových stránek NVIDIA a opakujte instalaci.
V hybridních systémech zkontrolujte v ovládacím panelu NVIDIA nebo v nastavení grafiky systému Windows, zda vaše výpočetní aplikace používá grafickou kartu NVIDIA. Pokud se dGPU nepoužívá, může rozhraní nvidia-smi způsobovat problémy nebo se na iGPU AMD, které nepodporuje CUDA, mohou načítat frameworky. Zvažte čistou instalaci ovladače a ověřte, zda aplikace GeForce Experience detekuje hardware.
Speciální požadavky: Tvůrce modelů ML.NET (pouze klasifikace obrázků)
Pro scénář klasifikace obrázků s nástrojem Model Builder vyžaduje společnost Microsoft specifický stack: CUDA 10.1 a cuDNN 7.6.4 . Upozorňujeme, že novější verze nejsou s tímto konkrétním pracovním postupem kompatibilní.
Klíčové kroky s cuDNN 7.6.4: stažení ZIP souboru pro CUDA 10.1, rozbalení a zkopírování cudnn64_7.dll z cuda\bin a C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\binNemůžete mít více verzí cuDNN zároveň; odstraňuje zbytky jiných verzí, aby se předešlo konfliktům během provádění.
Hardwarové požadavky v tomto scénáři: alespoň grafická karta kompatibilní s CUDA a 6 GB vyhrazené paměti. Pokud nemáte lokální grafickou kartu, může Model Builder trénovat na virtuálních počítačích s grafickou kartou v Azure nebo nakonec na procesoru, i když s mnohem delší dobou trénování.
Rychlá diagnostika a řešení běžných problémů
Grafická karta se nezobrazuje v Nastavení ani ve Správci úloh: Otevřete Správce zařízení, vyhledejte v části Grafické adaptéry a nainstalujte příslušný ovladač. Bez ovladače NVIDIA systém Windows nezpřístupní dGPU aplikacím.
Zkontrolujte verzi CUDA systému: v PowerShellu/CMD spusťte nvcc --versionPokud selže, zkontrolujte, zda je sada nástrojů nainstalována a zda je PATH zahrnout složku bin ze sady nástrojů.
Sada nástrojů nedetekuje zařízení CUDA: ujistěte se, že máte aktuální ovladač a že vaše grafická karta je na seznamu zařízení s podporou CUDA. `deviceQuery` a `bandwidthTest` jsou způsoby, jak ověřit, zda sada hardwarových ovladačů a sad nástrojů reaguje.
Nesprávný režim ovladače pro výpočetní techniku: Na výpočetní grafické kartě použijte nvidia-smi pro případnou kontrolu/přepnutí TCC. Na většině notebookových grafických karet GeForce WDDM Je to zamýšlený režim a nelze ho změnit.
Konflikty závislostí s Python frameworky: Pokud používáte CUDA Wheels přes pip, nezapomeňte, že se týká pouze běhového prostředí a je vázán na virtuální prostředí. Pro kompilaci rozšíření nebo použití nástrojů si nainstalujte také systémový Toolkit nebo použijte Conda pro správu všeho na jednom místě.
Příklady, ukázky a osvědčené postupy
Pro ověření výkonu a funkčnosti zkompilujte a spusťte deviceQuery y bandwidthTest z řešení VS v repozitáři vzorků. Sestavení obvykle ponechávají binární soubory v cestách jako CUDA Samples\v13.0\bin\win64\Release pokud jste ponechali výchozí hodnoty.
Pro vizuální představu o potenciálu CUDA spusťte grafické ukázky, jako je particlesKromě dema vám pomohou získat reference pro použití sdílená paměť a mřížkové/blokové vzory ve vašich vlastních projektech.
Cloudové alternativy s GPU
Pokud se nechcete zabývat lokálními ovladači nebo potřebujete špičkový výkon, můžete se rozhodnout pro cloudové instance s moderními grafickými kartami (A100, RTX 4090, A6000 atd.). Tyto služby nabízejí okamžité nasazení , šablony pro PyTorch/TensorFlow a ceny předem, což je užitečné pro intenzivní školení nebo rychlé testování.
Poznámky a značky
Technická dokumentace a balíčky NVIDIA se mohou změnit bez předchozího upozornění. Před instalací ovladačů nebo sad nástrojů v produkčním prostředí si vždy zkontrolujte nejnovější poznámky k verzi a informace o kompatibilitě.
OpenCL je ochranná známka společnosti Apple Inc. používaná na základě licence společností Khronos Group. NVIDIA a její logo jsou ochranné známky nebo registrované ochranné známky společnosti NVIDIA Corporation v USA a dalších zemích.
Se správným ovladačem, správnou sadou nástrojů a několika dobře provedenými testy je Windows solidní platformou pro CUDA: můžete vyvíjet ve Visual Studiu, ověřovat pomocí oficiálních vzorků, spouštět frameworky AI ve WSL stejně jako v Linuxu a pokud se zaseknete, použijte alternativní instalační programy (Conda/pip) nebo dokonce cloud, abyste se vyhnuli problémům. Důležité je sladit verze ovladačů a sad nástrojů, ověřit, zda se skutečně používá grafická karta NVIDIA, a spolehnout se na deviceQuery/bandwidthTest , abyste se ujistili, že vše funguje správně. Sdílejte tento tutoriál, aby se více uživatelů mohlo naučit, jak nainstalovat CUDA ve Windows.