Ampér (mikroarchitektura) - Ampere (microarchitecture)

Nvidia Ampere
Proces výroby
Dějiny
Předchůdce
NástupceNásypka

Ampér je kódové označení pro a grafická jednotka (GPU) mikroarchitektura vyvinutá společností Nvidia jako nástupce obou Volta a Turing architektury, oficiálně oznámeno 14. května 2020. Je pojmenováno podle francouzského matematika a fyzika André-Marie Ampère.[1][2] Nvidia oznámila novou generaci Řada GeForce 30 spotřebitelské GPU na speciální akci GeForce 1. září 2020.[3][4] Nvidia oznámila A100 80GB GPU na SC20 16. listopadu 2020.[5]

Detaily

Architektonická vylepšení architektury Ampere zahrnují následující:

  • CUDA Compute Capability 8.0 pro A100 a 8.6 pro řada GeForce 30[6]
  • TSMC je 7 nm FinFET proces pro A100
  • Vlastní verze Samsung je 8 nm proces (8N) pro řadu GeForce 30[7]
  • Tenzorová jádra třetí generace s podporou FP16, bfloat16, TensorFloat-32 (TF32) a FP64 a zrychlení sparsity[8]
  • Jádra pro sledování paprsků druhé generace; souběžné sledování paprsků, stínování a výpočet pro řadu GeForce 30
  • Paměť s velkou šířkou pásma 2 (HBM2) na A100 40 GB a A100 80 GB
  • GDDR6X paměť pro GeForce RTX 3090 a 3080
  • Dvojitá jádra FP32 na SM na GPU GA10x
  • NVLink 3.0 s propustností 50 Gbit / s na pár[8]
  • PCI Express 4.0 s podporou SR-IOV (SR-IOV je vyhrazeno pouze pro A100)
  • Funkce virtualizace více instancí GPU (MIG) a rozdělení oddílů GPU v A100 podporující až sedm instancí
  • PureVideo sada funkcí K hardwarové video dekódování s AV1 hardwarové dekódování[9] pro řadu GeForce 30 a sadu funkcí J pro A100
  • 5 NVDEC pro A100
  • Přidává nové hardwarové 5jádrové jádro JPEG dekódovat (NVJPG) s YUV420, YUV422, YUV444, YUV400, RGBA. Nemělo by být zaměňováno s Nvidia NVJPEG (GPU akcelerováno knihovna pro kódování / dekódování JPEG)

Bramborové hranolky

  • GA100
  • GA102
  • GA104

Porovnání výpočetní kapacity: GP100 vs GV100 vs GA100[10]

Funkce GPUNVIDIA Tesla P100NVIDIA Tesla V100NVIDIA A100
Kódové označení GPUGP100GV100GA100
Architektura GPUNVIDIA PascalNVIDIA VoltaAmpér NVIDIA
Výpočetní schopnost6.07.08.0
Vlákna / osnovy323232
Max Warps / SM646464
Max. Počet vláken / SM204820482048
Max. Počet závitových bloků / SM323232
Max. 32bitové registry / SM655366553665536
Max. Počet registrací / blokování655366553665536
Max. Počet registrů / vláken255255255
Maximální velikost bloku závitu102410241024
FP32 jádra / SM646464
Poměr registrů SM k jádrům FP32102410241024
Velikost sdílené paměti / SM64 kBKonfigurovatelný až do 96 kBKonfigurovatelný až do 164 KB

Porovnání matice přesné přesnosti[11][12]

Podporované základní přesnosti CUDAPodporované přesnosti jádra tenzoru
FP16FP32FP64INT1 (binární)INT4INT8TF32bfloat16 (BF16)FP16FP32FP64INT1 (binární)INT4INT8TF32bfloat16 (BF16)
NVIDIA Tesla P4NeAnoAnoNeNeAnoNeNeNeNeNeNeNeNeNeNe
NVIDIA P100AnoAnoAnoNeNeNeNeNeNeNeNeNeNeNeNeNe
NVIDIA VoltaAnoAnoAnoNeNeAnoNeNeAnoNeNeNeNeNeNeNe
NVIDIA TuringAnoAnoAnoNeNeAnoNeNeAnoNeNeAnoAnoAnoNeNe
NVIDIA A100AnoAnoAnoNeNeAnoNeAnoAnoNeAnoAnoAnoAnoAnoAno

Porovnání výkonu dekódování

Souběžné proudyDekódování H.264 (1080p30)Dekódování H.265 (HEVC) (1080p30)Dekódování VP9 (1080p30)
V100162222
A10075157108

Akcelerátor A100 a DGX A100

Dne 14. května 2020 byl vyhlášen a vydán akcelerátor A100 založený na ampérech.[8] Model A100 je vybaven výkonem 19,5 teraflops výkonu FP32, 6912 jádry CUDA, 40 GB grafické paměti a šířkou pásma grafické paměti 1,6 TB / s.[13] Akcelerátor A100 byl zpočátku k dispozici pouze ve 3. generaci DGX serveru, včetně 8 A100.[8] Součástí DGX A100 je také 15 TB PCIe gen 4 NVMe úložný prostor,[13] dva 64jádrové AMD Řím 7742 CPU, 1 TB RAM a Mellanox - propojené HDR InfiniBand. Počáteční cena za DGX A100 byla 199 000 $.[8]

Porovnání akcelerátorů použitých v DGX:[8][14]

Plynový pedál
A100 80 GB
A100
V100
P100
ArchitekturaFP32 CUDA jádraFP64 jádra (kromě tenzoru)INT32 jádraZvyšte hodinyPaměťové hodinyŠířka paměťové sběrniceŠířka pásma pamětiVRAMSingle PrecisionDouble Precision (FP64)INT8 (bez tenzoru)INT8 TenzorINT32FP16Tenzor FP16bfloat16 TensorTensorFloat-32 (TF32) TenzorTenzor FP64PropojitGPUVelikost mezipaměti L1Velikost mezipaměti L2Velikost matrice GPUPočet tranzistorůTDPVýrobní proces
Ampér6912345669121410 MHz3,2 Gbit / s HBM25120 bitů2039 GB / s80 GB19,5 TFLOP9,7 TFLOPN / A624 TOP19,5 NEJLEPŠÍCH78 TFLOP312 TFLOP312 TFLOP156 TFLOP19,5 TFLOP600 GB / sGA10020736 kB (192 kB × 108)40960 kB826mm254,2B400 W.TSMC 7 nm N7
Ampér6912345669121410 MHz2,4 Gbit / s HBM25120 bitů1555 GB / s40 GB19,5 TFLOP9,7 TFLOPN / A624 TOP19,5 NEJLEPŠÍCH78 TFLOP312 TFLOP312 TFLOP156 TFLOP19,5 TFLOP600 GB / sGA10020736 kB (192 kB × 108)40960 kB826mm254,2B400 W.TSMC 7 nm N7
Volta5120256051201530 MHz1,75 Gbit / s HBM24096 bitů900 GB / s16 GB / 32 GB15,7 TFLOP7,8 TFLOP62 TOPN / A15,7 NEJLEPŠÍCH31.4 TFLOPy125 TFLOPůN / AN / AN / A300 GB / sGV10010240 kB (128 kB × 80)6144 KB815mm221.1B300 W / 350 WTSMC 12 nm FFN
Pascal35841792N / A1480 MHz1,4 Gbit / s HBM24096 bitů720 GB / s16 GB10,6 TFLOP5.3 TFLOPyN / AN / AN / A21.2 TFLOPyN / AN / AN / AN / A160 GB / sGP1001344 kB (24 kB × 56)4096 KB610 mm215,3B300 W.TSMC 16 nm FinFET +


Produkty používající ampér

Reference

  1. ^ Redakce, NVIDIA. „Nový grafický procesor NVIDIA Ampere Data Center v plné produkci“. Newsroom NVIDIA Newsroom.
  2. ^ „Architektura NVIDIA Ampere do hloubky“. Blog vývojářů NVIDIA. 14. května 2020.
  3. ^ Redakce, NVIDIA. „NVIDIA přináší vůbec největší generační skok s GPU řady GeForce RTX 30“. Newsroom NVIDIA Newsroom.
  4. ^ „NVIDIA GeForce Ultimate Countdown“. NVIDIA.
  5. ^ https://nvidianews.nvidia.com/news/nvidia-doubles-down-announces-a100-80gb-gpu-supercharging-worlds-most-powerful-gpu-for-ai-supercomputing
  6. ^ „I.7. Compute Capability 8.x“. docs.nvidia.com. Citováno 23. září 2020.
  7. ^ B., Dominik. „Stará 8nm technologie společnosti Samsung v srdci monstrózních karet NVIDIA Ampere“. SamMobile. Citováno 19. září 2020.
  8. ^ A b C d E F Smith, Ryan (14. května 2020). „NVIDIA Ampere Unleashed: NVIDIA ohlašuje novou architekturu GPU, GPU A100 a akcelerátor“. AnandTech.
  9. ^ „GPU řady GeForce RTX 30: ohlašuje novou éru video obsahu s dekódováním AV1“. NVIDIA.
  10. ^ „NVIDIA A100 Tensor Core GPU Architecture“ (PDF). www.nvidia.com. Citováno 18. září 2020.
  11. ^ „NVIDIA Tensor Cores: Všestrannost pro HPC a AI“. NVIDIA.
  12. ^ "Abstraktní". docs.nvidia.com.
  13. ^ A b Tom Warren; James Vincent (14. května 2020). „První grafická karta Ampere od společnosti Nvidia je navržena pro datová centra a AI, nikoli pro váš počítač“. The Verge.
  14. ^ „Testováno NVIDIA Tesla V100: téměř neuvěřitelný výkon GPU“. TweakTown. 17. září 2017.

externí odkazy