GTC 2020 NVIDIA je zvanično predstavila svoj prvi GPU zasnovan na Ampere GPU arhitekturi, novu NVIDIA A100, koju kompanija u celoj proizvodnji proizvodi i već isporučuje kupcima širom sveta. Novi NVIDIA GPU GPU ima potpuno bezobraznih 54 milijardi tranzistora (to je 54 000 000 000), jezgra trećeg gena Tensor, treći gen NVLink i NVSwitch i još mnogo toga. Sam GPU meri 826mm2 na TSMC-ovom 7nm čvoru, a pakuje ogromnih 40 GB HBM2 memorije od Samsunga, i do 600GB/sec opsega preko NVLink-a. Novi A100 se poredi sa V100 koji je zasnovan na Volta GPU arhitekturi. Tesla V100 sadašnje generacije NVIDIA-e dolazi sa 16GB i 32GB HBM2 opcijama, dok je V100 izgrađen na 12 nm čvoru u TSMC-u i u njega pakuje samo 21 milijardu tranzistora.
Neke neverovatne stvari se dešavaju ispod haube Ampere, a NVIDIA je u mogućnosti da ponudi najveći skok u performansama do sada: 20k. Novi A100 GPU je 20 puta brži od V100, sa maksimalnom obukom FP32 od 312 TFLOP-ova, vrhunskim Int8 zaključivanjem od 1248 TOP i FP64 HPC od 19,5 TFLOP-ova.