Nvidia se uključuje u AI s novom Volta arhitekturom

NVIDIA-Telsa-V100 Volta

SAN JOSE, CA - Prvom polazniku Nvidijine vodeće GTC konferencije ovog tjedna moglo bi se oprostiti što misli da je Nvidia AI tvrtka. 2-satna uvodna riječ izvršnog direktora Jensena Huanga sadržavala je mini tutorijale o raznim vrstama strojnog učenja i gotovo beskrajan broj utikača za aplikacije temeljene na AI hostirane na Nvidijinim GPU-ima. Glavni kamenčić bila je najava Nvidijine nove Volta arhitekture i V100 čipa. Nvidia radi na tome da svoje GPU-ove učini sve ugodnijima za AI aplikacije, dodajući značajke poput brzog 16-bitnog pokretnog zareza. Ali njegova nova Volta arhitektura podiže tu specijalizaciju na višu razinu s novo dizajniranom jezgrom Tensor koja radikalno ubrzava i obuku i uključivanje neuronskih mreža.

Voltine jezgre tenzora su neuronske mreže ono što su tradicionalne GPU jezgre grafika



Tradicionalne GPU jezgre izgrađene su za izvođenje klasičnih grafičkih operacija poput sjenčanja vrlo brzo. Za neuronske mreže osnovni su građevni blok množenje i zbrajanje. Nvidijine nove jezgre tenzora mogu obaviti sve radnje potrebne za množenje dvije matrice 4 x 4 i dodavanje treće istovremeno. Dakle, osim što ima prednost od 5.120 jezgri na V100 koji radi paralelno, svaka jezgra sama paralelno izvodi i mnoge operacije. Rezultat je ono što Nvidia kaže da je 12-struko ubrzanje učestalog učenja u odnosu na Pascala i 6-struko ubrzanje učestalog izvođenja.

Nvidia V100 jedan je od najimpresivnijih čipova ikad napravljenih

U sirovim specifikacijama, V100 je ozbiljno impresivan. S 21 milijardu tranzistora strpanih u njegovu matricu od 815 kvadratnih milimetara, izvršni direktor Nvidije Jensen Huang tvrdi da je to najveći i najsloženiji čip koji se može stvoriti trenutnom fizikom poluvodiča. Po cijeni od 3 milijarde dolara u istraživanju i razvoju, konačni čip izrađuje se pomoću 12nm postupka od strane TSMC-a i koristi RAM-a najveće brzine koji nudi Samsung. Nakon uvodne riječi, Nvidia je objasnila da je koristila 12nm i tako veliku veličinu matrice jer je namjerno željela stvoriti najsofisticiraniji čip.



podatkovni centar-volta-tenzor-jezgra-625-ud

Volta može pomoći zaustaviti porast procesora specifičnih za AI



Google je nedavno napravio nekoliko valova usporedbom performansi svog prilagođenog TensorFlow čipa sa starijim Nvidia GPU-om za postizanje performansi. Volta je očito dio Nvidijina odgovora, ali tu se ne zaustavlja. Huang je također najavio TensorRT, kompajler za Tensorflow i Caffe dizajniran za optimizaciju izvedbenih performansi na GPU-ima. Kompajler neće samo poboljšati učinkovitost, već uvelike smanjuje latenciju - ključnu prednost Googleovog prilagođenog čipa - dopuštajući 30 posto nižu latenciju od Skylakea ili P100 i 10x propusnost za mjerila prepoznavanja slike. Za čisto opterećenje, novi Tesla V100 PCIe može zamijeniti preko desetak trenutnih tradicionalnih CPU-a i uz puno nižu potrošnju energije. Nvidia je također izravnije odgovorila na konkurenciju prilagođenih čipova za uvođenje objavom da svoj dizajn i kôd DLA (Deep Learning Accelerator) čini otvorenim kodom.

Jezgre Tensor nadopunjene su velikom registracijskom datotekom od 20 MB, 16 GB HBM2 RAM-a pri 900 GB / s i 300 GB / s NVLink za IO. Rezultat je čip koji implementira verziju Volta arhitekture prilagođenu AI. Nvidia je kasnije potvrdila da neće svi procesori Volta arhitekture imati tako opsežan skup značajki ubrzanja AI, a možda će biti više usredotočeni na čiste grafičke ili računalne performanse opće namjene. Suprotno tome, Nvidia je obranila ugrađivanje značajki AI-a poput ubrzavanja uključivanja u svoj glavni GPU, umjesto da stvara zasebnu liniju proizvoda, objašnjavajući da je njegova jezgra Tensor idealna za izvođenje operacija obuke i zaključivanja.

podatkovni centar-volta-novi-gpu-625-ud

V100 je srce nadograđenog DGX-1 i novog HGX-1



Nvidia je također najavila nadograđeni DGX-1 temeljen na osam V100 čipova, dostupnih za 149.000 USD u Q3, te manju DGX Station s 4 V100 čipova za 69.000 USD također planiranih za Q3. Očekuje se da će OEM proizvodi bazirani na V100 početi s isporukom do kraja godine. U partnerstvu s Microsoft Azureom, Nvidia je također razvila kutiju prilagođenu oblaku, HGX-1, s osam V100 koji se mogu fleksibilno konfigurirati za razne potrebe računalstva u oblaku. Microsoft planira koristiti Voltu i za vlastite programe i biti dostupan Azureovim kupcima.

Nvidia očekuje da i Volta pokreće automobile i robote

Uz čiste softverske aplikacije, Nvidia očekuje da će procesori i ploče zasnovani na Volti biti srce fizičkih uređaja koji trebaju tehnologiju učenja ili inferencije. To uključuje robote - posebno one simulirane Nvidijinim novoobjavljenim Isaac-ovim alatima za simulaciju robota - kao i autonomna vozila različitih oblika i veličina. Jedan posebno zanimljiv projekt je napor Airbusa da osmisli mali pilotirani avion koji može polijetati vertikalno i prevoziti dva putnika do 70 kilometara.

Copyright © Sva Prava Pridržana | 2007es.com