Nvidia llança la tesla t4, la targeta més ràpida per a centres de dades

Nvidia ha anunciat la seva nova GPU per aprenentatge automàtic i inferència en els centres de dades. La nova targeta Tesla T4 es basa en l'arquitectura Turing, i és la successora de l'actual model Tesla P4, que cobreix pràcticament tots els principals proveïdors de computació en núvol.

Nvidia Tesla T4 vol revolucionar els centres de dades

Nvidia argumenta que les Tesla T4 són significativament més ràpides que les P4. Per a la inferència de llenguatge, per exemple, T4 és 34 vegades més ràpid que utilitzar una CPU i més de 3.5 vegades més ràpid que P4. El rendiment màxim per Tesla P4 és 260 TOPS per a operacions senceres de 4 bits i 65 TOPS per a operacions de coma flotant. T4 es troba en una targeta PCI-i de 75 watts de perfil estàndard.

Et recomanem la lectura del nostre post sobre Apareixen detalls de l'arquitectura Turing de Nvidia

El més important és que Nvidia va dissenyar aquests xips específicament per a la inferència d'IA, el que fa que Tesla T4 sigui una GPU tan eficient per a realitzar inferències és el nou nucli Tensor Core de Turing. Jensen Huang ja va parlar sobre el nou Tensor Core, i el que pot fer per jugar, renderitzar i per a operacions d'AI. En total, el xip presenta 320 Tensor Core Turing i 2, 560 nuclis CUDA.

A més de el nou xip, Nvidia també està llançant una actualització del seu programari TensorRT per optimitzar els models d'aprenentatge profund. Aquesta nova versió també inclou el servidor d'inferència TensorRT, 1 microservicio totalment contenedorizado per a la inferència de centres de dades que es connecta perfectament a una infraestructura existent de Kubernetes.

Turing és una de les arquitectures més innovadores de Nvidia, fins i tot al mercat gaming on permetrà per primera vegada fer ús de l'ray tracing en temps real per millorar l'acabat gràfic dels jocs més punters.

font techpowerup