Tensor Processing Unit, TPU : gli acceleratori di Google per il Machine Learning sono disponibili

Le Tensor Processing Unit ( TPU ) di Google, i chip personalizzati dell’azienda per l’esecuzione di carichi di lavoro di machine learning scritti per il framework TensorFlow, sono ora disponibili per gli sviluppatori in versione beta.

Tensor Processing Unit Google, cosa sono

La promessa di questi chip progettati da Google è quella di poter eseguire flussi di lavoro specifici di machine learning in maniera significativamente più veloce rispetto alle GPU standard che la maggior parte degli sviluppatori utilizza oggi. Per Google, uno dei vantaggi di queste TPU è che usano anche meno energia, cosa a cui probabilmente gli sviluppatori non danno molta attenzione, ma che consentono a Google di offrire questo servizio a un costo inferiore.

Google TPU

L’azienda ha presentato per la prima volta la Cloud TPU alla sua conferenza per gli sviluppatori, I/O, nove mesi fa (e vi ha dato accesso a un numero limitato di sviluppatori e ricercatori). Ogni TPU Cloud presenta quattro ASIC personalizzati con 64 GB di memoria ad ampia larghezza di banda. Secondo Google, le massime prestazioni di una singola scheda sono di 180 teraflop.

Google TPU come usarli

Gli sviluppatori che già utilizzano TensorFlow non devono apportare modifiche importanti al loro codice per utilizzare questo servizio. Per il momento, però, le TPU Cloud non sono ancora esattamente disponibili con un clic del mouse. “Per gestire l’accesso”, con le parole di Google, gli sviluppatori devono richiedere una quota di TPU Cloud e descrivere cosa intendono fare con il servizio. Una volta entrati, l’utilizzo verrà addebitato al costo di $6,50 per Cloud TPU e ora. In confronto, l’accesso alle GPU Tesla P100 standard negli Stati Uniti costa $1,46 all’ora, anche se la prestazione massima qui è di circa 21 teraflop di performance FP16.

TPU Clod di Google

La reputazione di Google nel machine learning porterà sicuramente molti nuovi utenti a queste TPU cloud. A lungo andare, tuttavia, ciò che è forse altrettanto importante è che questo dà a Google Cloud un modo per differenziarsi da AWS e da Azure. Per la maggior parte, in fin dei conti, tutti offrono ora lo stesso insieme di servizi di base per il cloud computing e l’avvento dei container ha reso più semplice a tutti spostare i carichi di lavoro da una piattaforma all’altra. Con la combinazione di TensorFlow e le TPU, Google può ora offrire un servizio che pochi saranno in grado di abbinare a breve termine.