Huawei lancia Ascend 910, il processore AI più potente al mondo

Eric Xu: abbiamo promesso un’offerta completa AI full-stack per tutti gli scenari. E oggi l’abbiamo lanciato

Huawei ha lanciato ufficialmente il processore AI più potente al mondo - l'Ascend 910 - nonché un framework di elaborazione AI per tutti gli scenari, MindSpore.

"Abbiamo compiuto grandi progressi da quando abbiamo annunciato la nostra strategia sull’AI nell'ottobre dello scorso anno", ha affermato Eric Xu, Rotating Chairman di Huawei. "Tutto procede secondo i piani, dalla ricerca e sviluppo al lancio del prodotto. Abbiamo promesso un’offerta completa AI full-stack, all-scenario. E oggi ci siamo riusciti, con il rilascio di Ascend 910 e MindSpore. Questo segna anche una nuova tappa in Huawei per quanto riguarda la strategia AI."

Ascend 910: più potenza di calcolo rispetto a qualsiasi altro processore AI al mondo

L'Ascend 910 è un nuovo processore AI che appartiene alla serie Ascend-Max di Huawei. Huawei ha annunciato le specifiche tecniche del processore nel 2018 durante il Huawei Connect. Dopo un anno di sviluppo, i risultati dei test mostrano che il processore Ascend 910 raggiunge i suoi obiettivi prestazionali con un consumo energetico molto più basso di quanto inizialmente previsto.

Per le operazioni di half-precision floating point (FP16), Ascend 910 eroga 256 TeraFLOPS. Per le operazioni di integer precision calculations (INT8), fornisce 512 TeraOPS. Nonostante le sue prestazioni, il consumo massimo di Ascend 910 è di soli 310 W, molto inferiore a quanto previsto (350 W).

"Ascend 910 si comporta molto meglio di quanto ci aspettassimo", ha dichiarato Xu. "Senza dubbio, ha più potenza di calcolo di qualsiasi altro processore AI al mondo."

Ascend 910 viene utilizzato per il model training AI. In una sessione di model training tipica basata su ResNet-50, la combinazione di Ascend 910 e MindSpore è circa due volte più veloce rispetto ad altre schede di model training tradizionali che utilizzano TensorFlow. In futuro Huawei continuerà a investire in processori di intelligenza artificiale per fornire una potenza di elaborazione maggiore, economica e adattabile che soddisfi le esigenze di una vasta gamma di scenari (ad esempio edge computing, veicoli per la guida autonoma e formazione).

MindSpore: framework di elaborazione AI per tutti gli scenari

Huawei ha anche lanciato MindSpore, un framework di elaborazione AI che supporta lo sviluppo di applicazioni AI in tutti gli scenari.

I framework di elaborazione AI sono fondamentali per rendere più semplice lo sviluppo di applicazioni AI, renderle più complete e accessibili e garantire la protezione della privacy. Nel 2018, Huawei ha annunciato i tre obiettivi di sviluppo per il suo framework AI:

• Sviluppo semplice: riduce drasticamente i tempi e i costi di training
• Esecuzione efficiente: utilizza la minor quantità di risorse con la massima OPS / W possibile
• Adattabile a tutti gli scenari: inclusi dispositivi, applicazioni edge e cloud

MindSpore fa registrare progressi significativi verso questi obiettivi. Poiché la protezione della privacy diventa sempre più importante, il supporto per tutti gli scenari è essenziale per avere un'AI sicura e completa. Questo è un componente chiave nel framework MindSpore, che può adattarsi facilmente alle diverse esigenze di implementazione.

Il budget di risorse per gli ambienti (di esecuzione) possono ampi e complessi o piccoli e semplici a seconda delle necessità: MindSpore aiuta a garantire la privacy degli utenti perché si occupa solo delle informazioni che sono già state elaborate. Non elabora i dati stessi, quindi i dati degli utenti privati possono essere protetti in modo efficace anche in ambienti con più scenari. Inoltre, MindSpore ha una tecnologia di protezione integrata per garantire che i modelli siano sicuri e affidabili.

Il framework MindSpore AI è adattabile a tutti gli scenari - su tutti i dispositivi, edge e cloud - e fornisce cooperazione on demand tra di loro. Il concetto di "AI Algorithm As Code" consente agli sviluppatori di sviluppare facilmente applicazioni di AI avanzate e di addestrare i loro modelli più rapidamente.

In una tipica rete neurale per l'elaborazione del linguaggio naturale (NLP), MindSpore ha il 20% in meno di righe di codice core rispetto ai principali framework sul mercato e aiuta gli sviluppatori ad aumentare la loro efficienza di almeno il 50%.

Attraverso l'innovazione del framework e la co-ottimizzazione dei processori MindSpore e Ascend, la soluzione di Huawei può aiutare gli sviluppatori ad affrontare in modo più efficace sfide complesse di elaborazione AI. Ciò si traduce in prestazioni più elevate e un'esecuzione più efficiente. Oltre ai processori Ascend, MindSpore supporta anche GPU, CPU e altri tipi di processori.

Quando ha introdotto MindSpore, Xu ha sottolineato l'impegno di Huawei nel contribuire a costruire un ecosistema AI più robusto e vibrante. "MindSpore diventerà open source nel primo trimestre del 2020. Vogliamo promuovere una più ampia adozione dell'AI e aiutare gli sviluppatori a fare ciò che sanno fare meglio."

Abilitazione dell'AI veramente pervasiva

Prima di annunciare il rilascio di Ascend 910 e MindSpore, Xu ha rivisitato la strategia AI di Huawei:

• Investire nella ricerca sull'AI: sviluppare capacità di machine learning fondamentali nella computer vision, nell'elaborazione del linguaggio naturale, nelle decisioni e nelle inferenze, ecc. Focus su:
  • Efficienza energetica e dei dati (ad es. utilizzo di meno dati, elaborazione ed energia)
  • Sicurezza e affidabilità
  • Automazione / autonomia

• Creare un portfolio AI completo
  • Adattabile a tutti gli scenari, inclusi scenari autonomi e cooperativi tra cloud, edge e dispositivo
  • Potenza di calcolo abbondante e conveniente
  • Piattaforma AI efficiente e di facile utilizzo con servizi a pipeline completa
• Coltivare talenti e un ecosistema aperto: collaborare ampiamente con università, industrie e partner globali
• Rafforzare il portafoglio esistente: introdurre una mentalità e tecniche di intelligenza artificiale in prodotti e soluzioni esistenti per creare maggior valore e rafforzare i punti di forza
• Promuovere l'efficienza operativa: utilizzare l'AI per automatizzare attività ripetitive ad alto volume per una migliore efficienza e qualità

Il portafoglio AI di Huawei copre tutti gli scenari di implementazione, inclusi cloud pubblico e privato, edge computing, dispositivi del settore IT e dispositivi consumer. Il portafoglio è anche full-stack: include le serie Ascend IP , il chip CANN, il framework MindSpore e la piattaforma di abilitazione dell'applicazione denominata ModelArts. Huawei definisce l'AI come una nuova tecnologia di uso generale, come nel 19° secolo furono le ferrovie e l'elettricità, e nel 20° secolo le automobili, i computer e Internet. L’azienda ritiene che l'AI sarà utilizzata in quasi tutti i settori dell'economia.

Secondo Xu, l'AI è ancora nelle sue prime fasi di sviluppo e ci sono una serie di lacune da colmare prima che essa possa diventare una vera tecnologia per scopi generali. La strategia AI di Huawei è progettata per colmare queste lacune e accelerare l'adozione su scala globale. In particolare, Huawei vuole guidare il cambiamento in dieci aree:

1. Fornire una maggiore potenza di calcolo per aumentare la velocità di formazione di modelli complessi da giorni, mesi a minuti, persino secondi.
2. Fornire una potenza di calcolo più economica e vasta. Al momento, la potenza di calcolo è sia costosa che scarsa, il che limita lo sviluppo dell’AI.
3. Offrire un portafoglio AI per tutti gli scenari, soddisfacendo le diverse esigenze delle aziende e garantendo al contempo che la privacy degli utenti sia ben protetta. Questo portafoglio consentirà l'implementazione dell'AI in qualsiasi scenario, non solo nel cloud pubblico.
4. Investire in algoritmi AI di base. Gli algoritmi del futuro dovrebbero essere efficienti in termini di dati, il che significa che possono fornire gli stessi risultati con meno dati. Dovrebbero anche essere efficienti dal punto di vista energetico, producendo gli stessi risultati con meno potenza di calcolo e meno energia.
5. Usare MindSpore e ModelArts per automatizzare lo sviluppo dell’Ai, riducendo l’intervento umano.
6. Continuare a migliorare gli algoritmi di modello per produrre un'intelligenza artificiale di livello industriale che funzioni bene nel mondo reale, non solo nei test.
7. Sviluppare un sistema a circuito chiuso in tempo reale per gli aggiornamenti dei modelli, assicurandosi che le applicazioni AI aziendali continuino a funzionare nel loro stato ottimale.
8. Massimizzare il valore dell'AI guidando la sinergia con altre tecnologie come cloud, IT, edge computing, blockchain, big data e database.
9. Con una piattaforma di sviluppo completa del portafoglio AI full-stack, aiuta l'AI a diventare un'elemento di base per tutti gli sviluppatori di applicazioni e i lavoratori ICT. Oggi solo esperti altamente qualificati possono lavorare con l'AI.
10. Investire di più in un ecosistema di intelligenza artificiale aperto e costruendo la prossima generazione di talenti di intelligenza artificiale per soddisfare la crescente domanda di persone che sappiano utilizzare  l’intelligenza artificiale.

Ampia adozione di Ascend 310 e ModelArts

In occasione di Huawei Connect 2018, Huawei ha annunciato la sua strategia full-stack di Intelligenza Artificiale e il suo portafoglio AI per tutti gli scenari, incluso il processore AI Ascend 310 e ModelArts che fornisce servizi di produzione di modelli a pipeline completa.

Ascend 310 è il primo AI System on a Chip (SoC) commerciale della serie Ascend-Mini di Huawei. Con un consumo energetico massimo di 8W, Ascend 310 offre 16 TeraOPS in precisione intera (INT8) e 8 TeraFLOPS in mezza precisione (FP16), rendendolo il SoC AI più potente per l’edge computing. Viene inoltre fornito con un decodificatore video FHD a 16 canali.

Sin dal suo lancio, Ascend 310 ha già visto un'ampia adozione in una vasta gamma di prodotti e servizi cloud. Ad esempio, il Mobile Data Center (MDC) 300 di Huawei, che impiega Ascend 310, è stato utilizzato da molte case automobilistiche nei bus navetta, veicoli a nuova energia e guida autonoma.

La scheda di accelerazione Ascend serie 310 con tecnologia Atlas e il server fanno ora parte di decine di soluzioni del settore (ad es. trasporto intelligente e rete intelligente) sviluppate da dozzine di partner.

Ascend 310 abilita anche i servizi Huawei Cloud come l'analisi delle immagini, il riconoscimento ottico dei caratteri (OCR) e l'analisi video intelligente. Esistono più di 50 API per questi servizi. Al momento, il numero di chiamate API al giorno ha superato i 100 milioni e si stima che questa cifra raggiungerà i 300 milioni entro la fine del 2019. Più di 100 aziende stanno utilizzando Ascend 310 per sviluppare i propri algoritmi AI.

ModelArts di Huawei offre servizi di sviluppo di modelli che coprono l'intera pipeline, dalla raccolta dei dati e dallo sviluppo del modello alla formazione e implementazione del modello. Attualmente, oltre 30.000 sviluppatori utilizzano ModelArts per gestire oltre 4.000 attività di formazione al giorno (per un totale di 32.000 ore di formazione). Tra questi compiti, l'85% è legato all'elaborazione visiva, il 10% è destinato all'elaborazione di dati audio e il 5% è legato all'apprendimento automatico.

Con il lancio odierno di Ascend 910 e MindSpore, Huawei ha svelato tutti i componenti chiave del suo portafoglio AI full-stack e per tutti gli scenari. "Tutto procede secondo i piani. Abbiamo promesso un portafoglio AI completo per tutti gli scenari. E oggi lo abbiamo consegnato", ha dichiarato Xu. Questo lancio è una nuova pietra miliare nella roadmap AI di Huawei; è anche un nuovo inizio.

Alla fine della presentazione, Xu ha aggiunto che Huawei farà il suo debutto con altri prodotti AI nella sua prossima conferenza, Huawei Connect 2019, che si terrà tra il 18 e il 20 settembre a Shanghai. Huawei sta lavorando a stretto contatto con i suoi partner per rendere l'AI più pervasiva e accessibile e contribuire a portare i vantaggi della tecnologia digitale a ogni persona, casa, veicolo e organizzazione.