GEN AI & EVOLUZIONE DEI PROCESSORI
L’avvento della Generative AI ed il consolidarsi dei modelli di Machine Learning, che ha portato e sta portando forti cambiamenti in tutti i settori, ha rivoluzionato anche il modo di pensare ai processori.
Sono stati, infatti, introdotti sul mercato i primi processori dotati di una nuova unità di calcolo, denominata NPU, ovvero Neural Processing Unit.
Questa unità è stata pensata per rendere più rapidi ed efficienti tutti i task che rientrano nel contesto dell’Intelligenza Artificiale, come ad esempio la generazione degli output di specifici algoritmi di machine learning (es. object recognition) o, ancora, la fruizione delle funzionalità presenti all’interno del nuovo Copilot di Windows 11 (che introduce, di fatto, un assistente di tipo AI all’interno del sistema operativo Microsoft).
Negli ultimi anni, stiamo assistendo a un progressivo consolidamento sul mercato delle applicazioni basate sull’AI e questa tendenza ha portato a un aumento significativo delle esigenze in termini di potenza computazionale.
Da un lato, le schede grafiche (GPU) offrono eccellenti capacità di calcolo, sebbene a scapito di consumi energetici che variano notevolmente in base al carico di lavoro. Dall'altro, i processori dotati di Neural Processing Unit (NPU) rappresentano un'alternativa sempre più attraente. Questi processori sono in grado di garantire un elevato numero di operazioni al secondo (OPS) con un consumo energetico significativamente ridotto.
Per quantificare le prestazioni di una NPU, è stata introdotta una nuova unità di misura: le Tera-Operations-Per-Second (TOPS). Per esempio, oggi è possibile trovare una NPU capace di raggiungere circa 40 TOPS integrata in una CPU da 8 core e 16 thread, con un Thermal Design Power (TDP) compreso tra 15 e 28 watt.
Questa innovazione rappresenta un passo avanti significativo nel campo della tecnologia AI, consentendo lo sviluppo di applicazioni sempre più sofisticate senza compromettere l'efficienza energetica.