Microsoft Build 2023, Qualcomm con Microsoft illustra le novità nel campo della AI generativa on-device, che rendono queste soluzioni ancora più accessibili, affidabili e private. Tra queste l’IA generativa in esecuzione sulle piattaforme di calcolo Snapdragon, oltre a nuovi percorsi per gli sviluppatori che realizzano applicazioni per i PC Windows 11 alimentati da Snapdragon.
Nuove esperienze utente
Ziad Asghar, Senior Vice President of Product Management di Qualcomm Technologies Affinché l’AI generativa diventi veramente mainstream, gran parte dell’inferenza dovrà essere eseguita sui dispositivi edge. Il nostro hardware e software AI migliore della categoria consente agli sviluppatori di sfruttare appieno le nostre potenti capacità di intelligenza artificiale. Offrendo così nuove incredibili esperienze utente su laptop, telefoni e altri dispositivi dotati di Snapdragon.
AI on-device anche in dispositivi più piccoli
Il futuro dell’AI deve includere sia l’AI su dispositivo che quella su cloud. L’esecuzione di applicazioni AI sul dispositivo migliora l’efficacia dei costi, la privacy, la personalizzazione e la latenza. Le piattaforme Snapdragon includono un Qualcomm AI Engine dedicato che elabora i carichi di lavoro AI in modo più efficiente rispetto all’elaborazione puramente su CPU o GPU. Questo rende possibile l’AI on-device anche in dispositivi piccoli, sottili e leggeri.
Più accessibili, affidabili e private
Durate l’evento Qualcomm Technologies ha mostrato strumenti per aiutare a sviluppare l’AI generativa sulla prossima generazione di PC Windows 11. Stable Diffusion, un modello di AI generativa da testo a immagine con oltre 1 miliardo di parametri, si esegue ora interamente sul dispositivo. L’azienda inoltre ha sostenuto di prevedere l’esecuzione di modelli con fino a 10 miliardi di parametri sui dispositivi nei prossimi mesi, compresi i modelli linguistici di grandi dimensioni (LLM). Per migliorare il Qualcomm AI Stack e aiutare gli sviluppatori a creare la prossima generazione di esperienze AI su dispositivo, Qualcomm AI Engine Direct SDK reso disponibile per la prima volta durante il Microsoft Build. Con ONNX Runtime e Qualcomm AI Stack, è possibile eseguire i carichi di lavoro AI su Snapdragon 8cx Gen 3 AI Engine sia su Surface Pro 9 5G che su Lenovo ThinkPad x13s.
Accelerare le opportunità
Pavan Davuluri, Corporate VP, Windows Silicon and System Integration di Microsoft Per estendere l’AI al vasto universo dei dispositivi e delle applicazioni sono necessari sia il cloud che l’elaborazione dei dispositivi. Riunendo la leadership di Microsoft nel cloud AI e le capacità della piattaforma Windows con l’esperienza di Qualcomm Technologies nell’AI su dispositivo, accelereremo le opportunità di esperienze di AI generativa.
Più accessibili, affidabili e private
Durante Microsoft Build, Qualcomm Technologies ha mostrato, inoltre, i miglioramenti delle prestazioni disponibili quando le applicazioni più diffuse vengono compilate in modo nativo per Snapdragon. Ha debuttato anche un nuovo portale per gli sviluppatori che raccoglie gli strumenti, le risorse e il supporto per lo sviluppo di Windows su Snapdragon in un’unica posizione facile da usare.
