Qualys ha aggiornato la sua soluzione TotalAI, per offrire visibilità e controllo e proteggere in modo più sicuro e solido l’intera pipeline MLOps aziendale, dalla fase di sviluppo fino al deployment. Le organizzazioni potranno ora testare rapidamente i propri modelli linguistici di grandi dimensioni (LLM), anche durante i cicli di test in fase di sviluppo. Con una protezione più solida contro un numero maggiore di attacchi e funzionalità di scansione on-premise grazie a uno scanner LLM interno.
Colmare il divario tra innovazione e implementazione sicura
Con l’attuale corsa all’adozione dell’AI, le aziende si stanno muovendo a un ritmo senza precedenti, spesso senza implementare i controlli di sicurezza fondamentali necessari per gestire i rischi. Uno studio ha rilevato che il 72% dei CISO è preoccupato che le soluzioni di genAI possano causare violazioni della sicurezza nelle proprie organizzazioni. Le imprese hanno bisogno di una soluzione più efficace per colmare il divario tra innovazione e implementazione sicura.
Aggiornata la soluzione TotalAI anche per risolvere le esposizioni specifiche dell’AI
Qualys TotalAI è progettato specificamente per affrontare le particolari sfide legate ai rischi dell’AI. Andando oltre le semplici valutazioni dell’infrastruttura per testare direttamente i modelli alla ricerca di vulnerabilità di jailbreak, bias, esposizione di informazioni sensibili e rischi critici mappati sull’OWASP Top 10 per i LLM. Adottando un approccio basato sul rischio, TotalAI non si limita a individuare le esposizioni specifiche dell’AI. Infatti aiuta anche i team a risolverle più rapidamente, proteggere la resilienza operativa e mantenere la fiducia nel brand.
Più rapidità nello sviluppo di applicazioni AI
Grazie a TotalAI i clienti potranno beneficiare di:
prioritizzazione automatica dei rischi di sicurezza dell’AI. I risultati vengono mappati rispetto a tattiche avversarie reali tramite MITRE ATLAS e automaticamente prioritizzati dal motore di scoring Qualys TruRisk. Consentendo ai team di sicurezza, IT e MLOps di concentrarsi sui rischi più critici per il business.
Sviluppo di applicazioni AI più rapido e sicuro. Grazie al nuovo scanner LLM interno on-premise, le organizzazioni possono ora integrare un test di sicurezza completo dei modelli LLM durante le fasi di sviluppo, staging e deployment. Il tutto senza mai esporre i modelli esternamente. Questo approccio ‘shift-left’, che incorpora sicurezza e testing delle applicazioni basate su AI nei flussi di lavoro CI/CD esistenti, rafforza sia l’agilità che la postura di sicurezza. Garantendo, al contempo, che i modelli sensibili rimangano protetti dietro i firewall aziendali.
Difesa in modo potenziato dalle minacce emergenti dell’AI. TotalAI ora si espande per rilevare 40 diversi scenari di attacco. Inclusi tecniche avanzate di jailbreak, iniezioni e manipolazioni di prompt, exploit multilingue e amplificazione dei bias. Gli scenari ampliati simulano tattiche avversarie reali e rafforzano la resilienza dei modelli contro gli exploit. Questo impedisce agli attaccanti di manipolare i risultati o eludere le misure di protezione.
Protezione da exploit cross-modali con copertura delle minacce multimodali. Il rilevamento multimodale avanzato di TotalAI identifica prompt o alterazioni nascoste all’interno di immagini, audio e video progettati per manipolare i risultati dei LLM, aiutando le organizzazioni a proteggersi dagli exploit cross-modali.
La soluzione TotalAI comprende ora il rilevamento multimodale avanzato
Sumedh Thakar, Presidente e CEO di Qualys L’AI sta rimodellando il modo in cui le aziende operano, ma con questa innovazione arrivano anche nuovi e complessi rischi. TotalAI offre visibilità, intelligence e automazione necessarie per rimanere agili e sicuri, proteggendo i carichi di lavoro AI in ogni fase dallo sviluppo fino al deployment. Siamo orgogliosi di guidare la strada con la soluzione più completa del settore, aiutando le aziende a innovare con fiducia, rimanendo al contempo avanti rispetto alle minacce emergenti dell’AI.
