AI e Cybersecurity

AI Red Teaming per una governance sicura dell’intelligenza artificiale

AI Red Teaming per una governance sicura dell’intelligenza artificiale

L’adozione dell’intelligenza artificiale nelle organizzazioni sta accelerando: dai chatbot per il customer service agli assistenti basati su LLM, fino ai sistemi agentici in grado di interagire con dati e processi aziendali, le imprese stanno sperimentando nuove forme di automazione e supporto decisionale. Cresce però in parallelo la consapevolezza sui rischi legati a un uso poco accorto dell’AI (basti pensare al recente ordine esecutivo firmato dal presidente Trump per permettere al governo Usa un accesso di 30 giorni ai modelli AI di nuova introduzione prima del rilascio pubblico).
In questo contesto emerge l’interesse per una disciplina destinata a diventare sempre più rilevante: l’AI Red Teaming, un insieme di attività volte a verificare la robustezza, l’affidabilità e la sicurezza dei sistemi di intelligenza artificiale, simulando comportamenti anomali, errori o veri e propri attacchi per individuare vulnerabilità prima che possano produrre conseguenze operative o reputazionali. Ne parliamo in questa intervista con Federico Cerutti, Full Professor of Robust and Trustworthy Artificial Intelligence presso l’Università di Brescia e direttore del Master di II Livello in Cybersecurity e Compliance Aziendale Integrata presso lo stesso ateneo, che su questo tema interverrà nel corso del CISO PANEL di TIG, il prossimo 15 settembre.

Read More

Una corsa contro il tempo per il futuro digitale

Una corsa contro il tempo per il futuro digitale

Il panorama della sicurezza informatica ha varcato la soglia di una nuova era, definita da una variabile che sta riscrivendo le regole: la velocità. Fino a pochi anni fa, le strategie di difesa erano progettate per minacce che si sviluppavano seguendo tempi “umani”, lasciando quindi ai team di sicurezza delle organizzazioni pubbliche o private tempo sufficiente per analizzare avvisi e approvare interventi. Oggi, l’integrazione dell’intelligenza artificiale nelle operazioni offensive ha compresso questi tempi in pochi minuti o addirittura secondi, creando un divario di velocità (speed gap) che sta mettendo a rischio la difesa.

Read More

Governare AI e identità, la nuova frontiera del trust digitale

Governare AI e identità, la nuova frontiera del trust digitale

Dall’AI alle identità macchina, passando per Zero Trust e continuità operativa: la governance della sicurezza entra in una nuova fase, dove il perimetro si dissolve e il trust va ripensato dalle fondamenta. La crescente adozione dell’intelligenza artificiale, l’esplosione delle identità non umane e la convergenza tra mondo digitale e fisico stanno ridefinendo profondamente il concetto di sicurezza. È in questo scenario che si è sviluppata la Roundtable “Governare l’AI, gestire identità utenti e macchine, garantire continuità e preservare il trust”, del CISO LEADERS SUMMIT dello scorso 26 e 27 marzo a Baveno, evento che ha riunito CISO, CIO ed esperti della cybersecurity per mettere a confronto esperienze e visioni. Come ha esordito Giancarlo Calzetta, Research e Content Manager di TIG, un punto emerge con chiarezza: non si tratta più solo di difendere sistemi, ma di governare ecosistemi complessi, dove dati, identità e automazione sono il vero perimetro da proteggere.

Read More

AI compliance in cybersecurity: tra uso diffuso e governance immatura

AI compliance in cybersecurity: tra uso diffuso e governance immatura

Dall’uso “inconsapevole” dell’AI nelle aziende alla necessità di dimostrare la compliance: il vero nodo non è la norma, ma la capacità di governare persone, processi e fornitori. L’intelligenza artificiale è già entrata nelle aziende: non come progetto strutturato, ma come pratica quotidiana, diffusa e spesso non governata. È da questo paradosso che parte la riflessione di Valentina Frediani, Founder e CEO di Colin & Partners, nel suo intervento “AI Compliance in Cybersecurity” durante il CISO LEADERS SUMMIT, lo scorso 26 e 27 marzo a Baveno. 

Read More

Bilanciare AI e cybersecurity nei percorsi di trasformazione digitale

Bilanciare AI e cybersecurity nei percorsi di trasformazione digitale

L’intelligenza artificiale (AI) è oggi un potente alleato della trasformazione digitale, ma richiede un uso consapevole e regolamentato, soprattutto in ambito business e cybersecurity. In questa intervista, anticipazione del CISO Panel del 18 settembre, Paolo Cannistraro, CISO di Engie Italia, evidenzia come l’AI rappresenti una doppia sfida: da un lato abilita nuove opportunità, dall’altro introduce rischi significativi, tra cui bias, perdita di controllo sui dati, deepfake e automazione degli attacchi informatici. Tuttavia, se ben governata, può potenziare la difesa cyber grazie a funzioni predittive, analisi comportamentali e automazione delle risposte agli incidenti.

Read More

Ora disponibile il libro Sicurezza Cercasi. La Cybersecurity nell’era dell’AI

Ora disponibile il libro Sicurezza Cercasi. La Cybersecurity nell’era dell’AI

L’integrazione dell’intelligenza artificiale con la cybersicurezza è una delle evoluzioni più interessanti che riguardano il vasto ambito dell’IA. Già utilizzata per rilevare gli attacchi informatici, l’IA è fondamentale per rispondere efficacemente in caso di attacco. L’intelligenza artificiale, tuttavia, può sfociare anche in utilizzi malevoli, cui il responsabile della cybersecurity deve prestare molta attenzione: tra le minacce più insidiose vi è sicuramente il deepfake, una tecnica che impiega l’IA generativa per creare identità sintetiche che riproducono, nella voce e nelle sembianze, persone reali.

Read More

AI e Cybersecurity: un’arma a doppio taglio

AI e Cybersecurity: un’arma a doppio taglio

L’AI sta dimostrando di essere un’arma potente nelle mani dei cyber criminali. Le evoluzioni di questa tecnologia sono rapidissime, e solo il futuro ci dirà in quali ambiti si affermerà maggiormente. Le normative, come l’AI Act, faticano a tenere il passo con la tecnologia. La sicurezza dell’AI è complessa, tra attacchi adversarial e allucinazioni, servirebbe un approccio rigoroso e un quadro etico chiaro per evitare che la tecnologia possa sfuggire al nostro controllo. Abbiamo affrontato il problema del giusto bilanciamento di AI e cybersecurity con Alessandro Curioni, Presidente di DI.GI. Academy, che su questi temi interverrà nel corso del Cybersecurity Summit 2025 di TIG, il prossimo 19 e 20 marzo a Milano.

Read More

Mitigare i rischi cyber con l’AI

Mitigare i rischi cyber con l’AI

Andrea Licciardi“La IA associata alla cybersecurity è sorprendentemente efficace e rivoluzionaria – quasi come se avesse studiato per questo!”, ho affermato con un misto di serietà e un pizzico di ironia durante l’evento TIG, sottolineando non solo il mio entusiasmo ma anche la profonda convinzione nell’efficacia dell’intelligenza artificiale come strumento rivoluzionario nel campo della sicurezza informatica. Nel mio ruolo di co-fondatore di CISOs4AI e Senior Cyber Security Manager in Maire ho avuto il privilegio di navigare al fronte delle innovazioni in questo settore, osservando da vicino come l’IA non sia solo un’aggiunta luccicante al vasto arsenale di strumenti di sicurezza, ma un vero game changer che sta ridisegnando le strategie di difesa.

Read More