Aggiornamenti recenti Luglio 4th, 2025 3:43 PM
Set 04, 2023 Marina Londei Approfondimenti, Attacchi, Hacking, In evidenza, Minacce, RSS, Vulnerabilità 0
I modelli di intelligenza artificiale migliorano a batter d’occhio, ma la comprensione ancora limitata di essi potrebbe esporre le aziende a gravi problemi di sicurezza. Secondo il National Cyber Security Centre (NCSC), agenzia per la cybersicurezza del Regno Unito, ci sono ancora molti aspetti degli LLM che ci rimangono oscuri, in particolare quelli legati ai rischi e alle vulnerabilità intrinseci dei modelli.
L’NCSC mette in guardia dai pericoli associati all’uso di tecnologie che, guardando alla realtà dei fatti, sono ancora in una fase iniziale di sviluppo caratterizzata dalla necessità di comprendere rischi e benefici, valutando quali pesano di più. La maggior parte delle aziende, intanto, ha già integrato questi strumenti nei propri processi, elogiandoli dopo aver riscontrato un significativo aumento della produttività e dell’efficienza.
Ma a che punto siamo con la cybersecurity nell’ambito dell’intelligenza artificiale? Sfortunatamente i progressi non sono ancora soddisfacenti. Oltre ad automatizzare gli attacchi, rendendo il cybercrimine un’attività accessibile a tutti, i sistemi di IA nascondono dei pericoli per i quali non esistono ancora contromisure efficaci.
Pixabay
Secondo l’NCSC, il rischio principale dei modelli è legato alla prompt injection, una tecnica di attacco che usa degli input creati ad hoc per indurre il chatbot a fornire uno specifico risultato o a eseguire determinate azioni.
L’NCSC condivide un esempio che spiega bene la pericolosità di questo tipo di attacco: consideriamo un chatbot di IA di un istituto bancario in grado di assistere i clienti non solo rispondendo alle loro domande, ma anche eseguendo operazioni sulle loro finanze.
Sfruttando il fatto che un modello di IA non riesce a distinguere un’istruzione dai dati condivisi per completarla, un attaccante potrebbe inviare alla vittima una richiesta di transazione (per esempio impersonando un sito di shopping online) nella quale è nascosto un prompt che, analizzato dal modello, indica al chatbot di trasferire il denaro verso il conto dell’attaccante.
La prompt injection è un tipo di attacco nuovo e ancora poco approfondito che necessita di tecniche specifiche per essere contrastato. Gli esperti di sicurezza sono al lavoro per individuare possibili mitigazioni, ma per il momento non ci sono metodi infallibili.
Credits: ramirezoom- Depositphotos
Come proteggersi, allora? Per il momento la soluzione migliore è limitare le operazioni che un chatbot può eseguire in modo che, anche nello scenario peggiore, non si verifichino gravi conseguenze sulla sicurezza dei consumatori. Per quanto le nuove tecnologie siano entusiasmanti, ci sono ancora troppi pericoli irrisolti per adottarle in maniera diffusa e sicura.
Giu 30, 2025 0
Giu 27, 2025 0
Giu 24, 2025 0
Giu 19, 2025 0
Lug 04, 2025 0
Lug 03, 2025 0
Lug 02, 2025 0
Lug 01, 2025 0
Lug 03, 2025 0
Recentemente il team Satori Threat Intelligence di HUMAN ha...Giu 09, 2025 0
La cybersecurity sta acquisendo sempre più importanza tra...Mag 30, 2025 0
Nel 2024, le piccole e medie imprese, spesso considerate il...Mag 27, 2025 0
MATLAB ha smesso di funzionare per quasi una settimana e...Mag 27, 2025 0
Nel corso del “TRU Security Day 2025” di...Gen 29, 2025 0
Con l’avvento dell’IA generativa...Ott 09, 2024 0
Negli ultimi anni sempre più aziende stanno sottoscrivendo...Ott 02, 2024 0
Grazie al machine learning, il Global Research and Analysis...Set 30, 2024 0
Il 2024 è l’anno delle nuove normative di sicurezza:...Mag 21, 2024 0
Una delle sfide principali delle aziende distribuite sul...Lug 04, 2025 0
Il Sinaloa, un cartello messicano, è riuscito ad...Lug 03, 2025 0
Recentemente il team Satori Threat Intelligence di HUMAN ha...Lug 02, 2025 0
Secondo quanto riportato da un articolo di Bloomberg, un...Lug 01, 2025 0
In un documento congiunto rilasciato ieri, la CISA,...Giu 30, 2025 0
I ricercatori di Koi Security hanno individuato una...