Aggiornamenti recenti Dicembre 11th, 2024 9:00 AM
Dic 05, 2023 Marina Londei Minacce, News, RSS, Vulnerabilità 0
Che i sistemi di intelligenza artificiale fossero vulnerabili a diverse tecniche di attacco lo sapevamo già, ma a quanto pare la situazione è peggiore di quanto immaginavamo. Alcuni ricercatori della North Carolina University hanno approfondito la portata degli “adversarial attacks”, ovvero degli attacchi volti a manipolare i dati in input delle reti neurali per alterare l’output e generare contenuti potenzialmente dannosi, scoprendo che queste vulnerabilità sono molto più comuni di quanto si credeva.
Prendendo come esempio i sistemi di riconoscimento delle immagini nei veicoli a guida autonoma, un attaccante potrebbe attaccare uno sticker su uno Stop impedendo al modello di riconoscere il segnale.
Tianfu Wu, co-autore della ricerca, ha spiegato che nella maggior parte dei casi, anche se si apportano modifiche ai segnali, un’IA addestrata adeguatamente riesce comunque a riconoscere le indicazioni; ma “se il sistema ha una vulnerabilità e un attaccante la conosce, può trarne vantaggio e provocare incidenti” ha affermato Wu. Il problema è che le vulnerabilità sono molto frequenti nei sistemi di IA.
Il gruppo di ricercatori ha testato le vulnerabilità delle reti neurali sviluppando QuadAttacK, un programma che sfrutta la programmazione quadratica per comprendere come un sistema di IA prende le decisioni sulla base dei dati di input e trovare il modo di manipolarli per compromettere il sistema.
Nei test i ricercatori hanno messo alla prova quattro reti neurali tra le più utilizzate al mondo. “Siamo rimasti sorpresi nel constatare che tutte e quattro queste reti erano molto vulnerabili agli adversarial attacks” ha affermato Wu, sottolineando di essere riusciti a far mostrare a questi sistemi ciò che volevano nella maggior parte dei test.
Il paper con la ricerca completa sarà presentato ufficialmente il prossimo 16 dicembre in occasione della 37° conferenza sui Neural Information Processing Systems. QuadAttacK sarà disponibile dallo stesso giorno su GitHub per permettere agli sviluppatori di mettere a punto le proprie reti neurali.
Dic 02, 2024 0
Nov 25, 2024 0
Nov 21, 2024 0
Nov 04, 2024 0
Dic 11, 2024 0
Dic 10, 2024 0
Dic 09, 2024 0
Dic 09, 2024 0
Dic 10, 2024 0
In Cina scoppia il mercato nero dei dati sensibili: oltre a...Dic 09, 2024 0
Quali strumenti vengono usati in Italia per tracciare gli...Dic 06, 2024 0
Sempre più gruppi hacker stanno sfruttando gli eventi...Dic 05, 2024 0
Il settore della cyber insurance si sta espandendo: se...Dic 04, 2024 0
Le festività e gli weekend sono i periodi peggiori per le...Ott 09, 2024 0
Negli ultimi anni sempre più aziende stanno sottoscrivendo...Ott 02, 2024 0
Grazie al machine learning, il Global Research and Analysis...Set 30, 2024 0
Il 2024 è l’anno delle nuove normative di sicurezza:...Mag 21, 2024 0
Una delle sfide principali delle aziende distribuite sul...Mag 08, 2024 0
L’ultimo non è stato un buon anno per Microsoft:...Dic 11, 2024 0
I ricercatori di ESET hanno scoperto il primo bootkit...Dic 10, 2024 0
In Cina scoppia il mercato nero dei dati sensibili:Dic 09, 2024 0
Quali strumenti vengono usati in Italia per tracciare gli...Dic 09, 2024 0
La Cybersecurity and Infrastructure Security Agency (CISA)...Dic 09, 2024 0
Nel corso di questa settimana, il CERT-AGID ha individuato...