Aggiornamenti recenti Aprile 26th, 2024 9:14 AM
Dic 05, 2023 Marina Londei Minacce, News, RSS, Vulnerabilità 0
Che i sistemi di intelligenza artificiale fossero vulnerabili a diverse tecniche di attacco lo sapevamo già, ma a quanto pare la situazione è peggiore di quanto immaginavamo. Alcuni ricercatori della North Carolina University hanno approfondito la portata degli “adversarial attacks”, ovvero degli attacchi volti a manipolare i dati in input delle reti neurali per alterare l’output e generare contenuti potenzialmente dannosi, scoprendo che queste vulnerabilità sono molto più comuni di quanto si credeva.
Prendendo come esempio i sistemi di riconoscimento delle immagini nei veicoli a guida autonoma, un attaccante potrebbe attaccare uno sticker su uno Stop impedendo al modello di riconoscere il segnale.
Tianfu Wu, co-autore della ricerca, ha spiegato che nella maggior parte dei casi, anche se si apportano modifiche ai segnali, un’IA addestrata adeguatamente riesce comunque a riconoscere le indicazioni; ma “se il sistema ha una vulnerabilità e un attaccante la conosce, può trarne vantaggio e provocare incidenti” ha affermato Wu. Il problema è che le vulnerabilità sono molto frequenti nei sistemi di IA.
Il gruppo di ricercatori ha testato le vulnerabilità delle reti neurali sviluppando QuadAttacK, un programma che sfrutta la programmazione quadratica per comprendere come un sistema di IA prende le decisioni sulla base dei dati di input e trovare il modo di manipolarli per compromettere il sistema.
Nei test i ricercatori hanno messo alla prova quattro reti neurali tra le più utilizzate al mondo. “Siamo rimasti sorpresi nel constatare che tutte e quattro queste reti erano molto vulnerabili agli adversarial attacks” ha affermato Wu, sottolineando di essere riusciti a far mostrare a questi sistemi ciò che volevano nella maggior parte dei test.
Il paper con la ricerca completa sarà presentato ufficialmente il prossimo 16 dicembre in occasione della 37° conferenza sui Neural Information Processing Systems. QuadAttacK sarà disponibile dallo stesso giorno su GitHub per permettere agli sviluppatori di mettere a punto le proprie reti neurali.
Apr 23, 2024 0
Apr 15, 2024 0
Apr 12, 2024 0
Apr 11, 2024 0
Apr 26, 2024 0
Apr 24, 2024 0
Apr 24, 2024 0
Apr 23, 2024 0
Apr 24, 2024 0
ToddyCat, un gruppo APT che colpisce prevalentemente...Apr 18, 2024 0
La corsa all’IA generativa ha spinto i produttori di...Apr 16, 2024 0
LockBit continua a colpire le organizzazioni di tutto il...Apr 15, 2024 0
Il 41% delle imprese italiane subisce mensilmente attacchi...Apr 12, 2024 0
In occasione del Privacy Tour 2024, l’iniziativa del...Mag 04, 2018 0
E se vi dicessimo che la saga di Star Wars ...Nov 14, 2016 2
Abbiamo rubato al blog di Kaspersky un vecchio pezzo di...Nov 08, 2016 2
Il numero uno degli scacchi mondiali Magnus Carlsen ha...Ott 28, 2016 0
Il pirata informatico che ha creato il ransomware cerca...Ott 11, 2016 0
Dopo la raffica di figuracce, l’azienda sospende per...Apr 26, 2024 0
I ricercatori di Avast hanno scoperto una nuova campagna...Apr 24, 2024 0
I ricercatori di Cisco Talos hanno scoperto una nuova...Apr 24, 2024 0
ToddyCat, un gruppo APT che colpisce prevalentemente...Apr 23, 2024 0
In occasione dell’Italian Partner Conferencetenutasi...Apr 23, 2024 0
Un team di ricercatori ha sviluppato quello che ritengono...