Aggiornamenti recenti Luglio 26th, 2024 2:16 PM
Dic 05, 2023 Marina Londei Minacce, News, RSS, Vulnerabilità 0
Che i sistemi di intelligenza artificiale fossero vulnerabili a diverse tecniche di attacco lo sapevamo già, ma a quanto pare la situazione è peggiore di quanto immaginavamo. Alcuni ricercatori della North Carolina University hanno approfondito la portata degli “adversarial attacks”, ovvero degli attacchi volti a manipolare i dati in input delle reti neurali per alterare l’output e generare contenuti potenzialmente dannosi, scoprendo che queste vulnerabilità sono molto più comuni di quanto si credeva.
Prendendo come esempio i sistemi di riconoscimento delle immagini nei veicoli a guida autonoma, un attaccante potrebbe attaccare uno sticker su uno Stop impedendo al modello di riconoscere il segnale.
Tianfu Wu, co-autore della ricerca, ha spiegato che nella maggior parte dei casi, anche se si apportano modifiche ai segnali, un’IA addestrata adeguatamente riesce comunque a riconoscere le indicazioni; ma “se il sistema ha una vulnerabilità e un attaccante la conosce, può trarne vantaggio e provocare incidenti” ha affermato Wu. Il problema è che le vulnerabilità sono molto frequenti nei sistemi di IA.
Pixabay
Il gruppo di ricercatori ha testato le vulnerabilità delle reti neurali sviluppando QuadAttacK, un programma che sfrutta la programmazione quadratica per comprendere come un sistema di IA prende le decisioni sulla base dei dati di input e trovare il modo di manipolarli per compromettere il sistema.
Nei test i ricercatori hanno messo alla prova quattro reti neurali tra le più utilizzate al mondo. “Siamo rimasti sorpresi nel constatare che tutte e quattro queste reti erano molto vulnerabili agli adversarial attacks” ha affermato Wu, sottolineando di essere riusciti a far mostrare a questi sistemi ciò che volevano nella maggior parte dei test.
Il paper con la ricerca completa sarà presentato ufficialmente il prossimo 16 dicembre in occasione della 37° conferenza sui Neural Information Processing Systems. QuadAttacK sarà disponibile dallo stesso giorno su GitHub per permettere agli sviluppatori di mettere a punto le proprie reti neurali.
Lug 22, 2024 0
Lug 01, 2024 0
Giu 17, 2024 0
Giu 11, 2024 0
Lug 26, 2024 0
Lug 26, 2024 0
Lug 25, 2024 0
Lug 25, 2024 0
Lug 26, 2024 0
Parigi è al centro dell’attenzione mondiale per le...Lug 24, 2024 0
Il 19 luglio 2024 è una data che rimarrà impressa per...Lug 24, 2024 0
Con l’obiettivo di assicurare un adeguato livello di...Lug 23, 2024 0
Le password sono ormai universalmente riconosciute come un...Lug 23, 2024 0
Sembra un numero fin troppo elevato, ma è tutto vero:...Mag 21, 2024 0
Una delle sfide principali delle aziende distribuite sul...Mag 08, 2024 0
L’ultimo non è stato un buon anno per Microsoft:...Mag 04, 2018 0
E se vi dicessimo che la saga di Star Wars ...Nov 14, 2016 2
Abbiamo rubato al blog di Kaspersky un vecchio pezzo di...Nov 08, 2016 2
Il numero uno degli scacchi mondiali Magnus Carlsen ha...Lug 26, 2024 0
Parigi è al centro dell’attenzione mondiale per le...Lug 26, 2024 0
Tanti videogiocatori si affidano ai cheat per avere più...Lug 25, 2024 0
I ricercatori di ESET hanno scoperto EvilVideo, una...Lug 25, 2024 0
Daggerfly, gruppo di cybercriminali cinesi conosciuto anche...Lug 24, 2024 0
Il 19 luglio 2024 è una data che rimarrà impressa...