Intelligenza artificiale? No problem con le misure di sicurezza

In questi anni si sente parlare di ricerche o di esperimenti legati all’Intelligenza Artificiale o Al ossia la tecnologia applicata a meccanismi legati per facilitare la vita delle persone. Al ha iniziato a entrare nell’economia con meccanismi tecnologici che permettono l’automatizzazione del lavoro, la velocità del processo produttivo e la riduzione della manodopera. Inoltre, sono stati progettati sempre più software che assomigliano e vanno a sostituire le azioni su determinati processi, altrimenti eseguiti dall’uomo.

La scienza applica la tecnologia ai sistemi tramite algoritmi applicati alle funzioni che devono eseguire. Basti pensare a un PC: esso stesso è una macchina che possiede un’Intelligenza Artificiale cioè esegue i comandi dell’uomo. E come ogni macchina, ci possono essere degli errori di sistema risolvibili o meno, o molto più rischioso gli algoritmi definiti ‘di apprendimento automatico’ che eseguono cioè i comandi dell’uomo in queste macchine quasi in modo automatico, possono esser hackerati e perciò possono creare un danno per la nostra sicurezza. Il ricercatore Battista Biggio dell’Università di Cagliari, ha portato alcuni esempi di errore basati su esperimenti di macchine applicate all’Intelligenza Artificiale:

• Automobili a guida automatica: alcuni ricercatori dell’Università di Berkeley hanno messo alcuni adesivi su un segnale di ‘Stop’ e hanno dimostrato che l’auto riconosceva il segnale come un limite di velocità e non come un segnale vero e proprio di stop;

• Riconoscimento facciale: questo esperimento è stato eseguito dagli stessi ricercatori che hanno progettato un particolare tipo di occhiali. L’algoritmo di quest’occhiale ha confuso l’identità di un uomo di 41 anni è stata scambiata con l’immagine di famosa attrice. In questo caso il ‘rumore’ dell’occhiale è stato costruito apposta per ingannare l’algoritmo;

• Cybersecurity: l’esperimento è stato fatto dal laboratorio dell’Università di Cagliari, dove è stato simulato un attacco a una rete neurale per il rilevamento di malware veicolati ed eseguibili in Windows. Se vengono aggiunti dei byte alla fine del programma, si è visto che l’algoritmo di calcolo per il riconoscimento di malware non riesce a riconoscere il potenziale danno, ma “apprende” solo correlazioni spurie che non hanno significato con il risultato della vera minaccia per la sicurezza del programma.

Come funzionano gli attacchi all’Intelligenza Artificiale?

Un algoritmo è un’ottimizzazione numerica su grandi quantità di dati e perciò chi progetta un algoritmo ha come obiettivo di prevedere già che ci sia l’errore in minima parte nell’insieme di dati. Per esempio, se vogliamo che il nostro computer trovi fuori un’immagine di un cane a partire dalla dicitura delle parole da tastiera: l’algoritmo ‘cane’ entra in funzione al momento del nostro invio e se in quel momento entra un certo “rumore” o un’interferenza, il risultato dell’algoritmo ci restituisce un’immagine del tutto diversa. In questo caso, in un computer il cosiddetto “rumore” entrato nell’algoritmo si chiama in generale “virus”, il quale può minare dal tutto il nostro dispositivo partendo inizialmente dalla sicurezza dei nostri dati sensibili. E così in tutte le macchine ad Intelligenza Artificiale avviene questo alto rischio: le interferenze vengono studiate e progettate perfettamente dagli utenti hacker apposta per confondere gli algoritmi di apprendimento automatico nei dispositivi ad Intelligenza Artificiale.       

Come evitare questi attacchi?

Nel caso dei computer e in generale degli smartphone/tablet, le due uniche opzioni consigliabili  e necessarie a chi li possiede sono:

• avere un buon antivirus capace di proteggere sempre l’intero dispositivo;

• stare all’occhio a dove si va a cliccare nel web e nella propria mail (vedi l’articolo ‘Email phishing: come proteggersi’

Oltre al Corso Cyber Security Avanzato che vi insegnerà come gestire e proteggere al meglio le vostri reti ed infrastrutture, Nexsys Solutions mette a disposizione il Corso Security & Privacy per insegnarvi come proteggere le vostre informazioni adottando le misure di sicurezza necessarie.